ose faiga fa'asoa fa'amaumauga tu'ufa'atasi matala mo le fa'aogaina o su'esu'ega i luga ole laiga (OLAP) na faia e Yandex. E faʻaaogaina e Yandex, CloudFlare, VK.com, Badoo ma isi auaunaga i le lalolagi atoa e teu ai le tele o faʻamaumauga (faʻaofiina o le afe o laina i le sekone poʻo petabytes o faʻamaumauga o loʻo teuina i luga o le disk).
I se masani, "manoa" DBMS, faʻataʻitaʻiga o MySQL, Postgres, MS SQL Server, faʻamaumauga o loʻo teuina i lenei faasologa:
I lenei tulaga, o tau e fesoʻotaʻi ma le laina tutusa o loʻo teuina faʻatasi i autafa. I le columnar DBMS, o tau mai koluma eseese e teuina eseese, ma o faʻamaumauga o le tasi koluma e teuina faʻatasi:
O faʻataʻitaʻiga o DBMS koluma o Vertica, Paraccel (Actian Matrix, Amazon Redshift), Sybase IQ, Exasol, Infobright, InfiniDB, MonetDB (VectorWise, Actian Vector), LucidDB, SAP HANA, Google Dremel, Google PowerDrill, Druid, kdb +.
O le kamupani ose meli lafo Na amata ona ou faʻaogaina le Clickhouse i le 2018 mo le lipotia ma sa matua faagaeetia lava i lona faigofie, scalability, SQL support, ma le saoasaoa. O le saoasaoa o lenei DBMS o loʻo faʻatatau i togafiti faʻataulāitu.
fīlēmū
Clickhouse faʻapipiʻi i luga o le Ubuntu ma se poloaiga e tasi. Afai e te iloa SQL, e mafai ona e vave amata faʻaaoga Clickhouse mo ou manaʻoga. Ae ui i lea, e le o lona uiga e mafai ona e "faʻaalia le fatuina o le laulau" i MySQL ma kopi-faʻapipiʻi SQL ile Clickhouse.
Pe a faatusatusa i MySQL, o loʻo i ai le eseesega o ituaiga faʻamatalaga i le faʻamatalaga o le laulau i totonu o lenei DBMS, o lea e te manaʻomia ai sina taimi e sui ai faʻamatalaga o le laulau ma aʻoaʻo masini laulau e maua ai le mafanafana.
O le Clickhouse e aoga tele e aunoa ma se isi polokalama faakomepiuta, ae afai e te manaʻo e faʻaoga faʻaoga e te manaʻomia le faʻapipiʻi o le ZooKeeper. Ole su'esu'ega o fa'atinoga e fa'aalia ai fa'ai'uga lelei - o laulau fa'atonu o lo'o iai fa'amatalaga uma, ma e mafai ona maua fa'amaumauga uma ile SQL tuai ma le manaia.
Gaioiga
- Clickhouse versus Vertica ma MySQL faʻatusatusa i luga o le faʻatonuga faʻapipiʻi: lua sockets Intel® Xeon® CPU E5-2650 v2 @ 2.60GHz; 128 GiB RAM; md RAID-5 ile 8 6TB SATA HDD, ext4.
- faʻatusatusaga o le Clickhouse ma Amazon RedShift cloud storage.
- Fa'amatalaga blog :
O le ClickHouse database o loʻo i ai se mamanu faigofie - o nodes uma i le fuifui e tutusa galuega ma faʻaoga naʻo ZooKeeper mo le faʻamaopoopoina. Na matou fausia se tamai fuifui o le tele o nodes ma faia suʻega, lea na matou iloa ai o le faiga e matua mataʻina le faʻatinoga, lea e fetaui ma tulaga lelei o loʻo taʻua i faʻataʻitaʻiga DBMS. Na matou filifili e vaʻavaʻai totoʻa i le manatu i tua o ClickHouse. O le faʻalavelave muamua i suʻesuʻega o le le lava o meafaigaluega ma le faʻalapotopotoga laiti o ClickHouse, o lea na matou suʻesuʻeina ai le mamanu o lenei DBMS e malamalama ai pe faʻapefea ona galue.
E le lagolagoina e le ClickHouse le mauaina saʻo o faʻamatalaga mai Kafka, ona e naʻo se faʻamaumauga, o lea na matou tusia ai la matou lava auaunaga faʻapipiʻi i Go. Na faitau le Cap'n Proto fa'ailoga savali mai Kafka, fa'aliliuina i le TSV, ma fa'aofi i totonu o le ClickHouse i fa'aputuga e ala i le HTTP interface. Na matou toe tusia mulimuli ane lenei auaunaga e faʻaoga le faletusi Go faʻatasi ma la matou lava ClickHouse faʻaoga e faʻaleleia ai le faʻatinoga. Pe a iloiloina le faʻatinoga o le mauaina o pepa, na matou mauaina se mea taua - na faʻaalia mo ClickHouse o lenei faʻatinoga e faʻalagolago malosi i le tele o le afifi, o lona uiga, o le numera o laina faʻapipiʻi i le taimi e tasi. Ina ia malamalama pe aisea e tupu ai lenei mea, na matou suʻesuʻeina pe faʻafefea ona teuina e le ClickHouse faʻamaumauga.
O le afi autu, pe sili atu, o se aiga o masini laulau e faʻaaogaina e ClickHouse mo le teuina o faʻamaumauga, o MergeTree. O lenei afi e foliga tutusa ma le LSM algorithm o loʻo faʻaogaina i Google BigTable poʻo Apache Cassandra, ae aloese mai le fausiaina o se laulau e manatua ai le vaeluagalemu ma tusi saʻo faʻamatalaga i le disk. O le mea lea e maua ai le lelei o le tusitusi, aua o pepa faʻapipiʻi taʻitasi e naʻo le faʻavasegaina o le "key primary", faʻapipiʻi, ma tusia i le tisiki e fai ai se vaega.
O le leai o se laulau manatua poʻo soʻo se manatu o le "fou" o faʻamatalaga o lona uiga e naʻo le faʻaopoopoina, e le lagolagoina e le faiga le suia pe tape. I le taimi nei, na o le pau lava le auala e tape ai faʻamaumauga o le tapeina lea i le masina kalena, aua e le mafai e vaega ona sopoia le tuaoi o le masina. O lo'o galulue malosi le 'au a le ClickHouse i le fa'avasegaina o lenei vaega. I le isi itu, e faia ai le tusitusi ma le tuʻufaʻatasia o vaega e leai se fefinauai, o lea ia maua fua faʻatatau i laina faʻatasi ma le numera o faʻapipiʻi tutusa seia oʻo i le I/O poʻo le cores e tumu.
Ae ui i lea, o lenei tulaga o lona uiga o le faiga e le talafeagai mo tamaʻi paʻu, o lea e faʻaaogaina ai auaunaga a Kafka ma faʻapipiʻi mo le paʻu. E le gata i lea, o le ClickHouse i tua o loʻo faʻaauau pea ona tuʻufaʻatasia vaega, ina ia faʻapipiʻi faʻatasi ma faʻamaumau le tele o faʻamatalaga laiti, ma faʻateleina ai le malosi o le pueina. Ae ui i lea, o le tele o vaega e le feso'ota'i o le a mafua ai le fa'aoso fa'aoso o mea fa'aofi pe a fa'aauau le tu'ufa'atasiga. Ua matou iloa o le fetuutuuna'iga sili i le va o fa'amatalaga fa'amatalaga taimi moni ma le fa'atinoina o le fa'aogaina o le talia lea o se numera fa'atapula'a o fa'aofi i le sekone i totonu o le laulau.
O le ki i le fa'atinoga o le faitau laulau o le fa'asinomaga ma le nofoaga o fa'amaumauga i luga ole tisiki. E tusa lava po o le a le vave o le gaioiga, pe a manaʻomia e le afi ona suʻesuʻe terabytes o faʻamaumauga mai le disk ma faʻaaogaina se vaega, e umi se taimi. ClickHouse o se faleoloa koluma, o lea o vaega taʻitasi o loʻo i ai se faila mo koluma taʻitasi (koluma) ma faʻavasegaina tau mo laina taʻitasi. O le mea lea, o koluma uma e le o iai i le fesili e mafai ona fa'ase'e muamua, ona mafai ai lea ona fa'agasolo le tele o sela fa'atasi ma le fa'atinoina o le vectorized. Ina ia aloese mai le faʻataʻitaʻiga atoa, o vaega taʻitasi e iai se faila faʻailoga laʻititi.
Tuuina atu o koluma uma e fa'avasegaina i le "primary key", o le faila fa'asino igoa o lo'o i ai na'o fa'ailoga (laina pu'eina) o laina Nth ta'itasi, ina ia mafai ona manatua i latou e o'o lava i laulau tetele. Mo se faʻataʻitaʻiga, e mafai ona e setiina tulaga le lelei e "faailoga uma 8192th laina", ona "meager" faasino igoa o se laulau ma le 1 tiliona. laina e faigofie ona manatua e na'o le 122 mataitusi.
Atinae atinae
O le atinaʻeina ma le faʻaleleia o le Clickhouse e mafai ona suʻeina ma ia mautinoa o le faagasologa o le "tuputupu aʻe" o loʻo tupu i se saoasaoa mataʻina.
Lauiloa
E foliga mai o le taʻutaʻua o Clickhouse o loʻo faʻatupulaia faʻateleina, aemaise lava i le gagana Rusia. O le tausaga talu ai High load 2018 conference (Moscow, Novema 8-9, 2018) na faʻaalia ai o monsters e pei o vk.com ma Badoo faʻaaogaina Clickhouse, lea e faʻapipiʻi ai faʻamatalaga (mo se faʻataʻitaʻiga, ogalaau) mai le fiasefulu afe o servers i le taimi e tasi. I se vitio 40 minute . E le o toe mamao ae matou lafoina le tusitusiga i luga o Habr mo le faigofie o le galue ma mea.
Talosaga
A maeʻa le faʻaaluina o sina taimi suʻesuʻe, ou te manatu o loʻo i ai vaega e mafai ona aoga ai le ClickHouse pe mafai ona suia atoa isi fofo masani ma lauiloa e pei o MySQL, PostgreSQL, ELK, Google Big Query, Amazon RedShift, TimescaleDB, Hadoop, MapReduce, Pinot ma Druid. O faʻamatalaga nei o le faʻaogaina o le ClickHouse e faʻaleleia pe suia atoa le DBMS i luga.
Fa'alautele MySQL ma PostgreSQL
Talu ai nei lava, na matou suia ai MySQL i le ClickHouse mo le faʻasalalauga faʻasalalauga . O le faʻafitauli o le MySQL ona o le le lelei o le mamanu na faʻapipiʻiina imeli uma na lafoina ma soʻotaga uma i lena imeli ma se base64 hash, fatuina se laulau MySQL tele (email_stats). Ina ua uma ona auina atu na o le 10 miliona imeli i le au fai saofaga, o lenei laulau na nofoia le 150 GB o le avanoa faila, ma MySQL na amata ona "valea" i luga o fesili faigofie. Ina ia faʻaleleia le faʻafitauli o le avanoa faila, na matou faʻaogaina lelei le faʻaogaina o le laulau InnoDB, lea na faʻaitiitia ai i se vaega o le 4. Ae ui i lea, e le talafeagai le teuina o le sili atu i le 20-30 miliona imeli i MySQL mo naʻo le faitau o le talafaasolopito, e pei o soʻo se fesili faigofie e mo nisi mafuaaga e tatau ona faia se suʻesuʻega atoa iʻuga i swap ma mamafa I / O. i luga o le ulu, lea e masani ona matou maua ai lapataiga a Zabbix.
O le Clickhouse e faʻaaogaina algorithms faʻamalosi e lua e faʻaitiitia ai le aofaʻi o faʻamaumauga e uiga i , ae i lenei tulaga faʻapitoa, o faʻamaumauga na sili ona "compressible".
ELK Suiga
Faʻavae i luga o loʻu lava poto masani, o le ELK stack (ElasticSearch, Logstash ma Kibana, i lenei tulaga faʻapitoa ElasticSearch) e manaʻomia ai le tele o punaoa e tamoe nai lo le manaʻomia e teu ai ogalaau. O le ElasticSearch o se afi sili pe afai e te manaʻo i se suʻesuʻega faʻamaufaʻailoga atoatoa (lea ou te manatu e te le manaʻomia moni), ae o loʻo ou mafaufau pe aisea ua avea ai ma masini faʻapipiʻi masani. O lona faʻaogaina o le faʻatinoga, faʻatasi ma Logstash, na matou maua ai faʻafitauli e oʻo lava i galuega mama mama ma manaʻomia le faʻaopoopoina o le tele ma le tele o le RAM ma le disk space. I le avea ai o se faʻamaumauga, Clickhouse e sili atu nai lo ElasticSearch mo mafuaʻaga nei:
- lagolago ole gagana SQL;
- Le tikeri sili o le faʻamalosi o faʻamaumauga teuina;
- Lagolago mo le suʻesuʻega Regex nai lo le suʻesuʻeina o tusitusiga atoa;
- Fa'aleleia le fa'atulagaina o fesili ma sili atu le fa'atinoga atoa.
I le taimi nei, o le faʻafitauli tele e tulaʻi mai pe a faʻatusatusa le ClickHouse ma le ELK o le leai o ni fofo mo le faʻapipiʻiina o ogalaau, faʻapea foʻi ma le leai o ni faʻamaumauga ma aʻoaʻoga i lenei autu. I le taimi lava e tasi, e mafai e tagata taʻitoʻatasi ona faʻatulagaina le ELK e faʻaaoga ai le Digital Ocean manual, lea e taua tele mo le faʻatinoina vave o ia tekinolosi. O loʻo i ai se masini faʻamaumauga iinei, ae leai se Filebeat mo ClickHouse i le taimi nei. Ioe, e iai ma se faiga mo le galue i ogalaau , o loʻo i ai se meafaigaluega e fa'aulu ai fa'amaumauga faila faila i totonu o le ClickHouse, ae o nei mea uma e mana'omia ai le tele o le taimi. Ae ui i lea, o le ClickHouse o loʻo taʻitaʻia pea le ala ona o lona faigofie, e oʻo lava i tagata amata e mafai ona faigofie ona faʻapipiʻi ma amata faʻaoga atoatoa ile 10 minute.
O le fiafia i fofo laiti, sa ou taumafai e faʻaaoga FluentBit, o se meafaigaluega e faʻapipiʻi ai ogalaau manatua maualalo, ma ClickHouse ao taumafai e aloese mai le faʻaaogaina o Kafka. Ae ui i lea, o nai mea laiti e le fetaui e tatau ona foia, e pei o aʻo leʻi mafai ona faia e aunoa ma le sui sui e faʻaliliuina faʻamaumauga mai le FluentBit i le ClickHouse.
I le avea ai ma se isi mea i Kibana, e mafai ona e faʻaogaina le ClickHouse e fai ma tua . E tusa ai ma loʻu malamalama, e mafai ona mafua ai faʻafitauli faʻatinoga pe a tuʻuina atu se numera tele o faʻamaumauga, aemaise lava i lomiga tuai o Grafana. I Qwintry, matou te leʻi faʻataʻitaʻiina lenei mea, ae o faitioga e uiga i lenei mea e aliali mai i lea taimi ma lea taimi i luga o le ClickHouse support channel i Telegram.
Suiga ole Google Big Query ma Amazon RedShift (fofo mo kamupani tetele)
O le fa'aoga lelei mo le BigQuery o le fa'atūina lea o le 1TB o fa'amaumauga a le JSON ma fa'atautaia ai su'esu'ega au'ili'ili. Big Query ose oloa lelei tele e faigata ona fa'atauva'a. E sili atu le lavelave o polokalama faakomepiuta lea nai lo le ClickHouse o loʻo faʻaogaina i luga o se fuifui totonu, ae mai le vaaiga a le kalani, e tele mea e tutusa ai ma ClickHouse. BigQuery e mafai ona vave "fa'asili i luga" pe a amata ona e totogiina mo FILIFILI ta'itasi, o lona uiga o se tali moni a le SaaS ma ona lelei uma ma mea leaga.
O le ClickHouse o le filifiliga sili lea pe a e faʻatautaia le tele o fesili taugata faʻatusatusa. O le tele o fesili FILIFILI e te faʻatautaia i aso uma, o le tele foi lea o le mea e sui ai le Big Query ma le ClickHouse, aua o sea suitulaga o le a faʻaolaina ai oe i le faitau afe o tala pe a oʻo mai i le tele o terabytes o faʻamaumauga o loʻo faʻatautaia. E le fa'atatau i fa'amaumauga o lo'o teuina, lea e taugofie tele e fa'agasolo ile Big Query.
I se tusiga a Alexander Zaitsev, o le na faavaeina le Altinity o loʻo faʻamatalaina le aoga o sea DBMS migration.
Suiga TimescaleDB
TimescaleDB o se faʻaopoopoga PostgreSQL e faʻamalieina le galue ma taimi faʻasologa i se faʻamaumauga masani (, ).
E ui lava o le ClickHouse e le o se faʻatauvaʻa ogaoga i le faʻasologa o taimi, ae i le tulaga o le fausaga o le columnar ma le vector query execution, e sili atu le vave nai lo TimescaleDB i le tele o tulaga o le faʻaogaina o suʻesuʻega auʻiliʻili. I le taimi lava e tasi, o le faʻatinoga o le mauaina o faʻamaumauga a le ClickHouse e tusa ma le 3 taimi maualuga, faʻaopoopo, e faʻaaogaina le 20 taimi le itiiti ifo o le disk space, lea e taua tele mo le faʻaogaina o voluma tetele o faʻamaumauga faʻasolopito: .
E le pei o le ClickHouse, naʻo le pau lava le auala e faʻasaoina ai se avanoa vaʻaia i le TimescaleDB o le faʻaogaina lea o le ZFS poʻo le faila faila tutusa.
O fa'afouga o lo'o o'o mai i le ClickHouse o le a fa'aalia ai le fa'apipi'iina o le delta, lea o le a sili atu ona talafeagai mo le fa'agaioiina ma le teuina o fa'amaumauga fa'asologa o taimi. TimescaleDB atonu o se filifiliga sili atu nai lo le leai o ClickHouse i tulaga nei:
- tama'i fa'apipi'i fa'atasi ma sina RAM itiiti (<3 GB);
- se numera tele o INSERT laiti e te le manaʻo e faʻapipiʻi i ni vaega tetele;
- sili atu le tutusa, tutusa ma manaoga ACID;
- PostGIS lagolago;
- faʻatasi ma laulau PostgreSQL o iai, talu ai o le Timescale DB o le PostgreSQL.
Fa'atauvaga ma faiga Hadoop ma MapReduce
Hadoop ma isi oloa MapReduce e mafai ona faia le tele o faʻatusatusaga lavelave, ae e masani ona latou tamoʻe i le tele o le latency.ClickHouse faʻaleleia lenei faʻafitauli e ala i le faʻaogaina o terabytes o faʻamaumauga ma maua ai iʻuga toetoe lava a vave. O le mea lea, o le ClickHouse e sili atu le lelei mo le faʻatinoina o suʻesuʻega faʻataʻitaʻiga vave, fesoʻotaʻiga, lea e tatau ona fiafia i ai saienitisi faʻamatalaga.
Tauvaga ma Pinot ma Druid
ClickHouse sili ona tauva o le columnar, linearly scalable open source oloa Pinot ma Druid. O se galuega sili ona lelei e faʻatusatusaina nei faiga o loʻo faʻasalalau i le tusiga Fepuari 1, 2018
O lenei tusiga e manaʻomia le faʻafouina - o loʻo fai mai e le lagolagoina e le ClickHouse le UPDATE ma le DELETE gaioiga, lea e leʻo atoatoa e faʻatatau i lomiga fou.
E le tele so matou poto masani i nei DBMS, ae ou te le fiafia i le lavelave o atinaʻe autu e manaʻomia e faʻatautaia ai Druid ma Pinot - o se vaega atoa o "vaega feʻaveaʻi" o loʻo siomia e Java mai itu uma.
O Druid ma Pinot o Apache incubator projects, o loʻo ufiufi auiliili e Apache i luga o latou itulau o galuega GitHub. Na sau Pinot i totonu o le incubator ia Oketopa 2018, ma Druid na fanau i le 8 masina muamua atu - ia Fepuari.
O le leai o se faʻamatalaga e uiga i le auala e galue ai le AFS ua tulaʻi mai ai nisi, ma atonu o le valea, fesili mo aʻu. Ou te mafaufau pe na matauina e le au tusitala o Pinot o le Apache Foundation e sili atu ona fiafia ia Druid, ma pe o se uiga faapena i se tagata tauva na mafua ai se lagona o le lotoleaga? Pe o le a faʻagesegese le atinaʻeina o Druid ma le atinaʻeina o Pinot pe a faʻafuaseʻi ona fiafia le au lagolago e lagolagoina le muamua?
Le lelei ole ClickHouse
Le matua: E manino lava, o se tekinolosi faʻafefe, ae i soʻo se tulaga, e leai se mea e pei o lenei e vaaia i isi DBMS koluma.
O mea fa'aofi laiti e le lelei le fa'atinoina i le saoasaoa maualuga: e tatau ona vaevae fa'aofi i ni pusi tetele ona o le fa'atinoina o mea fa'apipi'i laiti e fa'aitiitia i le fa'atusatusa i le aofa'i o koluma i laina ta'itasi. O le auala lea e teu ai e le ClickHouse faʻamaumauga i luga o le disk - o koluma taʻitasi o lona uiga o le 1 faila pe sili atu, o lea e faʻapipiʻi ai le laina 1 o loʻo i ai le 100 koluma, e tatau ona e tatalaina ma tusi ia le itiiti ifo ma le 100 faila. O le mea lea e mana'omia ai le fa'apipi'i fa'apipi'i se tagata fa'alaua'itele (se'i vagana ua saunia e le kalani le fa'apolopolo) - e masani lava o le Kafka po'o se ituaiga faiga fa'atonu. E mafai fo'i ona e fa'aogaina le masini laulau fa'apolopolo e kopi mulimuli ane ni pusi tetele o fa'amaumauga i laulau MergeTree.
O faʻatasiga laulau e faʻatapulaʻaina e le server RAM, ae o le mea sili o loʻo i ai iina! Mo se faʻataʻitaʻiga, o Druid ma Pinot e leai ni fesoʻotaʻiga faapena, talu ai e faigata ona faʻatinoina saʻo i faiga faʻasalalau e le lagolagoina le faʻanofoina o pusi tetele o faʻamatalaga i le va o nodes.
sailiiliga
I tausaga a sau, matou te fuafua e faʻaoga tele le ClickHouse i Qwintry, aua o lenei DBMS e maua ai se paleni sili ona lelei o le faʻatinoga, maualalo le maualuga, scalability, ma le faigofie. Ou te mautinoa o le a vave ona salalau pe a oʻo mai le ClickHouse community ma le tele o auala e faʻaoga ai i mea laiti ma feololo.
O nisi faʻasalalauga 🙂
Faafetai mo le nofo faatasi ma i matou. E te fiafia i a matou tala? E te mana'o e va'ai i mea e sili atu ona manaia? Lagolago i matou e ala i le tuʻuina atu o se faʻatonuga pe fautuaina i uo, , o se faʻatusa tulaga ese o sapalai tulaga ulufale, lea na matou faia mo oe: (avanoa ma RAID1 ma RAID10, e oʻo atu i 24 cores ma oʻo atu i le 40GB DDR4).
Dell R730xd 2x taugofie i Equinix Tier IV nofoaga autu o faamatalaga i Amsterdam? Na'o iinei i Netherlands! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - mai le $99! Faitau e uiga i
puna: www.habr.com