ke sistimi e bulehileng ea taolo ea polokelo ea polokelo bakeng sa ts'ebetso ea tlhahlobo ea lipotso inthaneteng (OLAP), e entsoeng ke Yandex. E sebelisoa ke Yandex, CloudFlare, VK.com, Badoo le lits'ebeletso tse ling ho pota lefatše ho boloka lintlha tse ngata haholo (ho kenya mela e likete motsotsoana kapa li-petabyte tsa data tse bolokiloeng ho disk).
Ka DBMS e tloaelehileng, "khoele", mehlala ea eona e leng MySQL, Postgres, MS SQL Server, data e bolokoa ka tatellano e latelang:
Tabeng ena, litekanyetso tse amanang le mola o le mong li bolokiloe haufi le moo. Ho li-DBMS tsa kholumo, litekanyetso tse tsoang likholomong tse fapaneng li bolokoa ka thoko, 'me data e tsoang kholomong e le' ngoe e bolokoa hammoho:
Mehlala ea li-column DBMS ke Vertica, Paraccel (Actian Matrix, Amazon Redshift), Sybase IQ, Exasol, Infobright, InfiniDB, MonetDB (VectorWise, Actian Vector), LucidDB, SAP HANA, Google Dremel, Google PowerDrill, Druid, kdb+.
Khamphani ea ho romella mangolo e qalile ho sebelisa Clickhouse ka 2018 bakeng sa ho tlaleha mme e khahliloe haholo ke bonolo ba eona, scalability, tšehetso ea SQL le lebelo. Lebelo la DBMS ena le ne le ipapisitse le boselamose.
ÐŸÑ Ð¾Ñ Ð¾Ñ Ñ‚Ð¾Ñ‚Ð
Clickhouse e kentsoe ho Ubuntu ka taelo e le 'ngoe. Haeba u tseba SQL, u ka qala hang-hang ho sebelisa Clickhouse bakeng sa litlhoko tsa hau. Leha ho le joalo, sena ha se bolele hore u ka etsa "bontša tafole ea ho bopa" ho MySQL le ho kopitsa-ho beha SQL ho Clickhouse.
Ha ho bapisoa le MySQL, ho na le liphapang tsa bohlokoa tsa mofuta oa data ho litlhaloso tsa schema tsa tafole, kahoo o ntse o tla hloka nako ea ho fetola litlhaloso tsa schema sa tafole le ho ithuta lienjineri tsa tafole ho phutholoha.
Clickhouse e sebetsa hantle ntle le software e 'ngoe, empa haeba u batla ho sebelisa replication, u tla hloka ho kenya ZooKeeper. Tlhahlobo ea ts'ebetso ea potso e bonts'a liphetho tse ntle haholo - litafole tsa sistimi li na le tlhaiso-leseling eohle, 'me lintlha tsohle li ka khutlisoa ho sebelisoa SQL ea khale le e tenang.
Tlhahiso
- papiso ea Clickhouse le Vertica le MySQL ho tlhophiso ea seva: li-sockets tse peli Intel® Xeon® CPU E5-2650 v2 @ 2.60GHz; 128 GiB RAM; md RAID-5 ho 8 6TB SATA HDD, ext4.
- papiso ea Clickhouse le polokelo ea leru ea Amazon RedShift.
- Likarolo tsa blog :
Database ea ClickHouse e na le moralo o bonolo haholo - li-node tsohle ka har'a sehlopha li na le ts'ebetso e ts'oanang 'me li sebelisa ZooKeeper feela bakeng sa khokahano. Re thehile sehlopha se senyenyane sa li-node tse 'maloa mme ra etsa liteko, moo re ileng ra fumana hore sistimi e na le ts'ebetso e khahlang haholo, e tsamaellanang le melemo e boletsoeng ho li-benchmark tsa DBMS. Re nkile qeto ea ho shebisisa mohopolo o ka morao ho ClickHouse. Tšitiso ea pele ea ho etsa lipatlisiso e ne e le khaello ea lisebelisoa le sechaba se senyenyane sa ClickHouse, kahoo re ile ra hlahloba moralo oa DBMS ena ho utloisisa hore na e sebetsa joang.
ClickHouse ha e tšehetse ho amohela data ka kotloloho ho tsoa Kafka kaha ke database feela, kahoo re ngotse tšebeletso ea rona ea adaptara ho Go. E ne e bala melaetsa e kentsoeng ea Cap'n Proto e tsoang Kafka, ea e fetolela ho TSV mme ea e kenya ho ClickHouse ka li-batches ka sebopeho sa HTTP. Hamorao re ile ra ngola ts'ebeletso ena hape ho sebelisa laeborari ea Go mmoho le sebopeho sa ClickHouse ho ntlafatsa ts'ebetso. Ha re hlahloba ts'ebetso ea ho amohela lipakete, re fumane ntho ea bohlokoa - ho ile ha fumaneha hore bakeng sa ClickHouse tshebetso ena e itšetlehile haholo ka boholo ba pakete, ke hore, palo ea mela e kentsoeng ka nako e le 'ngoe. Ho utloisisa hore na hobaneng sena se etsahala, re shebile hore na ClickHouse e boloka data joang.
Enjene ea mantlha, kapa ho fapana le moo, lelapa la lienjineri tsa litafole, tse sebelisoang ke ClickHouse ho boloka data ke MergeTree. Enjene ena e ts'oana ka mokhoa o ts'oanang le algorithm ea LSM e sebelisoang ho Google BigTable kapa Apache Cassandra, empa e qoba ho theha tafole ea memori e bohareng mme e ngola data ka kotloloho ho disk. Sena se fana ka mokhoa o motle oa ho ngola, kaha pakete e 'ngoe le e' ngoe e kentsoeng e hlophisoa feela ka senotlolo sa mantlha, se petelitsoe, 'me se ngolloa disk ho etsa karolo.
Ho ba sieo ha tafole ea memori kapa mohopolo ofe kapa ofe oa "bocha" ba data ho boetse ho bolela hore li ka eketsoa feela; sistimi ha e tšehetse ho fetoha kapa ho hlakola. Hajoale, tsela e le 'ngoe feela ea ho hlakola data ke ho e hlakola ka khoeli ea almanaka, kaha likarolo ha li tšele moeli oa khoeli. Sehlopha sa ClickHouse se sebetsa ka mafolofolo ho etsa hore karolo ena e be bonolo. Ka lehlakoreng le leng, e etsa hore ho ngoloe le ho kopanya likarolo ho se be le likhohlano, kahoo amohela sekala sa phallo ka ho tsamaisana le palo ea tse kentsoeng ka nako e le 'ngoe ho fihlela I/O kapa core saturation e etsahala.
Leha ho le joalo, sena se boetse se bolela hore tsamaiso ha e tšoanelehe bakeng sa lipakete tse nyenyane, kahoo litšebeletso tsa Kafka le li-inserters li sebelisetsoa ho buffer. Ka mor'a moo, ClickHouse e ka morao e ntse e tsoela pele ho kopanya likarolo, e le hore likarolo tse ngata tse nyenyane tsa tlhahisoleseding li tla kopanngoa le ho tlalehoa ka makhetlo a mangata, kahoo li eketsa matla a ho rekota. Leha ho le joalo, likarolo tse ngata tse sa kopanngoeng li tla baka tsitsipano e matla ea ho kenya ha feela ho kopanya ho ntse ho tsoela pele. Re fumane hore ho lumellana ho molemo ka ho fetisisa pakeng tsa ho kenngoa ha nako ea sebele le ts'ebetso ea ho kenngoa ke ho kenya palo e lekanyelitsoeng ea ho kenya ka motsotsoana tafoleng.
Senotlolo sa ts'ebetso ea ho bala tafole ke indexing le sebaka sa data ho disk. Ho sa tsotelehe hore na ts'ebetso e potlakile hakae, ha enjene e hloka ho skena li-terabyte tsa data ho tsoa ho disk mme e sebelise karolo ea eona feela, ho tla nka nako. ClickHouse ke lebenkele la li-column, kahoo karolo ka 'ngoe e na le faele bakeng sa kholomo ka 'ngoe (kholomo) e nang le litekanyetso tse hlophisitsoeng bakeng sa mola o mong le o mong. Ka tsela ena, litšiea tsohle tse sieo potsong li ka tloloa pele, ebe lisele tse ngata li ka sebetsoa ka ho tsamaisana le ts'ebetso ea vectorized. Ho qoba ho skena ka botlalo, karolo ka 'ngoe e na le faele e nyane ea index.
Ka lebaka la hore litšiea tsohle li hlophisoa ka "senotlolo sa mantlha", faele ea index e na le lileibole feela (mela e hapuoeng) ea mola o mong le o mong oa Nth ho khona ho li boloka mohopolong le bakeng sa litafole tse kholo haholo. Mohlala, o ka seta li-setting tsa kamehla ho "tšoaea mola o mong le o mong oa 8192", ebe "index" e nyane ea tafole e nang le 1 trillion. mela e kenang habonolo mohopolong e tla nka litlhaku tse 122 feela.
Nts'etsopele ea Sisteme
Ntlafatso le ntlafatso ea Clickhouse li ka lateloa ho le ho etsa bonnete ba hore mokhoa oa "ho hōla" o etsahala ka lebelo le tsotehang.
Palo
Botumo ba Clickhouse bo bonahala bo ntse bo eketseha haholo, haholo-holo sechabeng sa batho ba buang Serussia. Selemong se fetileng Seboka sa High load 2018 (Moscow, November 8-9, 2018) se bontšitse hore liphoofolo tsa litonanahali tse kang vk.com le Badoo li sebelisa Clickhouse, tseo ka tsona li kenyang data (mohlala, li-logs) ho tloha ho li-server tse mashome a likete ka nako e le 'ngoe. Ka video ea metsotso e 40 . Haufinyane re tla beha sengoloa ho Habr bakeng sa boiketlo ba ho sebetsa ka thepa.
Libaka tsa kopo
Kamora ho qeta nako ke ntse ke etsa lipatlisiso, ke nahana hore ho na le libaka tseo ClickHouse e ka bang molemo kapa e ka nkelang litharollo tse ling tsa setso le tse tsebahalang joalo ka MySQL, PostgreSQL, ELK, Google Big Query, Amazon RedShift, TimescaleDB, Hadoop, MapReduce, Pinot le Druid. Se latelang se hlalosa lintlha tsa ho sebelisa ClickHouse ho ntlafatsa kapa ho khutlisa DBMS e kaholimo ka botlalo.
Ho eketsa bokhoni ba MySQL le PostgreSQL
Haufinyane tjena re nkile sebaka sa MySQL ka ClickHouse bakeng sa sethala sa rona sa litaba . Bothata e ne e le hore MySQL, ka lebaka la moralo o fosahetseng, e ne e rema lengolo-tsoibila le leng le le leng le rometsoeng le sehokelo se seng le se seng sa lengolo-tsoibila leo le nang le base64 hash, ho theha tafole e kholo ea MySQL (email_stats). Ka mor'a ho romela li-imeile tse limilione tse 10 feela ho ba ngolisitseng litšebeletso, tafole ena e ne e e-na le 150 GB ea sebaka sa lifaele, 'me MySQL e ile ea qala ho ba "booatla" ka lipotso tse bonolo. Ho lokisa bothata ba sebaka sa faele, re atlehile ho sebelisa compression ea tafole ea InnoDB e e fokolitseng ka karolo ea 4. Leha ho le joalo, ho ntse ho sa utloahale ho boloka li-imeile tse fetang limilione tse 20-30 ho MySQL molemong oa ho bala nalane, kaha potso efe kapa efe e bonolo eo ka lebaka le itseng e hlokang ho etsa liphetho tse felletseng ka ho fapanyetsana le tse ngata. /O mojaro, ho latela seo re neng re fumana litemoso khafetsa ho tsoa ho Zabbix.
Clickhouse e sebelisa li-algorithms tse peli tsa compression tse fokotsang bophahamo ba data ka hoo e ka bang , empa tabeng ena data e ne e le "compressible" ka ho khetheha.
Ho fetola ELK
E itšetlehile ka phihlelo ea ka, ELK stack (ElasticSearch, Logstash le Kibana, tabeng ena ElasticSearch) e hloka lisebelisoa tse ngata ho feta kamoo ho hlokahalang ho boloka lifate. ElasticSearch ke enjine e ntle haholo haeba u hloka patlo e nepahetseng ea mongolo o felletseng (eo ke nahanang hore ha u e hloke), empa kea ipotsa hore na hobaneng e fetohile enjine e tloaelehileng ea ho rema lifate. Ts'ebetso ea eona ea ho kenella e kopantsoeng le Logstash e re file mathata leha re le tlas'a meroalo e bobebe mme e hloka hore re eketse RAM le sebaka sa disk. Joaloka database, Clickhouse e betere ho feta ElasticSearch ka mabaka a latelang:
- Tšehetso ea puo ea SQL;
- Tekanyo e ntle ka ho fetisisa ea khatello ea data e bolokiloeng;
- Ts'ehetso bakeng sa lipatlisiso tsa kamehla tsa Regex ho fapana le lipatlisiso tse felletseng tsa mongolo;
- Kemiso e ntlafalitsoeng ea lipotso le ts'ebetso e phahameng ka kakaretso.
Hona joale, bothata bo boholo ka ho fetisisa bo hlahang ha ho bapisoa ClickHouse le ELK ke khaello ea tharollo ea ho kenya li-logs, hammoho le ho hloka litokomane le lithuto tse mabapi le sehlooho. Ho feta moo, mosebedisi e mong le e mong a ka lokisa ELK a sebelisa bukana ea Digital Ocean, e leng ea bohlokoa haholo bakeng sa ts'ebetsong e potlakileng ea theknoloji e joalo. Ho na le enjene ea database, empa ha ho na Filebeat bakeng sa ClickHouse hajoale. E, e teng le mokhoa oa ho sebetsa ka lifate , ho na le sesebelisoa ho kenya data ea faele ea log ho ClickHouse, empa sena sohle se nka nako e eketsehileng. Leha ho le joalo, ClickHouse e ntse e le moetapele ka lebaka la bonolo ba eona, kahoo le ba qalang ba ka e kenya habonolo 'me ba qala ho e sebelisa ka botlalo ka metsotso e 10 feela.
Ka ho khetha litharollo tse fokolang, ke ile ka leka ho sebelisa FluentBit, sesebelisoa sa ho tsamaisa lifate tse nang le mohopolo o fokolang haholo, hammoho le ClickHouse, ha ke ntse ke leka ho qoba ho sebelisa Kafka. Leha ho le joalo, ho se lumellane ho fokolang ho hloka ho rarolloa, joalo ka pele sena se ka etsoa ntle le proxy layer e fetolang data ho tloha FluentBit ho ClickHouse.
E le mokhoa o mong, Kibana e ka sebelisoa e le ClickHouse backend . Ho latela seo ke se utloisisang, sena se ka baka mathata a ts'ebetso ha re fana ka lintlha tse ngata tsa data, haholo-holo ka mefuta ea khale ea Grafana. Ha re e-s'o leke sena Qwintry, empa litletlebo ka sena li hlaha nako le nako ho mocha oa tšehetso oa ClickHouse ho Telegram.
Phetoho ea Google Big Query le Amazon RedShift (tharollo bakeng sa lik'hamphani tse kholo)
Taba e nepahetseng ea tšebeliso ea BigQuery ke ho kenya 1 TB ea data ea JSON le ho botsa lipotso ho eona. Big Query ke sehlahisoa se setle haholo seo scalability ea sona e ke keng ea fetisoa. Ena ke software e rarahaneng haholo ho feta ClickHouse, e tsamaeang ka har'a sehlopha sa ka hare, empa ho ea ka pono ea bareki e na le lintho tse ngata tse tšoanang le ClickHouse. BigQuery e ka bitsa chelete e ngata ka potlako hang ha u qala ho lefa ka KHETHA, kahoo ke tharollo ea 'nete ea SaaS e nang le melemo le likotsi tsohle tsa eona.
ClickHouse ke khetho e ntle ka ho fetisisa ha u botsa lipotso tse ngata tse turang haholo. Ha u ntse u botsa lipotso tsa KHETHA letsatsi le leng le le leng, hoa utloahala ho fetola Big Query ka ClickHouse, hobane phetoho e joalo e ka u bolokela lidolara tse likete ha ho tluoa tabeng ea li-terabyte tse ngata tsa data tse ntseng li sebetsoa. Sena ha se sebetse ho data e bolokiloeng, e theko e tlase haholo ho e sebetsa ho Big Query.
Sehloohong sa Altinity mothehi-'moho le eena Alexander Zaitsev e bua ka melemo ea ho falla ho joalo ha DBMS.
Phetoho ea TimescaleDB
TimescaleDB ke katoloso ea PostgreSQL e ntlafatsang ho sebetsa le letoto la linako tsa nako sebakeng sa polokelo ea kamehla (, ).
Leha ClickHouse e se tlholisano e tebileng molemong oa letoto la nako, empa sebopeho sa kholomo le ts'ebetso ea potso ea vector, e potlakile haholo ho feta TimescaleDB maemong a mangata a tlhahlobo ea lipotso. Ka nako e ts'oanang, ts'ebetso ea ho fumana lintlha tsa batch ho tloha ClickHouse e batla e phahame ka makhetlo a 3, 'me e boetse e sebelisa makhetlo a 20 ka tlase ho sebaka sa disk, e leng sa bohlokoa haholo bakeng sa ho sebetsana le boitsebiso bo bongata ba histori: .
Ho fapana le ClickHouse, mokhoa o le mong feela oa ho boloka sebaka sa disk ho TimescaleDB ke ho sebelisa ZFS kapa litsamaiso tse tšoanang tsa faele.
Lintlafatso tse tlang ho ClickHouse li kanna tsa hlahisa compression ea delta, e tla etsa hore e tšoanelehe le ho feta bakeng sa ho sebetsa le ho boloka lintlha tsa letoto la nako. TimescaleDB e kanna ea ba khetho e ntle ho feta ClickHouse e se nang letho maemong a latelang:
- lisebelisoa tse nyane tse nang le RAM e nyane haholo (<3 GB);
- palo e kholo ea li-INSERT tse nyane tseo u sa batleng ho li buffer ka likhechana tse kholo;
- botsitso bo betere, ho ts'oana le litlhoko tsa ACID;
- Ts'ehetso ea PostGIS;
- ho ikopanya le litafole tse teng tsa PostgreSQL, kaha Timescale DB ha e le hantle ke PostgreSQL.
Tlholisano le litsamaiso tsa Hadoop le MapReduce
Hadoop le lihlahisoa tse ling tsa MapReduce li ka etsa lipalo tse ngata tse rarahaneng, empa li atisa ho sebetsa ka morao-rao. Kahoo, ClickHouse e sebetsa haholo ho etsa lipatlisiso tsa tlhahlobo e potlakileng, tse sebetsanang, tse lokelang ho khahla bo-rasaense ba data.
Tlholisano le Pinot le Druid
Bahlolisani ba haufi ba ClickHouse ke li-columnar, lihlahisoa tse bulehileng tsa mohloli o bulehileng oa Pinot le Druid. Mosebetsi o babatsehang oa ho bapisa litsamaiso tsena o hatisitsoe sehloohong sena e ngotsoe ka Hlakola 1, 2018
Sengoliloeng sena se hloka ho ntlafatsoa - se re ClickHouse ha e tšehetse ts'ebetso ea UPDATE le DELETE, e seng 'nete ka botlalo bakeng sa liphetolelo tsa morao-rao.
Ha re na boiphihlelo bo bongata ka li-database tsena, empa ha ke rate ho rarahana ha meaho e hlokahalang ho tsamaisa Druid le Pinot - ke sehlopha sa likarolo tse tsamaeang tse pota-potiloeng ke Java ka mahlakoreng 'ohle.
Druid le Pinot ke merero ea Apache incubator, tsoelo-pele ea eona e hlalositsoeng ka botlalo ke Apache maqepheng a morero oa GitHub. Pinot e hlahile ka har'a incubator ka Mphalane 2018, mme Druid o hlahile likhoeli tse 8 pejana - ka Hlakola.
Ho haella ha tlhahisoleseling mabapi le hore na AFS e sebetsa joang ho phahamiselitse lipotso tse ling, mohlomong tse hlokang kelello. Kea ipotsa hore na bangoli ba Pinot ba hlokometse hore Apache Foundation e rata Druid haholoanyane, le hore na maikutlo ana mabapi le tlholisano e bakile maikutlo a mohono? Na tsoelo-pele ea Druid e tla fokotseha 'me tsoelo-pele ea Pinot e potlakile haeba batšehetsi ba pele ba ka ba le thahasello ho ea morao-rao?
Mathata a ClickHouse
Immaturity: Ho hlakile hore ena e ntse e se theknoloji e tenang, empa leha ho le joalo, ha ho letho le kang lena le bonoang ho li-DBMS tse ling.
Li-inserts tse nyane ha li sebetse hantle ka lebelo le phahameng: tse kentsoeng li tlameha ho aroloa ka likotoana tse kholo hobane ts'ebetso ea li-insert tse nyane e theola ho latela palo ea litšiea moleng o mong le o mong. Ke kamoo ClickHouse e bolokang data ho disk - kholomo ka 'ngoe e emela faele e le 1 kapa ho feta, kahoo ho kenya mola o le mong o nang le likholomo tse 1, o hloka ho bula le ho ngola bonyane lifaele tse 100. Ke ka lebaka lena li-buffering inserts li hlokang motho ea bohareng (ntle le haeba moreki ka boeona a fana ka buffer) - hangata Kafka kapa mofuta o mong oa sistimi ea taolo ea mela. U ka sebelisa enjene ea tafole ea Buffer hamorao ho kopitsa likarolo tse kholo tsa data litafoleng tsa MergeTree.
Lihokelo tsa tafole li lekantsoe ke RAM ea seva, empa bonyane li teng! Mohlala, Druid le Pinot ha ba na likhokahano tse joalo ho hang, kaha ho thata ho li kenya ts'ebetsong ka kotloloho lits'ebetsong tse ajoang tse sa tšehetseng ho tsamaisa likarolo tse kholo tsa data lipakeng tsa li-node.
fumanoeng ke
Re rerile ho sebelisa haholo ClickHouse ho Qwintry lilemong tse tlang, kaha DBMS ena e fana ka tekanyo e babatsehang ea ts'ebetso, holimo ho tlase, scalability le bonolo. Ke na le bonnete ba hore e tla qala ho ata ka potlako hang ha sechaba sa ClickHouse se tla le mekhoa e mengata ea ho se sebelisa lits'ebetsong tse nyane ho isa bohareng.
Lipapatso tse ling 🙂
Kea leboha ka ho lula le rona. Na u rata lingoliloeng tsa rona? U batla ho bona litaba tse ling tse khahlisang? Re tšehetse ka ho etsa odara kapa ho khothaletsa metsoalle, , analogue e ikhethang ea li-server tsa boemo ba ho kena, e iqapetsoeng ke rona bakeng sa hau: (e fumaneha ka RAID1 le RAID10, ho fihla ho li-cores tse 24 le ho fihla ho 40GB DDR4).
Dell R730xd makhetlo a 2 a theko e tlase sebakeng sa data sa Equinix Tier IV se Amsterdam? Ke mona feela naheng ea Netherlands! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - ho tloha $99! Bala ka
Source: www.habr.com