na shiostam riaghlaidh stòr-dàta colbh fosgailte airson giullachd cheistean anailis air-loidhne (OLAP), air a chruthachadh le Yandex. Tha e air a chleachdadh le Yandex, CloudFlare, VK.com, Badoo agus seirbheisean eile air feadh an t-saoghail gus suimean mòra de dhàta a stòradh (cuir a-steach mìltean de shreathan san diog no petabytes de dhàta air a stòradh air diosc).
Ann an DBMS cunbhalach, “sreang”, le eisimpleirean dhiubh MySQL, Postgres, MS SQL Server, tha dàta air a stòradh san òrdugh a leanas:
Anns a 'chùis seo, tha luachan co-cheangailte ri aon sreath air an stòradh gu corporra faisg air làimh. Ann an colbh DBMSs, tha luachan bho dhiofar cholbhan air an stòradh air leth, agus tha dàta bho aon cholbh air a stòradh còmhla:
Is e eisimpleirean de DBMS colbhan Vertica, Paraccel (Actian Matrix, Amazon Redshift), Sybase IQ, Exasol, Infobright, InfiniDB, MonetDB (VectorWise, Actian Vector), LucidDB, SAP HANA, Google Dremel, Google PowerDrill, Druid, kdb+.
Companaidh postair air adhart thòisich e a’ cleachdadh Clickhouse ann an 2018 airson aithris agus bha e air leth toilichte leis cho sìmplidh ‘s a tha e, scalability, taic SQL agus astar. Bha astar an DBMS seo ri taobh draoidheachd.
faochadh
Tha Clickhouse air a chuir a-steach air Ubuntu le aon àithne singilte. Ma tha eòlas agad air SQL, faodaidh tu tòiseachadh sa bhad a’ cleachdadh Clickhouse airson na feumalachdan agad. Ach, chan eil seo a’ ciallachadh gun urrainn dhut “seall cruthaich clàr” a dhèanamh ann am MySQL agus lethbhreac-pas a dhèanamh den SQL ann an Clickhouse.
An coimeas ri MySQL, tha eadar-dhealachaidhean cudromach ann an seòrsa dàta ann am mìneachaidhean sgeamaichean bùird, agus mar sin bidh feum agad air beagan ùine fhathast gus mìneachaidhean sgeamaichean bùird atharrachadh agus na h-einnseanan bùird ionnsachadh gus a bhith comhfhurtail.
Bidh Clickhouse ag obair gu math às aonais bathar-bog a bharrachd, ach ma tha thu airson ath-riochdachadh a chleachdadh, feumaidh tu ZooKeeper a stàladh. Tha mion-sgrùdadh dèanadais ceist a’ sealltainn toraidhean sàr-mhath - tha am fiosrachadh gu lèir ann an clàran an t-siostaim, agus faodar an dàta gu lèir fhaighinn air ais a’ cleachdadh seann agus dòrainneach SQL.
Coileanadh
- coimeas eadar Clickhouse le Vertica agus MySQL air rèiteachadh an fhrithealaiche: dà socaid Intel® Xeon® CPU E5-2650 v2 @ 2.60GHz; 128 GiB RAM; md RAID-5 air 8 6TB SATA HDD, ext4.
- coimeas eadar Clickhouse le stòradh neòil Amazon RedShift.
- Earrannan blog :
Tha dealbhadh gu math sìmplidh aig stòr-dàta ClickHouse - tha an aon ghnìomhachd aig a h-uile nod sa bhuidheann agus na cleachd ach ZooKeeper airson co-òrdanachadh. Thog sinn cruinneachadh beag de ghrunn nodan agus rinn sinn deuchainnean, nuair a fhuair sinn a-mach gu bheil coileanadh gu math drùidhteach aig an t-siostam, a tha a rèir nam buannachdan ainmichte ann an slatan-tomhais anailis DBMS. Chuir sinn romhainn sùil nas mionaidiche a thoirt air a’ bhun-bheachd air cùl ClickHouse. B’ e a’ chiad chnap-starra do rannsachadh dìth innealan agus a’ choimhearsnachd bheag ClickHouse, agus mar sin rannsaich sinn a-steach do dhealbhadh an DBMS seo gus tuigse fhaighinn air mar a tha e ag obair.
Chan eil ClickHouse a’ toirt taic do bhith a’ faighinn dàta gu dìreach bho Kafka leis gur e dìreach stòr-dàta a th’ ann, agus mar sin sgrìobh sinn an t-seirbheis inneal-atharrachaidh againn fhèin ann an Go. Leugh e teachdaireachdan còdaichte Cap'n Proto bho Kafka, thionndaidh iad gu TSV agus chuir e a-steach iad ann an ClickHouse ann an baidsean tron eadar-aghaidh HTTP. Nas fhaide air adhart rinn sinn ath-sgrìobhadh air an t-seirbheis seo gus an leabharlann Go a chleachdadh an co-bhonn ri eadar-aghaidh ClickHouse fhèin gus coileanadh a leasachadh. Nuair a rinn sinn measadh air coileanadh pacaidean faighinn, lorg sinn rud cudromach - thionndaidh e a-mach gu bheil an coileanadh seo airson ClickHouse gu mòr an urra ri meud a ’phacaid, is e sin, an àireamh de shreathan a chaidh a chuir a-steach aig an aon àm. Gus tuigsinn carson a tha seo a’ tachairt, choimhead sinn air mar a bhios ClickHouse a’ stòradh dàta.
Is e MergeTree am prìomh einnsean, no an àite teaghlach de einnseanan bùird, a bhios ClickHouse a’ cleachdadh airson dàta a stòradh. Tha an einnsean seo gu bun-bheachdail coltach ris an algairim LSM a thathar a’ cleachdadh ann an Google BigTable no Apache Cassandra, ach a’ seachnadh clàr cuimhne eadar-mheadhanach a thogail agus a’ sgrìobhadh dàta gu dìreach gu diosc. Tha seo a’ toirt deagh thoraidhean sgrìobhaidh dha, leis gu bheil gach pacaid a chaidh a chuir a-steach air a sheòrsachadh a-mhàin leis a’ phrìomh iuchair, air a dhlùthadh, agus air a sgrìobhadh gu diosc gus earrann a chruthachadh.
Tha dìth clàr cuimhne no bun-bheachd sam bith de “ùr” dàta cuideachd a ’ciallachadh nach urrainn ach an cur ris; chan eil an siostam a’ toirt taic do atharrachadh no cuir às. An-dràsta, is e an aon dòigh air dàta a dhubhadh às a dhubhadh às a rèir mìos mìosachain, leis nach bi earrannan a’ dol thairis air crìoch mìos. Tha sgioba ClickHouse gu gnìomhach ag obair gus am feart seo a dhèanamh comasach a ghnàthachadh. Air an làimh eile, bidh e a’ toirt air earrannan a bhith a’ sgrìobhadh agus a’ tighinn còmhla gun aimhreit, agus mar sin a’ faighinn lannan trochur gu sreathach leis an àireamh de chuir a-steach co-aontach gus an tachair I/O no sùghaidh bunaiteach.
Ach, tha seo cuideachd a 'ciallachadh nach eil an siostam freagarrach airson pacaidean beaga, agus mar sin thathar a' cleachdadh seirbheisean Kafka agus cuir a-steach airson buffering. An ath rud, tha ClickHouse air a’ chùl a’ leantainn air adhart a’ dèanamh aonadh earrannan gu cunbhalach, gus am bi mòran pìosan beaga fiosrachaidh air an cur còmhla agus air an clàradh barrachd thursan, agus mar sin a’ meudachadh an dian clàraidh. Ach, bidh cus phàirtean neo-cheangailte ag adhbhrachadh smeòrach ionnsaigheach de chuir a-steach fhad ‘s a mhaireas an aonachadh. Tha sinn air faighinn a-mach gur e an co-rèiteachadh as fheàrr eadar in-ghabhail fìor-ùine agus coileanadh in-ghabhail àireamh chuingealaichte de chuir a-steach gach diog a thoirt a-steach don chlàr.
Is e an iuchair airson coileanadh leughadh clàr clàr-amais agus suidheachadh an dàta air diosc. Ge bith dè cho luath sa tha an giullachd, nuair a dh’ fheumas an einnsean terabytes de dhàta a sganadh bhon diosc agus dìreach cuibhreann dheth a chleachdadh, bheir e ùine. Is e stòr colbh a th’ ann an ClickHouse, agus mar sin tha faidhle anns gach earrann airson gach colbh (colbh) le luachan rèitichte airson gach sreath. San dòigh seo, faodar na colbhan slàn a tha a dhìth bhon cheist a sheachnadh an toiseach, agus an uairsin faodar grunn cheallan a phròiseasadh ann an co-shìnte ri coileanadh vectorized. Gus sgan slàn a sheachnadh, tha faidhle clàr-amais beag aig gach earrann.
Leis gu bheil na colbhan uile air an rèiteachadh leis a’ “phrìomh iuchair”, chan eil anns an fhaidhle clàr-amais ach na bileagan (sreathan glacte) de gach sreath Nth gus an cumail mar chuimhneachan eadhon airson bùird glè mhòr. Mar eisimpleir, faodaidh tu na roghainnean bunaiteach a shuidheachadh gus “a h-uile sreath 8192nd a chomharrachadh”, an uairsin clàr-amais “gann” de bhòrd le 1 trillean. Cha toir loidhnichean a fhreagras gu furasta air cuimhne ach 122 caractar.
Leasachadh siostaim
Chithear leasachadh agus leasachadh Clickhouse aig agus dèan cinnteach gu bheil am pròiseas “fàs suas” a’ tachairt aig astar iongantach.
Popularity
Tha coltas gu bheil fèill Clickhouse a’ fàs gu mòr, gu sònraichte anns a’ choimhearsnachd Ruiseanach. Sheall co-labhairt High load 2018 an-uiridh (Moscow, Samhain 8-9, 2018) gu bheil uilebheistean leithid vk.com agus Badoo a’ cleachdadh Clickhouse, leis am bi iad a’ cuir a-steach dàta (mar eisimpleir, logaichean) bho dheich mìltean de luchd-frithealaidh aig an aon àm. Ann an 40 mionaid video . A dh'aithghearr cuiridh sinn an tar-sgrìobhadh air Habr airson a bhith furasta obrachadh leis an stuth.
Iarrtasan
Às deidh beagan ùine a chuir seachad a ’dèanamh sgrùdadh, tha mi a’ smaoineachadh gu bheil raointean ann far am faodadh ClickHouse a bhith feumail no a dh ’fhaodadh fuasglaidhean eile, nas traidiseanta agus mòr-chòrdte leithid MySQL, PostgreSQL, ELK, Google Big Query, Amazon RedShift, TimescaleDB, Hadoop, MapReduce, Pinot agus Draoidheachd. Tha na leanas a’ toirt cunntas air mion-fhiosrachadh mu bhith a’ cleachdadh ClickHouse gus an DBMS gu h-àrd ùrachadh no a chur na àite gu tur.
A’ leudachadh comasan MySQL agus PostgreSQL
Dìreach o chionn ghoirid chuir sinn ClickHouse an àite MySQL gu ìre airson an àrd-ùrlar cuairt-litir againn . B ’e an duilgheadas a bh’ ann gun robh MySQL, air sgàth droch dhealbhadh, a ’logadh a h-uile post-d a chaidh a chuir agus a h-uile ceangal sa phost-d sin le hash base64, a’ cruthachadh clàr mòr MySQL (email_stats). Às deidh dha dìreach 10 millean post-d a chuir gu luchd-aontachaidh seirbheis, ghabh an clàr seo 150 GB de rùm faidhle, agus thòisich MySQL air a bhith “gòrach” air ceistean sìmplidh. Gus cùis àite faidhle a chàradh, chleachd sinn gu soirbheachail teannachadh clàr InnoDB a lughdaich e le factar 4. Ach, chan eil e ciallach fhathast barrachd air 20-30 millean post-d a stòradh ann am MySQL dìreach air sgàth eachdraidh leughaidh, leis gu bheil ceist shìmplidh sam bith a dh’ fheumas airson adhbhar air choireigin airson làn sgrùdadh a dhèanamh a’ leantainn gu suaip agus tòrr de I / O load, a rèir mar a fhuair sinn rabhaidhean gu cunbhalach bho Zabbix.
Bidh Clickhouse a’ cleachdadh dà algorithm teannachaidh a lughdaicheas meud dàta timcheall air , ach anns a 'chùis shònraichte seo bha an dàta gu sònraichte "compressible".
A’ dol an àite ELK
Stèidhichte air an eòlas agam fhìn, tha feum aig a’ chruach ELK (ElasticSearch, Logstash agus Kibana, anns a’ chùis shònraichte seo ElasticSearch) tòrr a bharrachd ghoireasan ri ruith na tha riatanach airson logaichean a stòradh. Tha ElasticSearch na einnsean math ma tha feum agad air deagh sgrùdadh log làn-theacsa (rud nach eil mi a’ smaoineachadh a tha a dhìth ort), ach tha mi a’ faighneachd carson a thàinig e gu bhith na einnsean logaidh àbhaisteach de facto. Thug a choileanadh ingest còmhla ri Logstash duilgheadasan dhuinn eadhon fo luchdan meadhanach aotrom agus dh’ fheumadh sinn barrachd is barrachd RAM agus àite diosc a chuir ris. Mar stòr-dàta, tha Clickhouse nas fheàrr na ElasticSearch airson na h-adhbharan a leanas:
- taic dualchainnt SQL;
- An ìre as fheàrr de dhlùthadh dàta air a stòradh;
- Taic airson rannsachaidhean faireachdainn cunbhalach Regex an àite rannsachaidhean teacsa slàn;
- Clàr-ama cheistean nas fheàrr agus coileanadh iomlan nas àirde.
An-dràsta, is e an duilgheadas as motha a tha ag èirigh nuair a thathar a’ dèanamh coimeas eadar ClickHouse agus ELK an dìth fhuasglaidhean airson luchdachadh suas logaichean, a bharrachd air dìth sgrìobhainnean agus clasaichean oideachaidh air a’ chuspair. A bharrachd air an sin, faodaidh gach neach-cleachdaidh ELK a rèiteachadh le bhith a’ cleachdadh leabhar-làimhe Digital Ocean, a tha glè chudromach airson buileachadh luath nan teicneòlasan sin. Tha einnsean stòr-dàta ann, ach chan eil Filebeat ann airson ClickHouse fhathast. Tha, tha e ann agus siostam airson obrachadh le logaichean , tha inneal ann gus dàta faidhle log a chuir a-steach gu ClickHouse, ach bheir seo uile barrachd ùine. Ach, tha ClickHouse fhathast na stiùiriche air sgàth cho sìmplidh ‘s a tha e, agus mar sin faodaidh eadhon luchd-tòiseachaidh a chuir a-steach gu furasta agus tòiseachadh air a chleachdadh gu h-iomlan ann an dìreach 10 mionaidean.
A’ còrdadh ri fuasglaidhean minimalist, dh’ fheuch mi ri FluentBit a chleachdadh, inneal airson logaichean a chuir air falbh le glè bheag de chuimhne, còmhla ri ClickHouse, fhad ‘s a bha mi a’ feuchainn ri Kafka a chleachdadh a sheachnadh. Ach, feumar dèiligeadh ri neo-fhreagarrachd beaga, leithid mus gabh seo a dhèanamh às aonais an ìre progsaidh a dh’ atharraicheas an dàta bho FluentBit gu ClickHouse.
Mar roghainn eile, faodar Kibana a chleachdadh mar backend ClickHouse . Bho na tha mi a’ tuigsinn, faodaidh seo cùisean dèanadais adhbhrachadh nuair a thathar a’ toirt seachad àireamhan mòra de phuingean dàta, gu sònraichte le dreachan nas sine de Grafana. Chan eil sinn air seo fheuchainn aig Qwintry fhathast, ach nochdaidh gearanan mu dheidhinn seo bho àm gu àm air an t-sianal taic ClickHouse air Telegram.
Cuir an àite Google Big Query agus Amazon RedShift (fuasgladh airson companaidhean mòra)
Is e an cùis cleachdaidh as fheàrr airson BigQuery 1 TB de dhàta JSON a luchdachadh agus ceistean anailis a ruith air. Is e toradh sàr-mhath a th’ ann an Ceist Mhòr agus chan urrainnear cus a dhèanamh de scalability. Is e bathar-bog tòrr nas iom-fhillte a tha seo na ClickHouse, a tha a’ ruith air brabhsair a-staigh, ach bho shealladh an neach-dèiligidh tha tòrr ann an cumantas ri ClickHouse. Faodaidh BigQuery a bhith daor gu sgiobalta aon uair ‘s gun tòisich thu a’ pàigheadh gach SELECT, agus mar sin tha e na fhìor fhuasgladh SaaS leis na buannachdan agus na h-eas-bhuannachdan aige.
Is e ClickHouse an roghainn as fheàrr nuair a tha thu a’ ruith tòrr cheistean a tha daor gu coimpiutaireachd. Mar as motha de cheistean SELECT a bhios tu a’ ruith a h-uile latha, is ann as motha a bhios e ciallach ClickHouse a chuir an àite Big Query, oir faodaidh fear eile na mìltean dolar a shàbhaladh dhut nuair a thig e gu bhith a’ giullachd mòran terabytes de dhàta. Chan eil seo a’ buntainn ri dàta a tha air a stòradh, a tha gu math saor airson a phròiseasadh ann an Ceist Mhòr.
Ann an artaigil le co-stèidheadair Altinity Alexander Zaitsev a’ bruidhinn mu na buannachdan a thig bho leithid de dh’ imrich DBMS.
Raon-amaDB ùr
Tha TimescaleDB na leudachadh PostgreSQL a nì an fheum as fheàrr de bhith ag obair le sreathan ùine ann an stòr-dàta cunbhalach (, ).
Ged nach e fìor cho-fharpaiseach a th’ ann an ClickHouse ann an sreath sònraichte an ama, ach structar colbh agus coileanadh ceist vectar, tha e fada nas luaithe na TimescaleDB anns a’ mhòr-chuid de chùisean de ghiullachd ceist anailis. Aig an aon àm, tha coileanadh faighinn dàta baidse bho ClickHouse timcheall air 3 tursan nas àirde, agus bidh e cuideachd a ’cleachdadh 20 uair nas lugha de dh’ àite diosc, a tha air leth cudromach airson a bhith a ’giullachd meudan mòra de dhàta eachdraidheil: .
Eu-coltach ri ClickHouse, is e an aon dòigh air beagan àite diosc a shàbhaladh ann an TimescaleDB ZFS no siostaman faidhle coltach ris a chleachdadh.
Tha e coltach gun toir ùrachaidhean ri thighinn gu ClickHouse a-steach teannachadh delta, a nì e eadhon nas freagarraiche airson a bhith a’ giullachd agus a’ stòradh dàta sreath ùine. Faodaidh TimescaleDB a bhith na roghainn nas fheàrr na ClickHouse lom anns na cùisean a leanas:
- ionadan beaga le glè bheag de RAM (<3 GB);
- àireamh mhòr de INSERTan beaga nach eil thu airson bufair a-steach gu pìosan mòra;
- riatanasan cunbhalachd, èideadh agus ACID nas fheàrr;
- taic PostGIS;
- a’ tighinn còmhla ri clàran PostgreSQL a th’ ann mar-thà, leis gu bheil Clàr-ama DB gu ìre mhòr mar PostgreSQL.
Farpais le siostaman Hadoop agus MapReduce
Faodaidh Hadoop agus toraidhean MapReduce eile mòran àireamhachadh iom-fhillte a dhèanamh, ach tha iad buailteach a bhith a’ ruith le amannan fada. Mar sin, tha ClickHouse tòrr nas èifeachdaiche ann a bhith a’ coileanadh rannsachadh anailis luath, eadar-ghnìomhach, a bu chòir a bhith inntinneach do luchd-saidheans dàta.
Farpais le Pinot agus Druid
Tha na farpaisich as fhaisge aig ClickHouse nan colbhan, toraidhean stòr fosgailte a ghabhas scalladh gu sreathach Pinot agus Druid. Tha sàr obair a’ dèanamh coimeas eadar na siostaman sin air fhoillseachadh san artaigil leis an deit 1 Gearran, 2018
Feumaidh an artaigil seo ùrachadh - tha e ag ràdh nach eil ClickHouse a’ toirt taic do ghnìomhachd UPDATE agus DELETE, rud nach eil gu tur fìor airson na dreachan as ùire.
Chan eil mòran eòlais againn leis na stòran-dàta sin, ach cha toil leam cho iom-fhillte 'sa tha a' bhun-structair a tha a dhìth gus Druid agus Pinot a ruith - 's e làn de phàirtean gluasadach a th' ann air a chuairteachadh le Java air gach taobh.
Tha Druid agus Pinot nam pròiseactan brosnachaidh Apache, agus tha an adhartas air a chòmhdach gu mionaideach le Apache air na duilleagan pròiseict GitHub aca. Nochd Pinot anns an goireadair san Dàmhair 2018, agus rugadh Druid 8 mìosan roimhe sin - sa Ghearran.
Tha an dìth fiosrachaidh mu mar a tha AFS ag obair a’ togail cuid de cheistean, agus is dòcha gòrach, dhomh. Saoil an do mhothaich na h-ùghdaran Pinot gu bheil an Apache Foundation nas fàbharaiche a thaobh Druid, agus an do dh’ adhbhraich am beachd seo a thaobh a’ cho-fharpaisich faireachdainn farmad? Am bi leasachadh Druid a’ fàs nas slaodaiche agus leasachadh Pinot a’ dol nas luaithe ma bhios ùidh gu h-obann aig luchd-taic a’ chiad fhear anns an fhear mu dheireadh?
Eas-bhuannachdan ClickHouse
Neo-aibidh: Gu dearbh, chan e teicneòlas dòrainneach a tha seo fhathast, ach co-dhiù, chan eil dad mar seo ri fhaicinn ann an colbhan DBMS eile.
Chan eil cuir a-steach beaga a’ coileanadh gu math aig astar àrd: feumaidh cuir a-steach a bhith air a roinn ann am pìosan nas motha oir tha coileanadh cuir a-steach beaga a’ dol sìos a rèir an àireamh de cholbhan anns gach sreath. Seo mar a bhios ClickHouse a’ stòradh dàta air diosc - tha gach colbh a’ riochdachadh 1 faidhle no barrachd, mar sin gus sreath 1 anns a bheil 100 colbhan a chuir a-steach, feumaidh tu co-dhiù 100 faidhle fhosgladh agus a sgrìobhadh. Sin as coireach gu bheil feum air cuir a-steach buffering meadhan-fhear (mura h-eil an neach-dèiligidh fhèin a’ toirt seachad buffering) - mar as trice Kafka no seòrsa de shiostam riaghlaidh ciudha. Faodaidh tu cuideachd an einnsean clàr Buffer a chleachdadh gus pìosan mòra de dhàta a chopaigeadh gu clàran MergeTree.
Tha ceangal clàr air a chuingealachadh le RAM an fhrithealaiche, ach co-dhiù tha iad ann! Mar eisimpleir, chan eil ceanglaichean mar sin aig Druid agus Pinot idir, leis gu bheil iad duilich an cur an gnìomh gu dìreach ann an siostaman sgaoilte nach eil a’ toirt taic do bhith a’ gluasad pìosan mòra de dhàta eadar nodan.
toraidhean
Tha sinn an dùil ClickHouse a chleachdadh gu farsaing ann an Qwintry anns na bliadhnachan ri teachd, leis gu bheil an DBMS seo a’ toirt seachad deagh chothromachadh coileanaidh, os cionn ìosal, scalability agus sìmplidheachd. Tha mi gu math cinnteach gun tòisich e a’ sgaoileadh gu sgiobalta aon uair ‘s gu bheil coimhearsnachd ClickHouse a’ tighinn suas le barrachd dhòighean air a chleachdadh ann an ionadan beaga gu meadhanach.
Cuid de shanasan 🙂
Tapadh leibh airson fuireach còmhla rinn. An toil leat na h-artaigilean againn? A bheil thu airson susbaint nas inntinniche fhaicinn? Thoir taic dhuinn le bhith a’ cur òrdugh no a’ moladh do charaidean, , analog sònraichte de luchd-frithealaidh ìre inntrigidh, a chaidh a chruthachadh leinn dhut: (ri fhaighinn le RAID1 agus RAID10, suas ri 24 cores agus suas ri 40GB DDR4).
Dell R730xd 2x nas saoire ann an ionad dàta Equinix Tier IV ann an Amsterdam? A-mhàin an seo anns an Òlaind! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - bho $99! Leugh mu dheidhinn
Source: www.habr.com