waa nidaam maareyn xog ururin tiirar furan oo loogu talagalay habaynta weydiinta gorfaynta khadka tooska ah (OLAP) ee ay abuurtay Yandex. Waxaa adeegsada Yandex, CloudFlare, VK.com, Badoo iyo adeegyada kale ee adduunka oo dhan si ay u kaydiyaan xog aad u badan oo runtii ah (gelis kumanaan saf halkii ilbiriqsi ama petabytes ee xogta lagu kaydiyo diskka).
Sida caadiga ah, "string" DBMS, tusaaleyaal ay yihiin MySQL, Postgres, MS SQL Server, xogta waxa loo kaydiyaa sidan:
Xaaladdan oo kale, qiyamka la xidhiidha hal saf ayaa jir ahaan loo kaydiyaa dhinac dhinac. Tiirarka DBMS, qiyamka tiirar kala duwan ayaa si gaar ah loo kaydiyaa, xogta hal tiir ayaa la wada kaydiyaa:
Tusaalooyinka tiirarka DBMSs waa Vertica, Paraccel (Actian Matrix, Amazon Redshift), Sybase IQ, Exasol, Infobright, InfiniDB, MonetDB (VectorWise, Actian Vector), LucidDB, SAP HANA, Google Dremel, Google PowerDrill, Druid, kdb+.
Shirkadu waa gudbiyaha boostada Waxaan bilaabay isticmaalka Clickhouse 2018 si aan uga warbixino waxaana aad ula dhacay fududaanteeda, miisaankeeda, taageerada SQL, iyo xawaaraha. Xawaaraha DBMS-kan waxa uu ku xidhnaa sixir.
sahal
Clickhouse waxay ku rakibtay Ubuntu oo leh hal amar. Haddii aad taqaan SQL, waxaad isla markiiba bilaabi kartaa isticmaalka Clickhouse ee baahiyahaaga. Si kastaba ha ahaatee, tani macnaheedu maaha inaad "muujin karto miis abuur" MySQL oo koobi ku dheji SQL gudaha Clickhouse.
Marka la barbar dhigo MySQL, waxaa jira kala duwanaansho nooca xogta muhiimka ah ee qeexitaannada shaxda shaxda ee DBMS, marka waxaad weli u baahan tahay waqti aad ku beddesho qeexitaannada shaxda miiska oo aad barato matoorada miiska si aad u hesho raaxo.
Clickhouse wuxuu u shaqeeyaa si fiican iyada oo aan wax software ah oo dheeraad ah la helin, laakiin haddii aad rabto inaad isticmaasho ku celcelinta waxaad u baahan doontaa inaad ku rakibto ZooKeeper. Falanqaynta waxqabadka su'aasha waxay muujineysaa natiijooyin aad u fiican - miisaska nidaamka waxaa ku jira dhammaan macluumaadka, dhammaan xogta waxaa lagu heli karaa iyadoo la adeegsanayo SQL duug ah oo caajis ah.
Wax-soo-saarka
- Clickhouse oo ka soo horjeeda Vertica iyo MySQL isbarbardhigga server-ka qaabeynta: laba saldhig Intel® Xeon® CPU E5-2650 v2 @ 2.60GHz; 128 GiB RAM; md RAID-5 ee 8 6TB SATA HDD, ext4.
- Isbarbardhigga Clickhouse iyo kaydinta daruuraha Amazon RedShift.
- Qaybaha Blog :
Xogta ClickHouse waxay leedahay naqshad aad u fudud - dhammaan qanjidhada kooxdu waxay leeyihiin shaqo isku mid ah waxayna isticmaalaan kaliya ZooKeeper isku-duwidda. Waxaan dhisnay koox yar oo dhowr nood ah waxaana sameynay imtixaan, inta lagu gudajiray waxaan ogaanay in nidaamku leeyahay waxqabad aad u wanaagsan, kaas oo u dhigma faa'iidooyinka la sheegay in lagu qiimeeyo DBMS. Waxaan go'aansanay inaan si dhow u eegno fikradda ka dambeysa ClickHouse. Caqabadda ugu horreysa ee cilmi-baarista waxay ahayd qalab la'aanta iyo bulshada yar ee ClickHouse, sidaas darteed waxaan u dhex galnay naqshadeynta DBMS si aan u fahamno sida ay u shaqeyso.
ClickHouse ma taageerto in si toos ah xogta laga helo Kafka, maadaama ay tahay xog ururin, sidaas darteed waxaan ku qornay adeegga adabtarada ee Go. Waxay akhriday farriimaha Cap'n Proto ee Kafka, waxay u beddeshay TSV, waxayna gelisay ClickHouse ee dufcadaha iyada oo loo sii marayo interface HTTP. Waxaan markii dambe dib u qornay adeeggan si aan u isticmaalno maktabadda Go iyada oo lala kaashanayo interface-ka ClickHouse noo gaar ah si aan u wanaajino waxqabadka. Marka la qiimeeyo waxqabadka helitaanka xirmooyinka, waxaan ogaanay shay muhiim ah - waxaa soo baxday in ClickHouse waxqabadkani wuxuu si xoog leh ugu xiran yahay xajmiga baakidhka, taas oo ah, tirada safafka la geliyo waqti isku mid ah. Si loo fahmo sababta tani u dhacdo, waxaan barannay sida ClickHouse u kaydiyo xogta.
Matoorka ugu weyn, ama halkii, qoyska matoorada miiska ee ClickHouse u isticmaasho kaydinta xogta, waa MergeTree. Matoorkani waxa uu la mid yahay algorithm-ka LSM-ka ee lagu isticmaalo Google BigTable ama Apache Cassandra, laakiin waxa uu ka fogaanayaa in la dhiso miis xusuusta dhex-dhexaad ah oo si toos ah ugu qora xogta diskka. Tani waxay siinaysaa wax-qoritaan aad u wanaagsan, maadaama baakidh kasta oo la geliyo uu kaliya u kala soocaa "furaha aasaasiga ah" furaha aasaasiga ah, la tuujiyay, oo lagu qoray saxan si uu u sameeyo qayb.
Maqnaanshaha miiska xusuusta ama fikrad kasta oo ah "cusub" xogta waxay sidoo kale ka dhigan tahay in lagu dari karo oo kaliya, nidaamku ma taageerayo beddelka ama tirtirka. Laga bilaabo maanta, sida kaliya ee lagu tirtiri karo xogta waa in la tirtiro bisha kalandarka, maadaama qaybaha aysan ka gudbin xadka bil. Kooxda ClickHouse waxay si firfircoon uga shaqaynaysaa samaynta sifadan mid la beddeli karo. Dhanka kale, waxa ay ka dhigaysa qorista iyo isku darka qaybaha mid bilaa muran ah, markaa u hel cabirka wax soo saarka si toos ah oo leh tirada isbarbardhiga ilaa I/O ama xudunta ay ka buuxsamaan.
Si kastaba ha ahaatee, xaaladdan waxay sidoo kale ka dhigan tahay in nidaamku aanu ku habboonayn baakadaha yaryar, sidaas darteed adeegyada Kafka iyo kuwa wax geliya ayaa loo isticmaalaa kaydinta. Dheeraad ah, ClickHouse ee gadaasha waxay sii wadaa inay si joogto ah isugu daraan qaybaha, si qaybo badan oo yar oo macluumaad ah la isugu daro oo loo duubo wakhtiyo badan, sidaas darteed kordhinta xoojinta duubista. Si kastaba ha ahaatee, qaybo badan oo aan xidhiidh la lahayn waxay keeni doonaan ceejinta gardarada ah ee la gashado ilaa inta isku darka ay sii socoto. Waxaan ogaanay in tanaasulka ugu wanaagsan ee udhaxeeya xogta waqtiga-dhabta ah iyo wax qabad la'aanta ay tahay in la aqbalo tiro xaddidan oo la geliyo ilbiriqsikiiba miiska.
Furaha waxqabadka akhrinta miiska waa tusmaynta iyo goobta xogta ku jirta diskka. Si kasta oo uu hawl-qabadku u degdegsan yahay, marka matoorku u baahan yahay in uu xogta terabyte-ka ee diskka ka baadho oo uu isticmaalo qayb ka mid ah, waxa ay qaadan doontaa wakhti. ClickHouse waa bakhaar tiirar ah, markaa qayb kastaa waxay ka kooban tahay fayl tiir kasta (column) oo leh qiimayaal la kala soocay saf kasta. Haddaba, tiirar dhan oo aan ku jirin weydiinta ayaa marka hore laga boodi karaa, ka dibna unugyo badan ayaa laga baaraandegi karaa iyadoo la barbar-dhigo fulinta vectorized. Si looga fogaado iskaanka buuxa, qayb kastaa waxay leedahay fayl index yar.
Marka la eego in dhammaan tiirarka lagu kala saarayo "furaha aasaasiga ah", faylka tusmadu waxa uu ka kooban yahay oo keliya calaamadaha (safka la qabtay) ee safka Nth kasta, si ay awood ugu yeeshaan in lagu hayo xusuusta xitaa miisaska aadka u waaweyn. Tusaale ahaan, waxaad dejin kartaa jaangooyooyinka caadiga ah si aad "calaamadeyso safkii 8192aad", ka dib "wax yar" tusmaynta miis leh 1 trillion. xariiqyada si fudud ugu habboon xusuusta waxay qaadanayaan oo keliya 122 xaraf.
Horumarinta nidaamka
Horumarinta iyo hagaajinta Clickhouse waa la raadin karaa oo hubi in habka "koritaanka" uu ku dhacayo xawli cajiib ah.
Caannimada
Waxay u muuqataa in caannimada Clickhouse ay si weyn u kordheyso, gaar ahaan bulshada ku hadasha afka Ruushka. Sanadkii hore ee culeyska sare ee 2018 shirkii (Moscow, Noofambar 8-9, 2018) waxay muujisay in daanyeerka sida vk.com iyo Badoo ay isticmaalaan Clickhouse, kaas oo geliya xogta (tusaale ahaan, logs) tobanaan kun oo server ah isku mar. Muqaal 40 daqiiqo ah . Dhawaan waxaan qoraalka ku soo dhejin doonaa Habr si ay ugu sahlanaato ka shaqaynta agabka.
Meelaha arjiga
Ka dib markii aan waqti ku qaatay cilmi-baarista, waxaan u maleynayaa inay jiraan meelo ay ClickHouse waxtar u yeelan karto ama awood u yeelan karto inay si buuxda u beddesho xalal kale oo dhaqameed iyo caan ah sida MySQL, PostgreSQL, ELK, Google Big Query, Amazon RedShift, TimescaleDB, Hadoop, MapReduce, Pinot iyo Druid. Kuwa soo socdaa waa tafaasiisha isticmaalka ClickHouse si loo cusboonaysiiyo ama gebi ahaanba loo beddelo DBMS-ka sare.
Kordhinta MySQL iyo PostgreSQL
Dhawaanahan, waxaan qayb ahaan MySQL ku bedelnay ClickHouse ee madal warsidaha . Dhibaatadu waxay ahayd MySQL sababtoo ah nakhshad aan si fiican loo fikirin waxay ku qortay email kasta oo la soo diro iyo xiriir kasta oo ku jira iimaylkaas oo leh base64 hash, abuurista miis MySQL ah oo weyn (email_stats). Ka dib markii ay u direen kaliya 10 milyan oo emayl macaamiisha adeegga, miiskani wuxuu qabsaday 150 GB oo meel fayl ah, MySQLna wuxuu bilaabay inuu "doqon" ku sameeyo weydiimaha fudud. Si loo xalliyo arrinta booska faylka, waxaan si guul leh u isticmaalnay isku-buufinta miiska InnoDB, kaasoo hoos u dhigay 4. Si kastaba ha ahaatee, weli macno ma samaynayso in lagu kaydiyo in ka badan 20-30 milyan oo emails MySQL ah kaliya akhriska taariikhda, sida su'aal kasta oo fudud oo sabab kasta ay tahay in la sameeyo natiijada baaritaanka buuxa ee isweydaarsiga iyo culeyska I/O dusha sare, kaas oo aan si joogto ah u helnay digniinaha Zabbix.
Clickhouse waxay isticmaashaa laba algorithms cadaadis ah oo yareeya tirada xogta qiyaastii , laakiin kiiskan gaarka ah, xogtu waxay si gaar ah u ahayd "la taaban karo".
Beddelka ELK
Iyada oo ku saleysan waayo-aragnimadayda, kaydka ELK (ElasticSearch, Logstash iyo Kibana, kiiskan gaarka ah ee ElasticSearch) wuxuu u baahan yahay ilo aad uga badan oo lagu socodsiiyo inta loo baahan yahay si loo kaydiyo diiwaannada. ElasticSearch waa matoor aad u fiican haddii aad rabto raadinta qoraal-buuxa oo wanaagsan (oo uma maleynayo inaad runtii u baahan tahay), laakiin waxaan la yaabanahay sababta ay u noqotay matoorka goynta caadiga ah. Wax qabadkeeda wax qabadkeeda, oo ay weheliso Logstash, waxay na siisay dhibaatooyin xitaa culaysyo shaqo oo fudud waxayna u baahday in lagu daro RAM badan iyo meel disk ah. Xog ururin ahaan, Clickhouse wuu ka fiican yahay ElasticSearch sababahan soo socda awgood:
- Taageerada lahjada SQL;
- Heerka ugu wanaagsan ee isku-buufinta xogta kaydsan;
- Taageerada raadinta Regex beddelka raadinta qoraalka buuxa;
- Jadwalka su'aalaha oo la hagaajiyay iyo waxqabadka guud ee wanaagsan.
Waqtigan xaadirka ah, dhibaatada ugu weyn ee soo baxda marka la barbar dhigo ClickHouse iyo ELK waa la'aanta xalalka soo dejinta logyada, iyo sidoo kale la'aanta dukumeenti iyo casharro ku saabsan mawduucan. Isla mar ahaantaana, isticmaale kastaa wuxuu dejin karaa ELK isagoo isticmaalaya buugga Badweynta Dijital ah, taas oo aad muhiim ugu ah hirgelinta degdegga ah ee tignoolajiyada noocaas ah. Waxaa jira matoorka xogta halkan, laakiin ma jiro Filebeat ee ClickHouse weli. Haa, way jirtaa iyo hab loogu shaqeeyo geedaha , waxaa jira qalab si aad u geliso xogta faylka gudaha ClickHouse, laakiin waxaas oo dhan waxay qaadataa waqti dheeraad ah. Si kastaba ha ahaatee, ClickHouse ayaa wali hogaaminaysa jidka sababtoo ah fududaantiisa, sidaas darteed xitaa bilawga ayaa si fudud u rakibi kara oo bilaabi kara isticmaalka si buuxda 10 daqiiqo gudahood.
Doorashada xalalka ugu yar, waxaan isku dayay isticmaalka FluentBit, qalab aad u hooseeya oo kaydinta kaydinta, oo leh ClickHouse, anigoo isku dayaya inaan iska ilaaliyo isticmaalka Kafka. Si kastaba ha ahaatee, iswaafaq la'aanta yar yar ayaa loo baahan yahay in wax laga qabto, sida ka hor inta aan la samayn iyada oo aan la helin lakabka wakiil ka ah ee u beddela xogta FluentBit una beddelo ClickHouse.
Beddelka Kibana, waxaad u isticmaali kartaa ClickHouse sidii dhabarka dambe . Ilaa hadda inta aan fahmayo, tani waxay sababi kartaa arrimo waxqabadka marka la bixinayo tiro badan oo dhibco xog ah, gaar ahaan noocyada hore ee Grafana. Qwintry, tan weli iskuma dayin, laakiin cabashooyinka arrintan ku saabsan ayaa mar mar ka soo muuqda kanaalka taageerada ClickHouse ee Telegram.
Beddelka Google Big Query iyo Amazon RedShift (xalka shirkadaha waaweyn)
Kiiska ugu habboon ee loo isticmaalo BigQuery waa in la raro 1TB ee xogta JSON oo lagu socodsiiyo su'aalaha falanqaynta. Wayddiinta Wayn waa badeecad weyn oo miisaankeedu ay adag tahay in la qiyaaso. Kani waa software aad uga adag marka loo eego ClickHouse oo ku shaqeeya koox gudaha ah, laakiin marka la eego aragtida macmiilka, waxa ay wax badan wadaagaan ClickHouse. BigQuery waxay si dhakhso ah u "qiimeyn kartaa" markaad bilowdo inaad bixiso SELECT kasta, marka waa xal SaaS dhab ah oo leh dhammaan faa'iidooyinka iyo khasaarooyinka.
ClickHouse waa doorashada ugu fiican marka aad qabato su'aalo badan oo xisaab ahaan qaali ah. Inta badan ee su'aalaha SELECT ee aad qabato maalin kasta, ayaa sii kordhaysa in lagu beddelo Big Query ee ClickHouse, sababtoo ah beddelka noocaas ah wuxuu kuu badbaadin doonaa kumanaan doolar marka ay timaado terabytes badan oo xog ah oo la farsameeyo. Tani ma khusayso xogta la kaydiyay, taas oo aad u jaban in lagu farsameeyo Wayddiinta Weyn.
Maqaal uu qoray Alexander Zaitsev, aasaasaha Altinity wuxuu qeexayaa faa'iidooyinka socdaalka DBMS ee noocaas ah.
Bedelka TimecaleDB
TimecaleDB waa kordhinta PostgreSQL kaas oo wanaajinaya la shaqaynta wakhtiyada kaydka caadiga ah, ).
In kasta oo ClickHouse aanu ahayn tartame halis ah wakhtiga taxanaha ah, laakiin marka la eego qaab dhismeedka tiirarka iyo fulinta weydiinta vector, aad bay uga dhakhso badan tahay TimescaleDB inta badan kiisaska habaynta weydiimaha falanqaynta. Isla mar ahaantaana, waxqabadka helitaanka xogta xirmada ClickHouse waxay ku saabsan tahay 3 jeer ka sarreeya, marka lagu daro, waxay isticmaashaa 20 jeer ka yar meel bannaan oo disk ah, taas oo runtii muhiim u ah ka shaqeynta tiro badan oo xog taariikhi ah: .
Si ka duwan ClickHouse, dariiqa kaliya ee lagu badbaadin karo qayb ka mid ah meelaha diskka ee TimescaleDB waa in la isticmaalo ZFS ama nidaamyada faylka la midka ah.
Cusboonaysiinta soo socota ee ClickHouse waxay u badan tahay inay soo bandhigto isku-buufinta delta, taasoo ka dhigi doonta mid aad ugu habboon habaynta iyo kaydinta xogta taxanaha wakhtiga. TimecaleDB waxay noqon kartaa doorasho ka wanaagsan ClickHouse qaawan xaaladaha soo socda:
- rakibo yaryar oo leh RAM aad u yar (<3 GB);
- tiro badan oo ah INSERTs yaryar oo aadan rabin inaad u kala qaybiso jajabyo waaweyn;
- joogtayn ka wanaagsan, lebis iyo shuruudaha ACID;
- Taageerada PostGIS;
- Ku biir miisaska PostgreSQL ee jira, maadaama Timecale DB ay asal ahaan tahay PostgreSQL.
Tartanka Hadoop iyo nidaamyada MapReduce
Hadoop iyo alaabada kale ee MapReduce waxay qaban karaan xisaabin badan oo adag, laakiin waxay u muuqdaan inay ku shaqeeyaan daahitaan weyn. ClickHouse waxay hagaajisaa dhibaatadan iyada oo farsamaysa terabyte oo xog ah isla markaana soo saarta natiijooyin isla markiiba. Markaa, ClickHouse aad bay ugu hufan tahay samaynta si degdeg ah, cilmi-baadhis falanqayn falanqeyn leh, taas oo ah inay danaynayaan saynisyahannada xogta.
Tartanka Pinot iyo Druid
Ku tartamayaasha ClickHouse ee ugu dhow waa tiirarka, badeecooyinka isha furan ee toosan la miisaami karo ee Pinot iyo Druid. Shaqo aad u fiican marka la barbardhigo nidaamyadan ayaa lagu daabacay maqaalka Febraayo 1, 2018
Maqaalkani wuxuu u baahan yahay in la cusbooneysiiyo - wuxuu leeyahay ClickHouse ma taageerto UPDATE iyo DELETE hawlgallada, taas oo aan gebi ahaanba run ahayn marka la eego noocyadii ugu dambeeyay.
Khibrad badan uma lihin DBMS-yadan, laakiin ma jecli kakanaanta kaabayaasha hoose ee loo baahan yahay si loo maamulo Druid iyo Pinot - waa farabadan oo dhan "qaybo guuraya" oo ay ku hareeraysan yihiin Java dhinac kasta.
Druid iyo Pinot waa mashaariicda Apache incubator, oo ay si faahfaahsan Apache u dabooleen bogaggooda mashruuca GitHub. Pinot wuxuu ka soo muuqday kubbatarka Oktoobar 2018, Druid wuxuu dhashay 8 bilood ka hor - Febraayo.
Macluumaad la'aanta ku saabsan sida ay AFS u shaqeyso ayaa igu kicisa qaar, iyo malaha nacasnimo, su'aalo aniga ii ah. Waxaan la yaabanahay haddii qorayaasha Pinot ay ogaadeen in Apache Foundation ay aad ugu nugul yihiin Druid, oo ma dabeecadda noocan oo kale ah ee ku wajahan tartame ayaa keentay dareen xaasid ah? Horumarka Druid ma hoos u dhigi doonaa iyo horumarinta Pinot ayaa dardar gelin doonta haddii kafaala-qaadayaasha taageeraya kuwii hore ay si lama filaan ah u xiiseeyaan kan dambe?
Faa'iido darrada ClickHouse
Bisayl la'aanta: Sida iska cad, tani wali waa tignoolajiyada caajiska ah, laakiin xaalad kasta, wax sidan oo kale ah lagama arko DBMS tiirarka kale.
Geliyaasha yaryar si fiican uguma qabtaan xawaare sare: gelinta waa in loo kala qaybiyaa qaybo waaweyn sababtoo ah waxqabadka dhejisyada yaryar ayaa hoos u dhigaya tirada tiirarka ee saf kasta. Sidan waa sida ClickHouse u kaydiyo xogta diskka - tiir kastaa waxay ka dhigan tahay 1 fayl ama ka badan, markaa si aad u geliso 1 saf oo ka kooban 100 tiir, waxaad u baahan tahay inaad furto oo aad qorto ugu yaraan 100 fayl. Tani waa sababta gelinta buffering ay u baahan tahay dhexdhexaadiye (haddii aanu macmiilka laftiisu bixinayn baqdin) - badiyaa Kafka ama nooc ka mid ah nidaamka safka. Waxa kale oo aad isticmaali kartaa mishiinka miiska Buffer si aad hadhow ugu koobiyayso qaybo badan oo xog ah miisaska MergeTree.
Ku biirista miiska waxaa xaddidaya RAM server-ka, laakiin ugu yaraan way jiraan! Tusaale ahaan, Druid iyo Pinot ma laha isku xirnaanta noocaas ah gabi ahaanba, maadaama ay adagtahay in si toos ah loo hirgeliyo nidaamyada la qaybiyay ee aan taageerin dhaqdhaqaaqa xogta badan ee u dhexeeya qanjidhada.
natiijooyinka
Sanadaha soo socda, waxaan qorsheyneynaa inaan si ballaaran u isticmaalno ClickHouse gudaha Qwintry, maadaama DBMS-kan ay bixiso dheellitirnaan heersare ah oo waxqabad ah, sare u kac hoose, miisaan, iyo fududaan. Waxaan hubaa inay si dhakhso leh u fidi doonto marka bulshada ClickHouse ay la timaado habab badan oo loo isticmaalo rakibaadda yaryar iyo kuwa dhexdhexaadka ah.
Xayeysiisyada qaar 🙂
Waad ku mahadsan tahay inaad nala joogto. Ma jeceshahay maqaalladayada? Ma doonaysaa inaad aragto wax badan oo xiiso leh? Nagu taageer adigoo dalbanaya amar ama kula talinaya asxaabta, , analoog gaar ah oo ah server-yada heerka gelitaanka, kaas oo anaga aanu adiga kuu hindisay: (waxaa laga heli karaa RAID1 iyo RAID10, ilaa 24 cores iyo ilaa 40GB DDR4).
Dell R730xd 2x ka jaban xarunta xogta Equinix Tier IV ee Amsterdam? Kaliya halkan Nederlaan! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - laga bilaabo $99! Wax ka akhri
Source: www.habr.com