ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaan kuu soo jeedinayaa inaad akhrido qoraalka warbixinta 2017 ee Igor Stryhar "ClickHouse - muuqaal ahaan degdeg ah oo falanqaynta xogta cad ee Tabix."

Isku xirka shabakadda ee ClickHouse ee mashruuca Tabix.
Tilmaamaha muhiimka ah:

  • Si toos ah ula shaqeeya ClickHouse browserka, iyada oo aan loo baahnayn in lagu rakibo software dheeraad ah;
  • Tifaftiraha su'aalaha oo leh syntax muujinta;
  • Dhamaystirka amarrada;
  • Aaladaha loogu talagalay falanqaynta garaafyada fulinta weydiinta;
  • Nidaamyada midabka si aad u kala doorato.
    ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar


ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaan ahay agaasimaha farsamada ee SMI2. Waxaan nahay isu-ururiyaha wararka is weydaarsada. Waxaan kaydinnaa xog badan oo aan ka helno la-hawlgalayaashayada waxaanan ka diiwaan gashannaa ClickHouse - ilaa 30 codsi ilbiriqsikii.

Tani waa xogta sida:

  • Riix warka
  • Bandhigyada wararka ee isku-darka
  • Banner-ka shabakadayada.
  • Oo waxaanu dhacdooyinka ka diiwaan gelinaa miiskayaga, kaas oo la mid ah Yandex.Metrica. Tani waa falanqaynta-yar ee noo gaar ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaan haysanay nolol aad u dhib badan ka hor ClickHouse. Wax badan ayaa na soo maray, anagoo isku daynay inaan xogtan meel ku kaydino oo si uun u falanqeyno.

Nolosha ka hor ClickHouse - infiniDB

Waxa ugu horeeyay ee aan haysanay waxay ahayd infiniDB. Waxay nala noolayd 4 sano. Si dhib leh ayaanu u daahfurnay.

  • Ma taageerto kooxaysiga ama kala qaybinta Wax caqli badan oo noocaas ah kama soo bixin sanduuqa si caadi ah.
  • Way ku adag tahay dejinta xogta. Kaliya utility console gaar ah kaas oo kaliya ku shubi kara faylasha CSV oo kaliya si aan caddayn.
  • Xogta kaydku waa hal xadhig. Waad qori kartaa ama akhrin kartaa. Laakin waxa ay sahashay in la farsameeyo xog badan.
  • Waxayna sidoo kale lahayd gunti xiiso leh. Habeen kasta server-ka waa in dib loo kiciyaa, haddii kale ma shaqeynayo.

Waxay noo shaqaynaysay ilaa dhamaadka 2016, markii aanu gabi ahaanba u wareegnay ClickHouse.

Nolosha ka hor ClickHouse - Cassandra

Maadaama infiniDB uu ahaa hal-threaded, waxaan go'aansanay inaan u baahanahay nooc ka mid ah xog-ururinta-threaded-ka badan kaas oo aan ku qori karno taxane badan isku mar.

Waxaan isku daynay waxyaabo badan oo xiiso leh. Kadib waxaan go'aansanay inaan isku dayno Cassandra. Wax walba waa ku fiicnaayeen Cassandra. 10 oo codsi ilbiriqsikiiba dalabkiiba. 000 codsasho meel wax lagu akhriyo.

Laakiin iyaduna waxay lahayd dano iyada u gaar ah. Bishii hal mar ama labadii biloodba hal mar waxay la kulantay kala-saarid xogta xogta. Oo waxay ahayd inaan tooso oo aan ordo si aan u hagaajiyo Cassandra. Server-kii ayaa mid mid dib loo bilaabay. Wax walbana waxay noqdeen kuwo siman oo qurux badan.

Nolosha ka hor ClickHouse - Druid

Kadib waxaan ogaanay inaan u baahanahay inaan qorno xog badan. 2016kii waxaan bilownay daawashada Druid.

Druid waa software il furan oo Java ku qoran. Aad u gaar ah. Oo waxay ahayd mid ku habboon gujisyada, marka aan u baahanahay inaan kaydinno nooc ka mid ah qulqulka dhacdooyinka ka dibna aan samayno isku-darka iyaga ama samayno warbixinno falanqeyn ah.

Druid wuxuu lahaa nooca 0.9.X.

Xogta xogta lafteeda aad bay u adagtahay in la geeyo. Tani waa kakanaanta kaabayaasha. Si loo geeyo, waxay ahayd lagama maarmaan in la rakibo wax badan, bir badan. Qalab kastaana wuxuu masuul ka ahaa doorkiisa gaarka ah.

Si aad xogta ugu shubto, waxay ahayd lagama maarmaan in la isticmaalo nooc ka mid ah shamanism. Waxaa jira mashruuc OpenSource - Deganaanshiyaha, kaas oo luminayay xogta nooga timid qulqulka. Markii aan ku shubnay xogta, way lumisay.

Laakiin si uun ayaannu u bilownay inaan hirgelinno. Annagu, sida hedgehogs oo qaatay daroogo laakiin sii waday cunista cactus, ayaa bilaabay inaan soo bandhigno. Waxay nagu qaadatay muddo bil ku dhow inaan u diyaarino dhammaan kaabayaashiisa. Taasi waa, dalbo adeegayaasha, habayso doorarka, oo si buuxda u otomaatig ah u dirida. Taasi waa, haddii ay dhacdo in kooxdu guuldarraysato, kooxda labaad si toos ah ayaa loo hawlgelin doonaa.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Laakin markaas waxaa dhacday mucjiso. Fasax ayaan ku maqnaa, asxaabteyduna waxay ii soo direen xiriiriye habr, taas oo sheegaysa in Yandex uu go'aansaday inuu furo ClickHouse. Waxaan leeyahay aan isku dayno.

Run ahaantiina 2 maalmood gudahood waxaan geynay kooxda tijaabada ClickHouse. Waxaan bilownay in aan ku shubno xogta. Marka la barbar dhigo infiniDB, tani waa dugsi hoose; marka la barbar dhigo Druid, kani waa dugsi hoose. Marka la barbardhigo Cassandra, sidoo kale waa dugsi hoose. Sababtoo ah haddii aad xogta ka soo dejiso PHP gal Cassandra, markaa tani maaha dugsi hoose.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Maxaan helnay? Waxqabadka xawaaraha. Waxqabadka kaydinta xogta Taasi waa, meel aad u yar ayaa la isticmaalaa. ClickHouse waa dhakhso, aad buu u dhaqso badan yahay marka loo eego alaabada kale.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waqtigii la bilaabay, markii Yandex ay daabacday ClickHouse gudaha OpenSource, waxaa jiray kaliya macmiil console ah. Anagoo ah shirkadeena SMI2 ayaa go'aansanay inaan isku dayno inaan u samayno macmiil u dhashay shabakada, si aan uga furno bog browserka, u qorno codsi oo aan u helno natiijada, sababtoo ah waxaan bilownay qorista codsiyo badan. Ku qorista konsole waa adag tahay. Oo waxaan samaynay nuqulkii ugu horreeyay.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Iyo meel u dhow jiilaalka sannadkii hore, qalabka dhinac saddexaad ee la shaqeynta ClickHouse ayaa bilaabay inuu soo muuqdo. Kuwani waa agabka sida:

Waxaan eegi doonaa qaar ka mid ah qalabkan, taas oo ah, kuwa aan la shaqeeyay.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Qalab wanaagsan, laakiin Druid. Markii Druid la fulinayay, waxaan tijaabinayay SuperSet. waan ka helay isaga Druid aad bay u degdeg badan tahay.

Kuma haboona ClickHouse. Taasi waa, way ku habboon tahay, way bilaabmaysaa, laakiin waxay diyaar u tahay inay socodsiiso oo keliya weydiimaha hoose sida: Dhacdada SELECT, KOOXDA dhacdo. Ma taageerto kakan kakan ee ClickHouse syntax.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Qalabka soo socda waa Apache Zeppelin. Tani waa wax wanaagsan oo xiiso leh. shaqeeya Waxay taageertaa buugaagta xusuus-qorka, dashboard-yada, waxayna taageertaa doorsoomayaasha. Waan ogahay in qof ka tirsan bulshada ClickHouse uu isticmaalo.

Laakiin ma jirto wax taageero ah oo loogu talagalay syntax ClickHouse, tusaale ahaan waa inaad su'aalo ku qortaa konsole ama meel kale. Marka xigta, hubi inay dhammaan shaqeeyaan. Kaliya waa dhib. Laakin waxay haysataa taageero dashboard wanaagsan.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Qalabka xiga waa Redash.IO. Redash waxaa lagu marti galiyay internetka. Taasi waa, ka duwan qalabkii hore, uma baahna in la rakibo. Tanina waa dashboard awood u leh in lagu mideeyo xogta DataSources kala duwan. Taasi waa, waxaad ka soo dejisan kartaa ClickHouse, MySQL, ka PostgreSQL iyo xog-ururinta kale.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Bil ka hor (Maarso 2017), taageero ayaa ka soo muuqatay Grafana. Markaad ku dhisto warbixinnada Grafana, tusaale ahaan, xaaladda qalabkaaga ama qiyaasaha qaar, hadda waxaad dhisi kartaa isla garaaf ama nooc ka mid ah guddi xogta ClickHouse si toos ah. Tani aad bay ugu habboon tahay, annaguna nafteena ayaan u isticmaalnaa. Tani waxay kuu ogolaaneysaa inaad hesho cillado. Taasi waa, haddii ay wax dhacaan oo qalabyada qaarkood ay dhacaan ama ay noqdaan kuwo cidhiidhi ah, markaa waxaad eegi kartaa sababta haddii xogtan ay u suurtagashay inay gasho ClickHouse.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaan u arkay inay aad u dhib badan tahay inaan ku qoro qalabkan ama console-ka. Oo waxaan go'aansaday in aan hagaajiyo interface our ugu horeysay. Oo waxaan fikradda ka helay EventSQL, SeperSet, Zeppelin.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

maxaad rabtay Waxaan rabay inaan helo garaafyo, tifaftire la hagaajiyay, oo aan hirgeliyo taageerada qaamuusyada tilmaame. Sababtoo ah ClickHouse waxay leedahay muuqaal weyn - qaamuusyada. Laakiin way adag tahay in lagu shaqeeyo qaamuusyada, sababtoo ah waxaad u baahan tahay inaad xasuusato qaabka qiyamka kaydsan, i.e. waa lambar ama xadhig, iwm.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

3 bilood ayaa ka soo wareegtay markii la sii daayay nuqulkeenii kowaad. Waxaan sameeyay ilaa 330 ballanqaad oo laan gaar ah oo ay noqotay Tabix.

Si ka duwan nooca hore, kaas oo la odhan jiray ClickHouse-Frontend, waxaan go'aansaday inaan u magacaabo magac fudud. Waxayna noqotay Tabix.

Maxaa u muuqday?

Wuxuu sawiraa garaafyo Waxay taageertaa ClickHouse SQL syntax. Wuxuu talo ka bixiyaa hawlaha wuxuuna samayn karaa waxyaabo badan oo xiiso leh.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tani waa sida nidaamka guud ee Tabix u eg yahay. Dhanka bidix waxaa ku yaal geed. Bartamaha waxaa ku yaal tafatiraha weydiinta. Hoos waxaa ah natiijada codsigan.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Marka xigta waxaan ku tusi doonaa sida tifaftiruhu u shaqeeyo.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Halkan autocomplete si otomaatig ah ayey ugu shaqeysaa miiska waxayna soo jeedisaa, si waafaqsan, otomaatig u buuxi beeraha. Iyo tilmaamo ku saabsan shaqooyinka. Haddii aad riixdo ctrl enter, codsiga waa la fulin doonaa ama wuu ku guuldareysan doonaa qalad. Codsiga ugu fudud waxaa loo diraa Tabix natiijaduna waa la helay, tusaale ahaan waxaad si dhakhso ah ula shaqeyn kartaa ClickHouse.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Qaamuusyadu, sidaan horeba u sheegay, waa shay aad u xiiso badan oo aan in badan ku shaqeyno. Taas oo noo ogolaatay inaan samayno waxyaabo badan. Aynu nidhaahno waxaan ku kaydineynaa dhammaan magaalooyinka qaamuusyada. Waxaan kaydinnaa aqoonsiga magaalada iyo magaca magaalada, loolka iyo dhererkeeda. Iyo kaydka xogta waxaanu ku kaydinay kaliya aqoonsiga magaalada. Sidaa awgeed, waxaanu si xoogan u cadaadinaynaa xogta.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tani waxay u muuqataa inay tahay wax fudud, laakiin waxay ka caawisaa ClickHouse hab aad u xiiso badan. Sababtoo ah xaqiiqda ah in ClickHouse kaliya ay taageerto ku biirista buullaha ah, weydiintu hoos ayey u koraysaa oo ballaaran. Oo marka xidhidu furto oo xoogaa hadal dheer ahi soo gasho, markaas wax fudud sida burburka su'aasha ayaa fududaynaysa in lagu shaqeeyo weydiinta lafteeda. Sababtoo ah marka weydiintu dhererkeedu yahay 200-300 oo sadar oo ballaciisu aad u weyn yahay, aad bay u caawinaysaa in la dumiyo waydiinta kadibna meel la helo ama si uun loo dhigo.

Geedka shayga, weydiimaha badan iyo tabs (Video 13:46 https://youtu.be/w1-XsL3nbRg?t=826)

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Marka xigta waxaan ku tusi doonaa geedka iyo tabsiyada. Dhanka bidix waxaa ku yaal geed, korka waxaad abuuri kartaa dhowr tabs. Taabashadu waa sida goobta shaqada. Waxaad samayn kartaa tabs dhowr ah oo mid walba si gooni ah ayaad u magacaabi kartaa. Waxay la mid tahay nidaam-yar oo lagu dhisayo warbixinta.

Tabs si toos ah ayaa loo kaydiyaa Haddii aad dib u bilowdo biraawsarkaaga ama aad xidho ama furto Tabix, waxaas oo dhan way badbaadi doonaan.

Hotkey - ku habboon (Video 14:39 https://youtu.be/w1-XsL3nbRg?t=879)

Waxaa jira furayaasha furaha oo aad ayey u badan yihiin. Qaar ka mid ah ayaan halkan ka soo qaatay tusaale ahaan. Tani waa beddelka tabs, fulinta codsi ama fulinta codsiyo badan.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaan ku tusi doonaa sida loogu shaqeeyo natiijada. Waxaan u dirnaa codsi. Halkan waxaan sawirayaa dembiga, cos iyo tg. Waxaad iftiimin kartaa natiijada, tusaale ahaan u sawir khariidad caadiga ah ee tiirka. Waxaad muujin kartaa qiimayaal togan ama taban. Ama si fudud u midabeeya cunsur miis gaar ah. Tani waxay ku habboon tahay marka miisku weyn yahay oo aad u baahan tahay inaad aragto cillad indhahaaga ah. Markii aan raadinayey cillado, waxaan iftiimiyay qaar ka mid ah xariiqyada, qaar ka mid ah walxaha cagaarka ama casaanka ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaa jira waxyaabo badan oo xiiso leh. Tusaale ahaan, sida loo koobiyeeyo Redmine Markdown. Haddii aad u baahan tahay inaad natiijada meel ku koobiyeeyso, tani aad bay ugu habboon tahay. Waxaad si fudud u dooran kartaa aag, waxaad tidhaahdaa "Koobi ka dhig" oo waxay koobi doontaa Redmine Markdown ama waxay abuuri doontaa su'aal halkee ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Xiga waa kobcinta waydiinta Mar waxaan ilaaway inaan qeexo goobta "taariikhda". Codsigaygiina ClickHouse looma hawlgelin si aad iyo aad u dhaqso badan, laakiin si degdeg ah, ie. in ka yar ilbiriqsi. Markaan arkay inta sadar ee uu maro ayaan baqay. Kuma qorno safaf badan miiskan maalintiiba. Waxaan bilaabay inaan falanqeeyo codsigii oo waxaan arkay inaan taariikh hal meel ku dhaafey. Taasi waa, waxaan illoobay inaan tilmaamo inaanan u baahnayn xogta miiska oo dhan, laakiin muddo gaar ah.

Tabix waxay leedahay tab "Stats", kaas oo kaydiya dhammaan taariikhda codsiyada la soo diray, tusaale ahaan, waxaad ka arki kartaa inta sadar ee codsigan akhriyay iyo muddada ay qaadatay fulinta. Tani waxay u ogolaanaysaa tayaynta

Waxaad ka dhisi kartaa miis pivot natiijada weydiinta. Waxaad codsi u dirtay ClickHouse oo aad heshay xoogaa xog ah. Kadibna waxaad ku dhaqaajin kartaa xogtan jiirkaaga oo waxaad ku dhisi kartaa nooc ka mid ah miiska pivot.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxa soo socda ee xiisaha leh waa qorshe-qoraal. Aynu nidhaahno waxaan haynaa codsigan soo socda: dembiga, cos laga bilaabo 0 ilaa 299. Oo si aad u sawirto, waxaad u baahan tahay inaad doorato "Draw" tab oo waxaad heli doontaa garaafka dembigaaga iyo cos.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tan waxaad u kala qaybin kartaa faasas kala duwan, tusaale ahaan waxaad hal mar sawiri kartaa laba garaaf oo dhinac dhinac ah. Qor hal amar iyo amar labaad.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaad sawiri kartaa histograms.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tan waxaad u kala qaybin kartaa jaantus garaafyo ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaad dhisi kartaa khariidad kulaylka.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxaad dhisi kartaa jadwalka kulaylka. By habka, tani waa shay aad u habboon marka aad u baahan tahay si ay u falanqeeyaan anomalies in ka badan hal sano, i.e., heli mid ka mid ah Sabuul ama dhibcood. Xog-ururintan ayaa iga caawisay tan.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Xiga waa Treemap.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Sankeys waa jaantus xiiso leh. Isagu waa Streamgrahps ama River. Laakiin waxaan ugu yeeraa Webiga. Waxay sidoo kale kuu ogolaaneysaa inaad raadiso cillad kasta. Aad bay u raaxo badan tahay. Waxaan ku talinayaa in aad u isticmaasho raadinta.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Waxa xiga ee xiisaha leh ayaa sawiraya khariidad firfircoon. Haddii aad kaydiso latitude, longitude database-kaaga oo, waxaad tidhaahdaa, kaydi meel aad u socoto, haddii aad, tusaale ahaan, haysato baabuur xamuul ah ama diyaarado duulaya, markaa waxaad sawiri kartaa waddooyinka aad u socoto. Sidoo kale halkaas waxaad ku dejin kartaa xawaaraha iyo cabbirka walxahan ay ku duulayaan.

Laakiin dhibaatada khariidadani waa in ay sawirto khariidadda adduunka oo kaliya, ma jiraan wax faahfaahin ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Ka dib waxaan ku daray Google map. Haddii aad kaydiso latitude, longitude, markaa waxaad ku sawiri kartaa natiijada khariidadda Google, laakiin adiga oo aan haysan taageero diyaarad.

Waxaan ka wada hadalnay hawlaha ugu muhiimsan ee ku shaqeynta natiijooyinka iyo weydiimaha Tabix.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Midda xigta waa falanqaynta server-kaaga ClickHouse. Waxa jira tab “Metrics” oo gooni ah, halkaas oo aad ka arki karto cabbirka xogta la kaydiyay tiir kasta. Sawirku wuxuu muujinayaa in goobtan "referrer" ay qaadato qiyaastii 730 Gb. Haddii aan ka tagno goobtan, waxaan badbaadin doonaa saddex xabbo oo 700 GB ah midkiiba, i.e. ilaa 2 TB oo aynaan u baahnayn.

Waxa kale oo aanu haynaa garoon "request_id" kaas oo aanu ku kaydinay xadhig. Laakiin haddii aan ku bilowno kaydinta qaab tiro ahaan, goobtan aad bay u yaraan doontaa.

Waxa kale oo ay muujinaysaa habaynta server-ka iyo liiska noodhka ee kutladaada.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tabta xigta waa mitir. Waxay la galaan ClickHouse waqtiga dhabta ah waxayna si fudud kuu oggolaanayaan inaad falanqeyso xaaladda serverka oo aad fahamto waxa ku dhacaya. Tani maaha bedelka Grafana buuxa. Tani waxay lagama maarmaan u tahay falanqaynta degdega ah.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Tabta xigta waa habab. Iyaga waxaad ka fahmi kartaa waxa ka dhacaya server-ka. Faham waxa meeshaas ka socda. Waxaan lahaa codsi cunay 200 GB oo wax akhris ah wakhti kasta. Waxaan arkay tan mahadda interface this. Waan qabtay oo saxay. Oo waxay noqotay ilaa 30 GB, tusaale ahaan wax qabad mararka qaarkood.

ClickHouse – muuqaal ahaan degdeg ah iyo falanqayn xog dareen leh gudaha Tabix. Igor Stryhar

Mahadsanid! Oo tani waxay ku taal OpenSource

waan dhameeyay Iyo habka, waa OpenSource, waa bilaash oo xitaa uma baahnid inaad soo dejiso. Ku fur browserka wax walbana way shaqayn doonaan.

Su'aalahaada

Igor, maxaa xiga? Halkeed ka horumarin doontaa qalabkan?

Marka xigta, dashboards ayaa soo bixi doona, tusaale ahaan, laga yaabee in dashboards ay soo baxaan. La-qabsiga xog-ururinta kale. Tan waan sameeyay, laakiin weli kuma daabicin OpenSource. Tani waa MySQL iyo suurtagal ahaan PostgreSQL. Taasi waa, waxaa suurtagal ah in laga soo diro codsiyada Tabix ma aha oo kaliya ClickHouse, laakiin sidoo kale qalab kale.

Waxaa cad in shaqo aad u badan la qabtay. Waxay noqotay fikrad si caddaalad ah u dhammaystiran tahay. Tan waxaa lagu sameeyay browserka, sida muuqata, si loo baabi'iyo biraha ku yaal dhammaan noocyada faasaska oo si dhakhso ah u wada tuuraan wax walba. Waxaan maqlay inaad saaran tahay php shaqada, markaa sida ugu fudud waa inaad ku qorto browserka waxayna ka shaqayn doontaa meel kasta. Ma jiraan wax su'aalo ah oo ku saabsan arrintan. Su'aashu waa tan. Wax badan ayaa runtii halkaas lagu qabtay. Immisa qof ayaa arrintan ka shaqeeyay? Iyo intee in le'eg ayay dhammaan qaadatay? Sababtoo ah qalabyada gaarka ah sida caadiga ah ma laha shaqeyn intaa le'eg.

Hal qof oo kooxdayada ah ayaa shaqeeyay xagaaga ilaa dayrta. Tani waxay ahayd nuqulkii ugu horreeyay. Kadib waxaan sameeyay 330 go'aan oo kali ah. Waxa aad aragto, aniga iyo saaxiibkay waxaan samaynay kala badh. 3 bilood gudahood, laga bilaabo nuqulkii ugu horreeyay ilaa kii u dambeeyay, inta badan keligey ayaan sameeyay. Laakiin si fiican uma aqaan Javascript. Kani waxa uu ahaa aniga oo keliya, waxaana rajaynayaa, mashruucii Javascript ee iigu dambeeyay ee aan la shaqeeyay. Waan helay, waan eegay - oh, naxdin. Laakiin runtii waxaan rabay inaan dhameeyo badeecada waana tan dhacday.

Aad baad ugu mahadsantahay warbixinta! Tani waa qalab weyn. leh yaase Ma is barbar dhigteen?

Mahadsanid. Waa sababta aan ugu magacaabay Tabix, sababtoo ah xarfaha hore waa isku mid.

Sababtoo ah adigaa tartamaya?

Waxaa jiri doona maalgashi badan, waan tartami doonaa.

Sidee ayaad u soo bandhigi kartaa inaad ka iibiso falanqeeyayaasha gudaha in qalabkani uu si buuxda u bedeli doono *Tableau*? Maxay noqon doonaan doodaha?

Waxay u shaqeysaa asal ahaan ClickHouse. Waxaan isku dayay Tableau, laakiin ma qori kartid taageerada qaamuusyada iyo wixii la mid ah halkaas. Waan ogahay sida ay dadku ula shaqeeyaan Tabix. Way qoraan su'aal, geliyaan CSV oo u geliyaan BI. Waxayna durbaba halkaas wax ka wadaan. Laakiin waxaa igu adag inaan qiyaaso sida ay tan u sameeyaan, sababtoo ah waa qalab garaaf ah. Waxay soo dejin kartaa 5 oo saf, ugu badnaan 000 oo saf, laakiin ma jiraan, haddii kale browserku ma xamili doono.

Taasi waa, waxaa jira xaddidaadyo halis ah oo ku saabsan qaddarka xogta, sax?

Haa Ma qiyaasi karo inaad rabto inaad 10 oo saf ku dhejiso miiskaaga shaashadda biraawsarkaaga. Maxay?

Tani miyay ka dhigan tahay in kani yahay interface si degdeg ah loo daawado xogta? Wax yar marooji, marooji?

Haa, dhaqso u arag sida ay u shaqeyso oo kaliya dhis garaaf kooban. Ka dibna meel sii. Waxaan leenahay nidaam warbixineed oo noo gaar ah, meesha aan si fudud uga qaato codsigan. Waxaan ku sawiraa Tabix oo u soo diraa warbixintayada.

Iyo su'aal kale. Falanqaynta kooxda?

Haddii ay jiraan wax codsi ah, waan ku dari doonaa.

Goorma ayaad hadda bilowday isticmaalkeeda? ClickHouse, intee in le'eg ayay hirgelintu qaadatay? GujiHouse oo keenaya gobolka wax soo saarka?

Sidaan sheegay, waxaan ku hirgelinay koox tijaabo ah muddo aad u yar gudaheed. Laba maalmood gudaheed ayaanu geynay. Waxaannu tijaabinay dhowr toddobaad oo kale. Oo waxaan gaarnay wax soo saarka bilo 3. Laakiin waxaan haysanay ETL noo gaar ah, i.e. qalab lagu duubo xogta. Wax walbana wuu ku qoray. Wuxuu wax ku qori karaa MongoDB, Cassandra, MySQL. Way fududahay in la baro sida wax loogu qoro ClickHouse. Waxaan haysanay kaabayaal diyaarsan oo si degdeg ah loo hirgeliyo. Muddo 3 bilood gudahood ah ayaanu bilownay in aan tuurno qaybtii ugu horreysay. Muddo 6 bilood ah ayaanu gabi ahaanba ka tagnay wax kasta oo kale. Waxa noo hadhay hal ClickHouse.

Igor, aad baad ugu mahadsantahay warbixinta. Runtii aad ayaan u jeclaystay shaqaynta waddooyinka dhisidda khariidado. Ma jiraan wax qorshayaal ah oo loogu talagalay la-qabsashada Yandex.Maps iyo gaar ahaan Yandex.Maps-ka caadiga ah?

Waxaan isku dayay inaan dhex galo halkii khariidadda Google-ka, laakiin mawduuc mugdi ah kama helin Yandex.Maps. Hal gabal kuuma sheegin. Waan dib u celinayaa inaan ku daro

Islaaydh – Khariidadda Google. Waxaa jira amar "DRAW_GMAPS", kaas oo sawiraya khariidad. Waxaa jira amar "DRAW_YMAPS", ie. wuxuu sawiri karaa Yandex.Map. Laakiin dhab ahaantii, amarkan hoos yimaada waxaa jira Javascript, i.e. xogta aad ka hesho ClickHouse waxaa loo wareejin karaa Javascript, oo aad halkan ku qorto. Oo waxaad haysataa meel wax soo saar ah oo ay tahay in lagu sawiro. Waxaad sawiri kartaa garaaf kasta, tusaale ahaan garaaf kasta, khariidad, waxaad sawiri kartaa qaybtaada. Taas ka hor, waxaan lahaa maktabad kale oo lagu sawiro garaafyada laftooda.

Taasi waa, ma jiraa qalab lagu habeynayo shaqeynta bandhigga?

Mid kasta. Waxaad qaadan kartaa oo dib u midabayn kartaa dhibcahan, adigoo ka dhigaya inaanay casaan ahayn, laakiin buluug, cagaar ah.

Waad ku mahadsan tahay warbixinta! Waxaad haysatay boodh soo bandhigay qalab kale oo weydiinta GujiHouse si loo dhiso dashboards iyo warbixinnada falanqaynta. Waan fahamsanahay wakhtigan xaadirka ah markii aad bilowday la shaqaynta ClickHouse, looma qorin adapters qalabkan. Oo waxaan la yaabanahay sababta aad u go'aansatey in aad sameysid qalab adiga kuu gaar ah, halkii aad ku qori lahayd adabtarada qalab diyaarsan? Waxaan u maleynayaa in hagaajinta tifaftiraha imtixaanku ay tahay mid degdeg ah. Maxaad u go'aansatay inaad qabato shaqo badan?

Waxaa jira qodob xiiso leh halkan - xaqiiqadu waxay tahay inaan ahay agaasime farsamo, ma aha saynisyahan xogta. Markii aan bilownay hirgelinta Druid, khariidaddeyda khariidaddeydu waxay lahayd qiyaastii 50% hawlaha - aan xisaabino tan, ama aan xisaabino tan, ama aan falanqeyno tan. Waxayna soo baxday inaan hirgelinay ClickHouse. Oo wuxuu bilaabay inuu si degdeg ah wax walba u dhiso, tiriyo, oo si degdeg ah u xidhay khariidaddiisa. Oo wakhtigaas waxaan ogaaday in aan aqoon u lahayn Sayniska Xogta iyo muuqaalka xogta. Tabix waa nooc ka mid ah shaqada gurigayga ee barashada xog-ururinta. Waxaan eegayay sida loo kabo Zeppelin. Waxoogay nacayb baan ka qabaa barnaamijkiisa. Redash waxaan eegay sida aan ugu daro, laakiin tifaftiraha caadiga ah ayaa igu filan. Iyo SuperSet sidoo kale waxa lagu qoraa luqad aanan runtii jeclayn. Markaasaan go'aansaday inaan baaskiil ku wado, waana tan dhacday.

Igor, ma aqbashay codsiyada Jiid?

Haa.

Aad baad ugu mahadsantahay warbixinta! Iyo laba su'aalood. Marka hore, si faan ah ugama hadasho Javascript. Ma ku qortay Javascript qaawan mise waa nooc qaabayn ah?*

Ka fiican Javascript qaawan.

Haddaba waa maxay qaab-dhismeedka?

Xaglo

Way caddahay. Iyo su'aasha labaad. Ma ka fiirsatay R и *dhalaalaya**?*

Waa loo tixgeliyey. Ciyaaray

Waxa kale oo aad qori kartaa adabtarada.

Isagu waa. Waxay u egtahay in bulshadu samaysay, laakiin, sidaan uga jawaabay su'aashii hore, waxaan rabay inaan isku dayo nafteyda.

*Maya, ee ku saabsan muuqalka, sidoo kale waa halkaas.

Waxaad tidhaahdaa waxaas oo kale ayaa jira oo waxay kuu soo jiidi doontaa garaaf. Waxaan furay buug ku saabsan muuqaalaynta xogta. Oo waxaan ku fikiray: "Aan isku dayo inaan sawiro xogtan. Waxaan u qori doonaa isaga si uu dib ugu dhiso xogta." Oo waxaan bilaabay inaan si fiican u fahmo tignoolajiyada quudinta xogta. Oo haddii aan qaadan lahaa qayb diyaarsan, anigu shakhsi ahaan waxaan baran lahaa si ka sii xun sida loo isticmaalo, taas oo ah, muuqaalaynta. Laakiin haa, waan jeclaa R, laakiin weli maan akhriyin buugga "R for Dummies" weli.

Waad ku mahadsan tahay!

Su'aal fudud. Ma jiraan habab si degdeg ah loogu dhejiyo calaamad ama jadwal?

Waxaa lagu dhejin karaa CSV ama Excel.

Xog ma aha, laakiin saxan diyaarsan, garaaf diyaarsan? Tusaale ahaan, si loo tuso madaxa.

Waxa jira badhan “Upload” oo waxa jira badhan “Upload graph in png, in jpg”.

Waad ku mahadsan tahay!

Tilmaamaha-yar ee PS-ka ee ku rakibida tabix

Source: www.habr.com

Add a comment