ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Manoro hevitra anao aho hamaky ny transcript ny tatitra 2017 nataon'i Igor Stryhar "ClickHouse - famakafakana angon-drakitra haingana sy mazava ao amin'ny Tabix."

Interface web ho an'ny ClickHouse amin'ny tetikasa Tabix.
Zava-dehibe:

  • Miara-miasa amin'ny ClickHouse mivantana avy amin'ny navigateur, tsy mila mametraka rindrambaiko fanampiny;
  • Tonian-dahatsoratra fanontaniana miaraka amin'ny fanasongadinana syntax;
  • Autocompletion ny baiko;
  • Fitaovana ho an'ny famakafakana an-tsary momba ny fanatanterahana fanontaniana;
  • Tetika loko azo isafidianana.
    ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar


ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Tale teknikan'ny SMI2 aho. Mpamory vaovao amin'ny fifanakalozana vaovao izahay. Mitahiry angon-drakitra maro azonay avy amin'ny mpiara-miombon'antoka izahay ary misoratra anarana ao amin'ny ClickHouse - fangatahana 30 eo ho eo isan-tsegondra.

Ity dia data toy ny:

  • Tsindrio eo amin'ny vaovao.
  • Asehoy ny vaovao ao amin'ny aggregator.
  • Fampisehoana sora-baventy ao amin'ny tambajotranay.
  • Ary manoratra hetsika avy amin'ny kaonteranay manokana izahay, izay mitovy amin'ny Yandex.Metrica. Ity ny micro-analytics anay manokana.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Nanana fiainana tena sahirana izahay talohan'ny ClickHouse. Nijaly mafy izahay, niezaka nitahiry an'io angona io tany ho any ary namakafaka azy io.

Fiainana alohan'ny ClickHouse - infiniDB

Ny zavatra voalohany nanananay dia infiniDB. Niara-nipetraka taminay nandritra ny 4 taona izy. Nandefa izany tamin'ny sarotra izahay.

  • Tsy manohana clustering na sharding. Tsy misy zavatra marani-tsaina toy izany nivoaka avy ao anaty boaty ho default.
  • Sarotra aminy ny mampiditra angona. Fitaovana fampiononana manokana izay tsy afaka mampiditra rakitra CSV ihany ary amin'ny fomba tsy mazava ihany.
  • Ny angon-drakitra dia kofehy tokana. Azonao atao ny manoratra na mamaky. Saingy nahafahana nikarakara angon-drakitra betsaka.
  • Ary nanana tehina mahaliana koa izy. Isaky ny alina dia tsy maintsy averina averina indray ny mpizara, raha tsy izany dia tsy mandeha izany.

Niasa ho anay izy hatramin'ny faran'ny taona 2016, rehefa nivadika tanteraka tamin'ny ClickHouse izahay.

Fiainana alohan'ny ClickHouse - Cassandra

Koa satria ny infiniDB dia kofehy tokana, dia nanapa-kevitra izahay fa mila karazana tahiry maromaro misy kofehy izay ahafahantsika manoratra kofehy maro amin'ny fotoana iray ihany.

Nanandrana zavatra mahaliana maro izahay. Nanapa-kevitra ny hanandrana an'i Cassandra izahay avy eo. Tsara ny zava-drehetra niaraka tamin'i Cassandra. Fangatahana 10 isan-tsegondra isaky ny tolo-bidy. 000 ny fangatahana hovakiana any amin'ny toerana iray.

Nanana ny tombontsoany manokana koa anefa izy. Indray mandeha isam-bolana na indray mandeha isaky ny roa volana no niainany ny tsy fandrindrana ny angona. Ary tsy maintsy nifoha aho ary nihazakazaka nanamboatra an'i Cassandra. Naverina indray ny mpizara. Ary lasa milamina sy tsara tarehy ny zava-drehetra.

Fiainana alohan'ny ClickHouse - Druid

Avy eo dia nahatsapa izahay fa mila manoratra angona bebe kokoa. Tamin'ny taona 2016 dia nanomboka nijery Druid izahay.

Druid dia rindrambaiko open source nosoratana tamin'ny Java. Tena voafaritra. Ary mety ho an'ny clickstream izany, rehefa mila mitahiry karazana hetsika isika ary avy eo manangona azy ireo na manao tatitra famakafakana.

Druid dia nanana version 0.9.X.

Ny angon-drakitra mihitsy no tena sarotra apetraka. Izany no mahasarotra ny fotodrafitrasa. Mba hanaparitahana azy dia ilaina ny mametraka be dia be, vy be dia be. Ary ny fitaovana tsirairay dia tompon'andraikitra amin'ny anjara asany manokana.

Mba hampidirana ny angona ao anatiny dia ilaina ny mampiasa karazana shamanisma. Misy tetikasa OpenSource - Tranquility, izay very angon-drakitra avy taminay tao anaty renirano. Rehefa nampiditra angona tao anatiny izahay dia very izany.

Saingy nanomboka nampihatra izany izahay. Isika, toy ny sokina nisotro zava-mahadomelina nefa nanohy nihinana cactus, dia nanomboka nampiditra azy io. Naharitra iray volana teo ho eo ny fanomanana ny fotodrafitrasa rehetra ho amin’izany. Izany hoe, manafatra lohamilina, amboary ny andraikitra, ary mandeha ho azy tanteraka ny fametrahana. Izany hoe, raha misy tsy fahombiazan'ny cluster, dia alefa ho azy ny cluster faharoa.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Nisy fahagagana nitranga anefa avy eo. Niasa vakansy aho ary nandefa rohy ho ahy ireo mpiara-miasa amiko habr, izay milaza fa nanapa-kevitra ny hanokatra ClickHouse i Yandex. Hoy aho hoe andao andramana.

Ary ara-bakiteny tao anatin'ny 2 andro dia nametraka cluster fitsapana ClickHouse izahay. Nanomboka nampiditra angona tao anatiny izahay. Raha ampitahaina amin'ny infiniDB, ity dia fototra; raha ampitahaina amin'ny Druid, ity dia fototra. Raha ampitahaina amin'i Cassandra dia fototra ihany koa izy io. Satria raha mampiditra angona avy amin'ny PHP mankany Cassandra ianao dia tsy fototra izany.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Inona no azonay? Fampisehoana amin'ny hafainganam-pandeha. Fahombiazana amin'ny fitahirizana angona. Izany hoe, kely kokoa ny habaka kapila ampiasaina. ClickHouse dia haingana, tena haingana raha oharina amin'ny vokatra hafa.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Tamin'ny fotoana nanombohana, rehefa namoaka ClickHouse tao amin'ny OpenSource i Yandex, dia tsy nisy afa-tsy mpanjifa console. Izahay tao amin'ny orinasanay SMI2 dia nanapa-kevitra ny hanandrana hanao mpanjifa teratany ho an'ny tranonkala, mba hahafahantsika manokatra pejy avy amin'ny navigateur, manoratra fangatahana ary mahazo ny valiny, satria nanomboka nanoratra fangatahana be dia be. Sarotra ny manoratra amin'ny console. Ary nanao ny dikan-tsika voalohany izahay.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ary any amin'ny toerana akaiky kokoa ny ririnina tamin'ny taon-dasa dia nanomboka niseho ny fitaovana an'ny antoko fahatelo hiasa amin'ny ClickHouse. Ireo dia fitaovana toy ny:

Hojereko ny sasany amin'ireo fitaovana ireo, izany hoe ireo izay niasako.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Fitaovana tsara, fa ho an'ny Druid. Rehefa nampiharina ny Druid dia nanandrana ny SuperSet aho. tiako izy. Ho an'i Druid dia tena haingana.

Tsy mety amin'ny ClickHouse izany. Izany hoe, mifanaraka, manomboka, fa vonona ny handamina fanontaniana fototra toy ny: SELECT hetsika, GROUP BY hetsika. Tsy manohana ny syntax ClickHouse sarotra kokoa izy io.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny fitaovana manaraka dia Apache Zeppelin. Zavatra tsara sy mahaliana izany. Asa. Izy io dia manohana kahie, dashboards ary manohana ny fari-piainana. Mahafantatra olona iray ao amin'ny vondrom-piarahamonina ClickHouse aho mampiasa izany.

Saingy tsy misy fanohanana ny ClickHouse syntax, izany hoe tsy maintsy manoratra fanontaniana ianao na ao amin'ny console na any an-kafa. Manaraka, jereo fa mandeha daholo. Mahasosotra fotsiny izany. Saingy manana fanohanana dashboard tsara izy io.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny fitaovana manaraka dia Redash.IO. Redash dia nampiantranoina amin'ny Internet. Izany hoe tsy toy ny fitaovana teo aloha fa tsy mila apetraka. Ary ity dia dashboard misy fahafahana manambatra ny angona avy amin'ny DataSources samihafa. Izany hoe, azonao atao ny misintona avy amin'ny ClickHouse, avy amin'ny MySQL, avy amin'ny PostgreSQL ary avy amin'ny angon-drakitra hafa.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Vao iray volana lasa izay (Martsa 2017), dia niseho tao Grafana ny fanohanana. Rehefa manangana tatitra ao amin'ny Grafana ianao, ohatra, momba ny toetry ny fitaovanao na amin'ny metrika sasany, dia afaka manangana tabilao mitovy na karazana tontonana avy amin'ny angona avy amin'ny ClickHouse mivantana ianao izao. Tena mety izany, ary mampiasa azy io izahay. Izany dia ahafahanao mahita anomalies. Izany hoe, raha misy zava-mitranga ka mianjera na mihenjana ny fitaovana sasany, dia azonao jerena ny antony raha nahavita niditra tao amin'ny ClickHouse ity angon-drakitra ity.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Hitako fa sarotra be ny manoratra amin'ireo fitaovana ireo na ao amin'ny console. Ary nanapa-kevitra aho ny hanatsara ny interface voalohany. Ary nahazo ny hevitra avy amin'ny EventSQL, SeperSet, Zeppelin aho.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Inona no tadiavinao? Te hahazo sary aho, tonian-dahatsoratra nohatsaraina, ary hampihatra ny fanohanana ireo rakibolana fanoroana hevitra. Satria manana endri-javatra lehibe ny ClickHouse - rakibolana. Saingy sarotra ny miasa miaraka amin'ny rakibolana, satria mila mitadidy ny endriky ny soatoavina voatahiry ianao, izany hoe isa na tady, sns. Ary satria matetika izahay no mampiasa diksionera amin'ny fiovaovany samihafa, dia sarotra ny manoratra fanontaniana.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

3 volana no lasa hatramin'ny nivoahan'ny dikan-teny voalohany. Nanao fanoloran-tena 330 teo ho eo tamin'ny sampana tsy miankina iray aho ary hita fa Tabix izany.

Tsy toy ny dikan-teny teo aloha, izay nantsoina hoe ClickHouse-Frontend, dia nanapa-kevitra ny hanova anarana ho anarana tsotra aho. Ary hita fa Tabix.

Inona no niseho?

Manao sary. Manohana ClickHouse SQL syntax. Manome torohevitra momba ny asa ary afaka manao zavatra mahaliana maro.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Toy izao ny endriky ny rafitra Tabix ankapobeny. Eo ankavia dia misy hazo. Eo afovoany ny tonian-dahatsoratry ny fanontaniana. Ary eto ambany ny valin'io fangatahana io.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Avy eo dia hasehoko anao ny fomba fiasan'ny mpanonta fanontaniana.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Eto ny autocomplete dia mandeha ho azy eo amin'ny latabatra ary manosika, araka izany, ny autocomplete ho an'ny saha. Ary manoro hevitra momba ny asa. Raha manindry ctrl enter ianao dia hotanterahina na tsy hahomby ny fangatahana raha misy hadisoana. Ny fangatahana tsotra indrindra dia alefa any Tabix ary azo ny valiny, izany hoe afaka miasa haingana amin'ny ClickHouse ianao.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny rakibolana, araka ny efa nolazaiko, dia zavatra tena mahaliana izay iasanay betsaka. Ary izay namela anay hanao zavatra maro. Andao atao hoe mitahiry ny tanàna rehetra ao anaty rakibolana. Mitahiry ny famantarana ny tanàna sy ny anaran'ny tanàna, ny latitude ary ny latitude azy izahay. Ary ao amin'ny angon-drakitra dia tsy misy afa-tsy ny famantarana ny tanàna. Noho izany, manindry mafy ny angon-drakitra izahay.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Toa zavatra tsotra izany, saingy manampy amin'ny ClickHouse amin'ny fomba tena mahaliana. Noho ny fisian'ny ClickHouse ihany no manohana ny fikambanan'ny nested, dia mitombo midina sy mivelatra ny fangatahana. Ary rehefa misokatra ny fononteny ary misy fitenenana lava miditra, dia misy zavatra tsotra toy ny fanonganana ny fangatahana manamora ny fiasana amin'ny fangatahana. Satria rehefa misy tsipika 200-300 ny fangatahana ary tena lehibe ny sakany, dia tena manampy tokoa ny manafoana ny fangatahana ary avy eo mahita toerana na mametraka azy io.

Hazo tanjona, fanontaniana maro ary tabilao (Video 13:46 https://youtu.be/w1-XsL3nbRg?t=826)

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Avy eo dia hasehoko anao ny momba ny hazo sy ny tabilao. Eo ankavia dia misy hazo; eo ambony dia afaka mamorona tabilao maromaro ianao. Ny tabilao dia toy ny toeram-piasana. Afaka mamorona tabilao maromaro ianao ary samy hafa ny anaranao tsirairay. Toy ny rafitra kely amin'ny fananganana tatitra.

Ny tabilao dia voatahiry ho azy. Raha averinao indray ny navigateur na manakatona na manokatra Tabix, dia ho voavonjy izany rehetra izany.

Hotkey - mety (Video 14:39 https://youtu.be/w1-XsL3nbRg?t=879)

Misy ny hotkey ary tena betsaka. Noraisiko ohatra ny sasany tamin'izy ireo. Izany dia manova tabilao, manatanteraka fangatahana na manatanteraka fangatahana maromaro.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Hasehoko anao ny fomba fiasa miaraka amin'ny vokatra. Mandefa fangatahana izahay. Eto aho dia manao sary ota, cos ary tg. Azonao atao ny manasongadina ny vokatra, izany hoe manao sarintany mahazatra ho an'ny tsanganana. Azonao atao ny manasongadina soatoavina tsara na ratsy. Na loko fotsiny singa latabatra manokana. Mety izany rehefa lehibe ny latabatra ary mila mahita anomaly amin'ny masonao ianao. Rehefa nitady anomalia aho dia nanasongadina andalana sasany, singa maitso na mena.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Betsaka ny zavatra mahaliana ao. Ohatra, ny fomba handikana amin'ny Redmine Markdown. Raha mila mandika ny vokatra any ho any ianao, dia tena mety izany. Azonao atao ny misafidy faritra iray fotsiny, lazao hoe "Copy to Redmine" ary handika ao amin'ny Redmine Markdown izy io na hamorona fanontaniana Aiza.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Manaraka izany dia ny fanatsarana ny fanontaniana. Adinoko indray mandeha ny mamaritra ny saha "daty". Ary ny fangatahako ao amin'ny ClickHouse dia tsy nokarakaraina haingana dia haingana, fa haingana, izany hoe latsaky ny iray segondra. Rehefa hitako hoe firy ny andalana nolalovany, dia lasa natahotra aho. Tsy manoratra andalana be dia be amin'ity latabatra ity izahay ao anatin'ny iray andro. Nanomboka nandinika ny fangatahana aho ary nahita fa tsy nahita daty tany amin'ny toerana iray aho. Izany hoe, hadinoko ny nanondro fa tsy mila data ho an'ny latabatra manontolo aho, fa mandritra ny fe-potoana voafaritra.

Tabix dia manana tabilao "Stats", izay mitahiry ny tantara manontolo momba ny fangatahana nalefa, izany hoe eo no ahitanao ny isan'ny andalana novakiana tamin'ity fangatahana ity ary ny faharetan'ny fanatanterahana izany. Izany dia mamela ny fanatsarana.

Azonao atao ny manangana tabilao pivot eo ambonin'ny valin'ny fangatahana. Nandefa fangatahana tany amin'ny ClickHouse ianao ary nahazo angona vitsivitsy. Avy eo dia azonao atao ny mamindra an'io data io amin'ny totozy ary manangana karazana latabatra pivot.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny zavatra mahaliana manaraka dia ny teti-dratsy. Andeha hatao hoe manana izao fangatahana manaraka izao isika: ho an'ny ota, cos avy amin'ny 0 ka hatramin'ny 299. Ary mba hisarihana azy dia mila misafidy ny tabilao "Sarivy" ianao ary hahazo grafika misy ny fahotanao sy ny cos.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Azonao atao ny mizara izany ho famaky samihafa, izany hoe afaka manao sary roa mifanila miaraka ianao. Manorata baiko iray sy baiko faharoa.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Afaka manao histograms ianao.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Azonao atao ny mizara izany ho matrix of graphs.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Afaka manamboatra sarintany hafanana ianao.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Afaka manamboatra kalandrie mafana ianao. Teny an-dalana, zavatra tena mety izany rehefa mila mamakafaka ny anomaliana mandritra ny herintaona ianao, izany hoe mahita spikes na mitete. Nanampy ahy tamin'izany ity fijerena angona ity.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Manaraka ny Treemap.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Sankeys dia tabilao mahaliana. Izy na Streamgrahps na River. Fa River no antsoiko. Izy io koa dia ahafahanao mikaroka izay tsy mety. Tena mahazo aina. Manoro hevitra aho hampiasa azy io amin'ny fikarohana.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny zavatra mahaliana manaraka dia ny fanaovana sarintany mavitrika. Raha mitahiry latitude, longitude ao amin'ny angon-drakitrao ianao ary, ohatra, mitahiry toerana iray, raha toa ka manana kamiao na fiaramanidina manidina ianao, dia azonao atao ny manao sary ny lalana mankany. Ao ihany koa dia azonao atao ny mametraka ny hafainganam-pandeha sy ny haben'ireo zavatra ireo izay manidina.

Saingy ny olana amin'ity sarintany ity dia ny sarintanin'izao tontolo izao ihany no ataony, tsy misy antsipiriany.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Nanampy Google map aho tatỳ aoriana. Raha mitahiry latitude, longitude ianao, dia azonao atao ny manao sary ny valiny amin'ny sari-tany Google, fa tsy misy fanohanana fiaramanidina.

Niresaka momba ny asa lehibe amin'ny fiasana amin'ny valiny sy fanontaniana ao amin'ny Tabix izahay.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny manaraka dia ny famakafakana ny mpizara ClickHouse anao. Misy tabilao "Metrika" mitokana, izay ahitanao ny haben'ny angona voatahiry ho an'ny tsanganana tsirairay. Ny pikantsary dia mampiseho fa ity saha "referrer" ity dia mahatratra 730 Gb eo ho eo. Raha mandao an'io sehatra io isika dia hanavotra telo shards amin'ny 700 GB tsirairay, izany hoe eo amin'ny 2 TB izay tsy ilaintsika.

Manana saha "request_id" koa isika izay tehirizina ao anaty tady. Fa raha manomboka mitahiry azy amin'ny endrika isa isika dia hihena be io saha io.

Izy io koa dia mampiseho ny firafitry ny mpizara sy ny lisitry ny node ao amin'ny cluster anao.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny tabilao manaraka dia metrika. Miditra amin'ny fotoana tena izy ireo miaraka amin'ny ClickHouse ary mamela anao hamakafaka ny toetry ny mpizara ary hahatakatra ny zava-mitranga amin'izany. Tsy fanoloana ny Grafana feno izany. Ilaina izany amin'ny famakafakana haingana.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Ny tabilao manaraka dia ny dingana. Avy amin'izy ireo dia azonao atao ny mahatakatra ny zava-mitranga amin'ny mpizara. Fantaro ny zava-mitranga any. Nanana fangatahana aho izay mandany 200 GB amin'ny famakiana isaky ny mandeha. Hitako izany noho ity interface ity. Nosamboriko izy ary nahitsy. Ary hita fa manodidina ny 30 GB, izany hoe fampisehoana indraindray.

ClickHouse - famakafakana data haingana sy intuitive amin'ny Tabix. Igor Stryhar

Misaotra anao! Ary ao amin'ny OpenSource izany

Vitako. Ary raha ny marina, OpenSource io, maimaim-poana ary tsy mila misintona azy akory ianao. Sokafy amin'ny navigateur ary handeha ny zava-drehetra.

Ny fanontanianao

Igor, inona no manaraka? Aiza no hampivelaranao ity fitaovana ity?

Avy eo dia hiseho ny dashboards, izany hoe, mety hipoitra ny dashboard. Fampidirana amin'ny angon-drakitra hafa. Nanao izany aho, saingy tsy mbola namoaka izany tao amin'ny OpenSource. Ity dia MySQL ary mety ho PostgreSQL. Izany hoe, azo atao ny mandefa fangatahana avy amin'i Tabix tsy amin'ny ClickHouse ihany, fa amin'ny fitaovana hafa koa.

Mazava fa asa goavana no vita. Hita fa hevitra feno tanteraka ilay izy. Izany dia natao tao amin'ny navigateur, toa, mba hanafoanana ny crutches amin'ny karazana famaky rehetra sy haingana hanipy ny zava-drehetra. Henoko fa mandeha ianao Fi miasa, ka ny fomba mora indrindra dia ny manoratra azy ao amin'ny navigateur ary hiasa na aiza na aiza. Tsy misy fanontaniana momba izany. Ny fanontaniana dia ity. Betsaka tokoa ny natao tany. Firy ny olona niasa tamin'izany? Ary naharitra hafiriana izany rehetra izany? Satria matetika ny fitaovana mahazatra dia tsy manana fiasa be loatra.

Olona iray avy amin'ny ekipanay no niasa hatramin'ny fahavaratra ka hatramin'ny fararano. Ity no dikan-teny voalohany. Avy eo aho dia nanao fanoloran-tena 330 irery. Ny hitanao, izaho sy ny mpiara-miasa amiko dia nanao izany tamin'ny antsasany. Tao anatin'ny 3 volana, nanomboka tamin'ny dikan-teny voalohany ka hatramin'ny farany, izaho irery no nanao izany. Fa tsy haiko tsara ny Javascript. Ity no hany ary, manantena aho, ny tetikasa Javascript farany niarahako niasa. Azoko izany, nijery aho - oh, horohoro. Saingy tena naniry ny hamita ny vokatra aho ary izany no nitranga.

Misaotra indrindra tamin'ny tatitra! Fitaovana lehibe ity. amin'ny table Efa nampitahainao ve?

Misaotra anao. Izay no nahatonga ny anarana hoe Tabix, satria mitovy ny litera voalohany.

Satria mifaninana ianao?

Hisy fampiasam-bola betsaka, hifaninana isika.

Ahoana no ahafahanao manolotra hivarotra amin'ny mpandinika anatiny fa hosoloina tanteraka ity fitaovana ity *Tableau*? Inona no ho tohan-kevitra?

Miasa manokana miaraka amin'ny ClickHouse. Nanandrana ny Tableau aho, saingy tsy afaka manoratra fanohanana ny rakibolana sy ny toy izany ianao. Fantatro ny fomba fiasan'ny olona miaraka amin'i Tabix. Manoratra fanontaniana izy ireo, mampiakatra izany amin'ny CSV ary mampiakatra izany any amin'ny BI. Ary efa manao zavatra any izy ireo. Saingy sarotra ny maka sary an-tsaina ny fomba anaovan'izy ireo an'izany, satria fitaovana an-tsary izy io. Afaka mamoaka andalana 5 izy io, laharana 000 ambony indrindra, fa tsy misy intsony, raha tsy izany dia tsy hiatrika ny navigateur.

Izany hoe, misy fetrany matotra amin'ny habetsaky ny angona, sa tsy izany?

Eny. Tsy azoko an-tsaina fa te hampiditra andalana 10 eo amin'ny latabatrao eo amin'ny efijery navigateur ianao. Hatao inona?

Midika ve izany fa interface tsara hijerena data haingana? Ahodinkodina kely, manodikodina?

Eny, jereo haingana ny fomba fiasa ary manaova kisary famintinana fotsiny. Dia omeo any ho any. Manana rafitra fanaovana tatitra manokana izahay, izay andraisako tsotra izao fangatahana izao. Misintona an'i Tabix aho ary mandefa izany amin'ny tatitray.

Ary fanontaniana iray hafa. Fanadihadiana vondrona?

Raha misy fangatahana dia ampianay.

Oviana ianao vao nanomboka nampiasa azy? ClickHouse, hafiriana no naharitra ny fampiharana? clickhouse ary mitondra any fanjakana famokarana?

Araka ny nolazaiko dia nametraka cluster fitsapana izahay tao anatin'ny fotoana fohy. Napetrakay tao anatin'ny roa andro izany. Ary nanandrana izany izahay nandritra ny herinandro vitsivitsy. Ary nahatratra ny famokarana izahay tao anatin'ny volana 3. Saingy nanana ETL manokana izahay, izany hoe fitaovana fanoratana angona. Ary nanoratra tamin’izay rehetra azony natao izy. Afaka manoratra amin'ny MongoDB, Cassandra, MySQL izy. Mora ny nampianatra azy hanoratra ao amin'ny ClickHouse. Nanana fotodrafitrasa efa vita izahay ho fampiharana haingana. Tao anatin'ny 3 volana dia nanomboka nanary ny singa voalohany izahay. Tao anatin'ny 6 volana dia nandao tanteraka ny zavatra hafa rehetra izahay. ClickHouse tokana sisa no tavela.

Igor, misaotra betsaka anao tamin'ny tatitra. Tena tiako ny fampiasa amin'ny fananganana lalana mampiasa sarintany. Misy drafitra hampidirana amin'ny Yandex.Maps ary indrindra amin'ny Yandex.Maps mahazatra?

Niezaka nampitambatra aho fa tsy sarintany Google, saingy tsy nahita lohahevitra maizina tao amin'ny Yandex.Maps aho. Tsy nolazaiko anao na dia iray aza. haveriko aho hanampy.

Slide - Google map. Misy baiko "DRAW_GMAPS", izay manao sarintany. Misy baiko "DRAW_YMAPS", izany hoe afaka manao sary Yandex.Map. Saingy raha ny marina, eo ambanin'io baiko io dia misy ny Javascript, izany hoe ny data azonao avy amin'ny ClickHouse dia azo afindra amin'ny Javascript, izay soratanao eto. Ary manana faritra fivoahana izay tokony hisarihana azy ianao. Afaka manao sary ianao, izany hoe graph, sarintany, azonao atao ny manao ny singanao manokana. Talohan'ity dia nanana tranomboky hafa aho mba hanaovana ny sary.

Izany hoe, misy fitaovana hanamboarana ny fampiasa fampisehoana ve?

Any. Azonao atao ny maka sy mamerina loko ireo teboka ireo, ka mahatonga azy ireo tsy mena, fa manga, maitso.

Misaotra tamin'ny tatitra! Nanana slide ianao izay naneho fitaovana fanontana hafa clickhouse ho an'ny fananganana dashboard sy tatitra analytique. Azoko fa tamin'ny fotoana nanombohanao niasa ClickHouse, tsy nisy adaptatera nosoratana ho an'ireo fitaovana ireo. Ary manontany tena aho hoe nahoana ianao no nanapa-kevitra ny hanao ny fitaovanao manokana, fa tsy manoratra adaptatera ho an'ny fitaovana efa vita? Heveriko fa haingana ny fanitsiana ny tonian-dahatsoratra fitsapana. Nahoana ianao no nanapa-kevitra ny hanao asa be dia be?

Misy teboka mahaliana eto - ny zava-misy dia tale teknika aho fa tsy mpahay siansa momba ny data. Tamin'ny fotoana nanombohantsika nampihatra Druid, ny tondrozotrako dia nanana ny 50%-n'ny asa - andao kajy ity, na andao kajy ity, na hamakafaka ity. Ary hita fa nampihatra ClickHouse izahay. Ary nanomboka nanamboatra haingana ny zava-drehetra izy, manisa, ary nanidy haingana ny tondrozotra. Ary tamin'io fotoana io dia tsapako fa tsy ampy fahalalana momba ny Siansa Data sy ny fijerena angon-drakitra aho. Tabix dia karazana entimodiko hianarana sary an-tsary. Nijery ny fomba famenoana an'i Zeppelin aho. Tsy tiako kely ny fandaharana nataony. Redash Nijery ny fomba hanampiana azy aho, fa ny tonian-dahatsoratra mahazatra dia ampy ahy. Ary ny SuperSet dia voasoratra amin'ny fiteny tsy dia tiako loatra. Dia nanapa-kevitra ny hanao bisikileta aho, ary izany no nitranga.

Igor, manaiky ny fangatahana Pull ve ianao?

Eny.

Misaotra indrindra tamin'ny tatitra! Ary fanontaniana roa. Voalohany, tsy miresaka be dia be ianao Javascript. Nanoratra tamin'ny Javascript miboridana ve ianao sa karazana rafitra?*

Tsara kokoa amin'ny Javascript miboridana.

Inona àry no rafitra?

Angular.

Mazava. Ary ny fanontaniana faharoa. Efa nandinika ve ianao R и *Mamirapiratra**?*

Noheverina izany. Nilalao.

Azonao atao ihany koa ny manoratra adapter.

Izy dia. Toa ny fiaraha-monina no nanao izany, saingy, rehefa namaly ny fanontaniana teo aloha aho dia te-hanandrana izany ny tenako.

* Tsia, momba ny fijerena sary, dia eo koa izany.

Milaza ianao fa misy zavatra toy izany ary hanao sary ho anao izany. Nanokatra boky momba ny fijerena angona aho. Ary nieritreritra aho hoe: “Avelao aho hanandrana haka sary an-tsaina an'io data io. Hanoratra aminy aho mba hahafahany manangana indray ny angona.” Ary nanomboka nahazo tsara kokoa ny teknolojia famatsiana angona aho. Ary raha naka kojakoja efa vita aho dia ho nianatra bebe kokoa ny fomba fampiasana azy, izany hoe, sary. Saingy eny, tiako ny R, saingy mbola tsy namaky ny boky "R for Dummies" aho.

Misaotra anao!

Fanontaniana tsotra. Misy fomba ahafahana mampakatra famantarana na fandaharam-potoana haingana ve?

Azo ampidirina amin'ny CSV na Excel.

Tsy angon-drakitra, fa takelaka efa vita, grapika efa vita? Ohatra, mba hampisehoana ny lehibeny.

Misy bokotra "Mampiakatra" ary misy bokotra "Mampiditra sary amin'ny png, amin'ny jpg".

Misaotra anao!

PS Mini-torolàlana amin'ny fametrahana tabix

  • Download famoahana farany
  • Sokafy, kopia lahatahiry build amin'ny nginx root_path
  • Ampifanaraho ny nginx

Source: www.habr.com

Add a comment