ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Abdi nyarankeun anjeun maca transkrip laporan 2017 ku Igor Stryhar "ClickHouse - analisis data visually gancang sareng jelas dina Tabix."

panganteur Web pikeun ClickHouse dina proyék Tabix.
fitur konci:

  • Gawéna sareng ClickHouse langsung tina browser, tanpa kedah masang parangkat lunak tambahan;
  • Éditor pamundut sareng panyorot sintaksis;
  • Autocompletion paréntah;
  • Parabot pikeun analisis grafis tina palaksanaan query;
  • Skéma warna pikeun dipilih.
    ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar


ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Kami diréktur téknis SMI2. Kami agrégator warta bursa warta. Kami nyimpen seueur data anu kami tampi ti mitra kami sareng ngadaptarkeunana di ClickHouse - sakitar 30 pamundut per detik.

Ieu data sapertos:

  • Klik dina warta.
  • News mintonkeun dina agrégator.
  • Pintonan spanduk dina jaringan urang.
  • Sarta kami ngadaptar acara ti counter urang sorangan, nu sarupa jeung Yandex.Metrica. Ieu mikro-analitik urang sorangan.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Urang kungsi hirup pisan hectic saméméh ClickHouse. Urang ngalaman pisan, nyobian pikeun nyimpen data ieu wae jeung kumaha bae analisa eta.

Kahirupan saméméh ClickHouse - infiniDB

Hal kahiji urang tadi éta infiniDB. Manehna cicing jeung urang pikeun 4 taun. Urang ngajalankeun eta kalawan kasusah.

  • Teu ngarojong clustering atanapi sharding. Taya hal pinter sapertos kaluar tina kotak sacara standar.
  • Anjeunna sesah ngamuat data. Ngan ukur utilitas konsol khusus anu ngan ukur tiasa ngamuat file CSV sareng ngan ukur ku sababaraha cara anu teu jelas.
  • database nyaeta single-threaded. Anjeun tiasa nyerat atanapi maca. Tapi éta ngamungkinkeun pikeun ngolah data anu ageung.
  • Sareng anjeunna ogé ngagaduhan kruk anu pikaresepeun. Unggal wengi server kedah rebooted, disebutkeun eta moal jalan.

Manehna digawé pikeun urang nepi ka ahir 2016, nalika urang sagemblengna switched pikeun ClickHouse.

Kahirupan sateuacan ClickHouse - Cassandra

Kusabab infiniDB éta single-threaded, urang mutuskeun yén urang diperlukeun sababaraha jenis database multi-threaded nu urang bisa nulis loba threads dina waktos anu sareng.

Urang diusahakeun loba hal metot. Teras we mutuskeun pikeun nyobaan Cassandra. Sagalana éta hébat kalawan Cassandra. 10 requests per detik per nawar. 000 requests wae pikeun bacaan.

Tapi manéhna ogé boga kapentingan sorangan. Sabulan sakali atawa dua bulan sakali manéhna ngalaman desynchronization database. Sareng kuring kedah hudang sareng ngajalankeun pikeun ngalereskeun Cassandra. Server di-restart hiji-hiji. Sareng sadayana janten mulus sareng éndah.

Kahirupan sateuacan ClickHouse - Druid

Teras we sadar yén urang kedah nyerat langkung seueur data. Dina 2016 urang mimiti nonton Druid.

Druid mangrupikeun parangkat lunak open source anu ditulis dina Java. spésifik pisan. Sareng éta cocog pikeun clickstream, nalika urang kedah nyimpen sababaraha jinis aliran acara teras ngalaksanakeun agrégasi dina éta atanapi ngadamel laporan analitis.

Druid kagungan versi 0.9.X.

Database sorangan hésé pisan nyebarkeun. Ieu pajeulitna infrastruktur. Pikeun nyebarkeun éta, éta kedah dipasang pisan, seueur beusi. Sarta unggal sapotong hardware éta jawab peran misah sorangan.

Pikeun ngamuat data kana éta, anjeun kedah nganggo sababaraha jinis shamanisme. Aya proyék OpenSource - Tranquility, anu kaleungitan data ti kami dina aliran. Nalika kami ngamuat data kana éta, éta leungit.

Tapi kumaha waé urang mimiti ngalaksanakeunana. Urang, kawas landak anu nginum obat tapi terus ngadahar kaktus, mimiti ngawanohkeunana. Butuh waktu kira-kira sabulan pikeun nyiapkeun sadaya prasarana pikeun éta. Nyaéta, mesen server, ngonpigurasikeun peran, sareng deployment pinuh otomatis. Nyaéta, upami aya kagagalan klaster, klaster kadua bakal otomatis disebarkeun.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Tapi saterusna hiji mujijat lumangsung. Kuring éta dina pakansi jeung kolega kuring dikirim kuring link ka warta, nu nyebutkeun yen Yandex mutuskeun pikeun muka ClickHouse. Kuring nyebutkeun hayu urang coba eta.

Sareng sacara harfiah dina 2 dinten urang nyebarkeun klaster uji ClickHouse. Urang mimitian loading data kana eta. Dibandingkeun sareng infiniDB, ieu SD; dibandingkeun sareng Druid, ieu SD. Dibandingkeun sareng Cassandra, éta ogé SD. Kusabab upami anjeun ngamuat data tina PHP kana Cassandra, maka ieu sanés dasar.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Naon anu urang meunang? Performance dina speed. Performance dina neundeun data. Hartina, loba kurang spasi disk dipaké. ClickHouse gancang, éta gancang pisan dibandingkeun sareng produk sanés.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Dina waktos peluncuran, nalika Yandex nyebarkeun ClickHouse di OpenSource, ngan aya klien konsol. Kami di perusahaan kami SMI2 mutuskeun pikeun nyobaan ngadamel klien asli pikeun wéb, ku kituna kami tiasa muka halaman tina browser, nyerat pamundut sareng kéngingkeun hasilna, sabab kami mimiti nyerat seueur pamundut. Nulis dina konsol nu hese. Sareng urang ngadamel versi munggaran urang.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Sareng tempat anu langkung caket kana usum tiris taun ka tukang, alat pihak katilu pikeun damel sareng ClickHouse mimiti muncul. Ieu mangrupikeun alat sapertos:

Kuring bakal ningali sababaraha alat ieu, nyaéta, anu kuring parantos damel.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Hiji alat alus, tapi pikeun Druid. Nalika Druid dilaksanakeun, kuring nguji SuperSet. Kuring resep anjeunna. Pikeun Druid éta gancang pisan.

Teu cocog pikeun ClickHouse. Nyaéta, pas, dimimitian, tapi siap ngolah ukur patarosan dasar sapertos: PILIH acara, GROUP BY acara. Éta henteu ngadukung sintaksis ClickHouse anu langkung kompleks.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Alat salajengna nyaéta Apache Zeppelin. Ieu mangrupikeun hal anu saé sareng pikaresepeun. Gawéna. Éta ngadukung notebook, dasbor, sareng ngadukung variabel. Kuring nyaho batur di masarakat ClickHouse ngagunakeun eta.

Tapi teu aya dukungan pikeun sintaksis ClickHouse, nyaéta anjeun kedah nyerat patarosan dina konsol atanapi di tempat sanés. Salajengna, pariksa yen eta sadayana jalan. Ngan teu merenah. Tapi éta gaduh dukungan dasbor anu saé.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Alat salajengna nyaéta Redash.IO. Redash di-host dina Internét. Hartina, teu saperti parabot saméméhna, teu perlu dipasang. Sareng ieu mangrupikeun dasbor kalayan kamampuan pikeun ngahijikeun data tina DataSources anu béda. Nyaéta, anjeun tiasa ngaunduh tina ClickHouse, tina MySQL, tina PostgreSQL sareng tina pangkalan data anu sanés.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Ngan sabulan katukang (Maret 2017), dukungan muncul dina Grafana. Nalika anjeun ngawangun laporan dina Grafana, contona, dina kaayaan hardware anjeun atanapi dina sababaraha métrik, ayeuna anjeun tiasa ngawangun grafik anu sami atanapi sababaraha jinis panel tina data tina ClickHouse langsung. Ieu pisan merenah, sarta kami nganggo eta sorangan. Ieu ngidinan Anjeun pikeun manggihan anomali. Hartina, lamun aya kajadian jeung sababaraha hardware ragrag atawa jadi tapis, mangka anjeun bisa nempo alesan lamun data ieu junun meunang kana ClickHouse.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Kuring mendakan éta kagok pisan nyerat dina alat ieu atanapi dina konsol. Sarta kuring mutuskeun pikeun ngaronjatkeun panganteur munggaran urang. Sareng kuring ngagaduhan ideu tina EventSQL, SeperSet, Zeppelin.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Naon anu anjeun pikahoyong? Abdi hoyong kéngingkeun grafik, éditor anu langkung saé, sareng ngalaksanakeun dukungan pikeun kamus petunjuk. Kusabab ClickHouse gaduh fitur anu saé - kamus. Tapi sesah dianggo sareng kamus, sabab anjeun kedah émut kana format nilai anu disimpen, nyaéta éta nomer atanapi senar, jsb.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

3 bulan geus kaliwat ti sékrési versi munggaran urang. Kuring nyieun ngeunaan 330 commits ka cabang swasta sarta tétéla éta Tabix.

Beda sareng versi sateuacana, anu disebut ClickHouse-Frontend, kuring mutuskeun pikeun ngagentos nami janten nami anu sederhana. Jeung tétéla Tabix.

Naon anu muncul?

Ngagambar grafik. Ngarojong ClickHouse SQL sintaksis. Méré nasihat ngeunaan fungsi jeung bisa ngalakukeun loba hal metot.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Ieu naon skéma Tabix umum Sigana mah. Di kénca aya tangkal. Di tengah aya redaktur query. Sareng di handap ieu mangrupikeun hasil tina pamundut ieu.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Salajengna, kuring bakal nunjukkeun anjeun kumaha éditor pamundut jalan.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Di dieu autocomplete otomatis jalan dina tabel sarta prompts, sasuai, autocomplete pikeun widang. Jeung petunjuk dina fungsi. Upami anjeun mencét ctrl lebet, pamenta bakal dieksekusi atanapi gagal ku kasalahan. Paménta pangbasajanna dikirim ka Tabix sareng hasilna dicandak, nyaéta anjeun tiasa gancang damel sareng ClickHouse.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Kamus, sakumaha anu kuring parantos nyarios, mangrupikeun hal anu pikaresepeun pisan anu urang damel pisan. Sareng anu ngamungkinkeun urang ngalakukeun seueur hal. Anggap urang nyimpen sadaya kota dina kamus. Urang nyimpen identifier kota jeung ngaran kota, lintang sarta bujur na. Sarta dina database urang nyimpen ukur identifier kota. Sasuai, urang niiskeun data pisan kuat.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Ieu sigana hiji hal basajan, tapi mantuan dina ClickHouse dina cara pisan metot. Alatan kanyataan yén ClickHouse ngan ngarojong nested ngagabung, query tumuwuh handap sarta cukup lega. Sareng nalika kurung dibuka sareng sababaraha ekspresi panjang asup, maka hal anu saderhana sapertos ngaragragkeun pamundut ngagampangkeun damel sareng pamundut nyalira. Kusabab nalika query panjangna 200-300 garis sareng lebar pisan, éta pohara mantuan pikeun ngancurkeun pamundut teras milarian sababaraha tempat atanapi kumaha waé lokalisasina.

Tangkal objék, multiqueries sareng tab (Video 13:46 https://youtu.be/w1-XsL3nbRg?t=826)

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Salajengna, kuring bakal nunjukkeun anjeun ngeunaan tangkal sareng tab. Di kénca aya tangkal; di luhur anjeun tiasa nyiptakeun sababaraha tab. Tab sapertos ruang kerja. Anjeun tiasa nyiptakeun sababaraha tab sareng nami masing-masing sacara béda. Éta sapertos sistem mini pikeun ngawangun laporan.

Tab sacara otomatis disimpen. Upami anjeun ngabalikan deui panyungsi anjeun atanapi nutup atanapi muka Tabix, sadaya ieu bakal disimpen.

Hotkey - merenah (Video 14:39 https://youtu.be/w1-XsL3nbRg?t=879)

Aya hotkeys na aya rada loba di antarana. Kuring geus sasari sababaraha di antarana di dieu salaku conto. Ieu ngagentos tab, ngalaksanakeun pamundut atanapi ngalaksanakeun sababaraha pamundut.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Kuring gé nunjukkeun anjeun kumaha carana dianggo kalayan hasilna. Urang ngirim pamundut a. Di dieu kuring ngagambar dosa, cos sareng tg. Anjeun tiasa nyorot hasilna, nyaéta ngagambar peta khas pikeun kolom. Anjeun tiasa nyorot nilai positip atanapi négatip. Atawa ngan saukur warna unsur tabel husus. Ieu merenah lamun tabél téh badag sarta anjeun kudu manggihan sababaraha anomali kalawan panon anjeun. Nalika kuring pilari anomali, Kuring disorot sababaraha garis, sababaraha elemen dina héjo atawa beureum.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Aya loba hal metot di dinya. Salaku conto, kumaha nyalin kana Redmine Markdown. Upami anjeun kedah nyalin hasilna dimana waé, ieu saé pisan. Anjeun ngan saukur tiasa milih daérah, ucapkeun "Salin ka Redmine" sareng éta bakal nyalin kana Redmine Markdown atanapi ngadamel pamundut Dimana.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Salajengna nyaéta optimasi query. Kuring sakali poho pikeun nangtukeun widang "tanggal". Sareng pamundut abdi di ClickHouse henteu diolah pisan, gancang pisan, tapi gancang, nyaéta kirang ti sadetik. Nalika kuring ningali sabaraha garis anu anjeunna lumpat, kuring janten sieun. Kami henteu nyerat seueur baris kana méja ieu dina sadinten. Kuring mimiti analisa pamundut jeung nempo yén kuring geus lasut tanggal hiji di hiji tempat. Nyaéta, kuring hilap nunjukkeun yén kuring henteu peryogi data pikeun sadaya méja, tapi pikeun waktos anu khusus.

Tabix ngabogaan tab "Stats", nu nyimpen sakabeh sajarah requests dikirim, nyaeta aya anjeun tiasa ningali sabaraha garis dibaca ku pamundut ieu sareng sabaraha lila waktu nu diperlukeun pikeun ngaéksekusi. Hal ieu ngamungkinkeun optimasi.

Anjeun tiasa ngawangun tabel pangsi dina hasil query. Anjeun ngirim pamundut ka ClickHouse sareng nampi sababaraha data. Teras anjeun tiasa mindahkeun data ieu nganggo beurit anjeun sareng ngawangun sababaraha jinis tabel pangsi.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Hal metot salajengna nyaeta plot. Hayu urang nyebutkeun urang boga pamundut handap: pikeun dosa, cos ti 0 ka 299. Jeung ngagambar eta, Anjeun kudu milih tab "Draw" tur anjeun bakal meunang grafik kalawan dosa anjeun sarta cos.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anjeun tiasa ngabagi ieu kana sumbu anu béda, nyaéta anjeun tiasa ngagambar dua grafik sakaligus. Tulis hiji paréntah sareng paréntah kadua.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anjeun tiasa ngagambar histograms.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anjeun tiasa ngarobih ieu kana matriks grafik.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anjeun tiasa ngawangun peta panas.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anjeun tiasa ngawangun kalénder termal. Ngomong-ngomong, ieu mangrupikeun hal anu saé nalika anjeun kedah nganalisis anomali salami sataun, nyaéta, mendakan spike atanapi tetes. visualisasi data ieu mantuan kuring jeung ieu.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Salajengna nyaeta Treemap.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Sankeys mangrupa bagan metot. Anjeunna boh Streamgrahps atanapi Walungan. Tapi kuring nyebut Walungan. Ogé ngidinan Anjeun pikeun néangan sagala anomali. Nyaan pisan. Abdi nyarankeun ngagunakeun éta pikeun milarian.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Hal metot salajengna ngagambar peta dinamis. Upami anjeun nyimpen lintang, bujur dina pangkalan data anjeun sareng, sebutkeun, nyimpen tujuan, upami anjeun, contona, gaduh treuk atanapi kapal terbang ngalayang, maka anjeun tiasa ngagambar jalur tujuan. Ogé di dinya anjeun tiasa nyetél laju sareng ukuran objék ieu dimana aranjeunna ngapung.

Tapi masalah sareng peta ieu téh nya éta ngan draws peta dunya, euweuh rinci.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Engké kuring ditambahkeun Google map. Upami anjeun nyimpen lintang, bujur, teras anjeun tiasa ngagambar hasilna dina peta Google, tapi tanpa dukungan kapal terbang.

Kami geus ngabahas fungsi utama gawé bareng hasil na queries di Tabix.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Anu salajengna nyaéta analisa server ClickHouse anjeun. Aya tab "Metrics" anu misah, dimana anjeun tiasa ningali ukuran data anu disimpen pikeun tiap kolom. Potret layar nunjukkeun yén médan "referrer" ieu nyandak sakitar 730 Gb. Lamun urang abandon widang ieu, urang bakal ngahemat tilu shards of 700 GB unggal, nyaeta ngeunaan 2 TB nu urang teu butuh.

Urang ogé boga "request_id" widang nu urang nyimpen dina string a. Tapi lamun urang mimitian nyimpen eta dina bentuk numerik, widang ieu bakal ngaleutikan enormously.

Éta ogé nunjukkeun konfigurasi server sareng daptar titik dina kluster anjeun.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Tab salajengna nyaéta métrik. Aranjeunna meunang kana realtime kalawan ClickHouse sarta ngan saukur ngidinan Anjeun pikeun nganalisis kaayaan server na ngartos naon anu lumangsung ka dinya. Ieu sanés gaganti pikeun Grafana pinuh. Ieu diperlukeun pikeun analisis gancang.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Tab salajengna nyaéta prosés. Ti aranjeunna anjeun tiasa ngartos naon anu lumangsung dina server. Ngartos naon anu lumangsung di dinya. Kuring kungsi pamundut nu dihakan 200 GB bacaan unggal waktu. Kuring nempo ieu berkat panganteur ieu. Kuring nyekel anjeunna sareng ngabenerkeun anjeunna. Sareng tétéla kira-kira 30 GB, nyaéta pagelaran di kali.

ClickHouse - analisis data visually gancang jeung intuitif di Tabix. Igor Stryhar

Hatur nuhun! Sareng ieu aya dina OpenSource

Abdi berés. Ku jalan kitu, éta OpenSource, éta gratis sareng anjeun henteu kedah ngaunduhana. Buka eta dina browser sarta sagalana bakal jalan.

patarosan

Igor, naon salajengna? Dimana anjeun bakal ngamekarkeun alat ieu?

Salajengna, dasbor bakal muncul, nyaéta, sigana dasbor bakal muncul. Integrasi jeung database séjén. Kuring ngalakukeun ieu, tapi henteu acan diterbitkeun dina OpenSource. Ieu MySQL jeung kamungkinan PostgreSQL. Hartina, éta bakal mungkin pikeun ngirim requests ti Tabix teu ukur keur ClickHouse, tapi ogé pikeun parabot lianna.

Ieu jelas yén jumlah badag karya geus rengse. Tétéla mangrupakeun ide anu cukup lengkep. Hal ieu dilakukeun dina browser, katingalina, pikeun ngaleungitkeun crutches dina sagala sorts sumbu jeung gancang buang sakabeh hal babarengan. Kuring ngadéngé yén anjeun on php jalan, jadi cara panggampangna pikeun ngetik dina browser tur bakal dianggo dimana-mana. Henteu aya patarosan ngeunaan ieu. Patarosan ieu. Seueur anu parantos dilakukeun di dinya. Sabaraha jalma digawé dina ieu? Sareng sabaraha lami éta sadayana? Kusabab parabot custom biasana teu boga nu loba pungsi.

Hiji jalma ti tim kami digawé ti usum panas nepi ka gugur. Ieu versi munggaran. Teras kuring ngadamel 330 komitmen nyalira. Naon nu katingali, batur sapagawean kuring jeung kuring ngalakukeun eta dina satengah. Dina 3 bulan, ti versi anu pangheulana dugi ka anu terakhir, kuring biasana ngalakukeun nyalira. Tapi kuring henteu terang Javascript pisan. Ieu mangrupikeun hiji-hijina sareng, kuring ngarepkeun, proyék Javascript anu terakhir anu kuring damel. Abdi ngagaduhan, kuring katingali - oh, horor. Tapi kuring hoyong pisan ngabéréskeun produk sareng ieu anu kajantenan.

Hatur nuhun pisan pikeun laporan! Ieu alat hébat. JEUNG meja Dupi anjeun ngabandingkeun?

Hatur nuhun. Éta sababna kuring dingaranan Tabix, sabab hurup kahiji sami.

Kusabab anjeun bersaing?

Bakal aya seueur investasi, urang bakal bersaing.

Kumaha anjeun tiasa nawiskeun ngajual ka analis internal nu alat ieu sagemblengna bakal ngaganti *Tabel*? Naon bakal argumen?

Gawéna asli sareng ClickHouse. Kuring diusahakeun Tableau, tapi anjeun teu bisa nulis rojongan pikeun kamus jeung kawas aya. Kuring terang kumaha urang damel sareng Tabix. Aranjeunna nyerat patarosan, unggah kana CSV sareng unggah ka BI. Jeung maranéhna geus ngalakukeun hiji hal di dinya. Tapi kuring sesah ngabayangkeun kumaha aranjeunna ngalakukeun ieu, sabab éta mangrupikeun alat grafis. Éta tiasa ngabongkar 5 jajar, maksimal 000 jajar, tapi henteu langkung, upami browser moal tiasa ngatasi.

Hartina, aya sababaraha watesan serius dina jumlah data, katuhu?

Sumuhun. Abdi teu tiasa ngabayangkeun yén anjeun bakal hoyong unggah 10 baris kana méja anjeun kana layar panyungsi anjeun. Kanggo naon?

Naha ieu hartosna yén ieu mangrupikeun antarmuka pikeun ningali data gancang? Pulas saeutik, péngkolan?

Sumuhun, gancang tingali kumaha gawéna sarta ngan ngawangun grafik kasimpulan. Lajeng masihan eta wae. Simkuring gaduh sistem ngalaporkeun urang sorangan, ti mana kuring saukur nyandak pamundut ieu. Kuring ngagambar di Tabix sareng ngirimkeunana ka laporan urang.

Sareng patarosan sanésna. Analisis kohort?

Upami aya pamundut, kami bakal nambihanana.

Iraha anjeun mimiti nganggo éta? ClickHouse, sabaraha lami palaksanaan na? clickhouse sarta bringing ka kaayaan produksi?

Salaku Cenah mah, urang ngalaksanakeun hiji klaster test dina waktu anu pohara pondok. Kami nyebarkeun éta dina dua dinten. Sareng urang nguji éta pikeun sababaraha minggu deui. Sarta kami ngahontal produksi dina bulan 3. Tapi urang tadi ETL sorangan, nyaéta alat pikeun ngarekam data. Jeung manéhna nulis dina sagalana manéhna bisa. Anjeunna tiasa nyerat dina MongoDB, Cassandra, MySQL. Gampang ngajar anjeunna cara nyerat dina ClickHouse. Kami ngagaduhan infrastruktur anu siap-siap pikeun palaksanaan gancang. Dina 3 bulan urang mimiti ngalungkeun komponén munggaran. Dina 6 bulan urang sagemblengna ditinggalkeun sagalana sejenna. Urang ngan boga hiji ClickHouse ditinggalkeun.

Igor, hatur nuhun pisan pikeun laporan. Abdi resep pisan kana fungsionalitas ngawangun jalur nganggo peta. Naha aya rencana pikeun integrasi sareng Yandex.Maps sareng khususna sareng Yandex.Maps khusus?

Kuring nyobian ngahijikeun tinimbang peta Google, tapi kuring henteu mendakan téma poék dina Yandex.Maps. Abdi henteu nyarioskeun ka anjeun sapotong. Kuring bakal mundur pikeun nambihan.

Geser - Peta Google. Aya paréntah "DRAW_GMAPS", anu ngagambar peta. Aya paréntah "DRAW_YMAPS", nyaéta tiasa ngagambar Yandex.Map. Tapi kanyataanna, dina paréntah ieu aya Javascript, nyaéta data anu anjeun tampa ti ClickHouse tiasa ditransfer kana Javascript, anu anjeun tulis di dieu. Sareng anjeun gaduh daérah kaluaran dimana éta kedah digambar. Anjeun tiasa ngagambar grafik naon waé, nyaéta grafik naon waé, peta, anjeun tiasa ngagambar komponén anjeun nyalira. Sateuacan éta, kuring ngagaduhan perpustakaan sanés pikeun ngagambar grafik sorangan.

Nyaeta, aya alat pikeun ngaropea fungsionalitas tampilan?

Sakur. Anjeun tiasa nyandak sareng ngawarnaan deui titik-titik ieu, ngajantenkeun aranjeunna henteu beureum, tapi biru, héjo.

Hatur nuhun laporan! Anjeun gaduh slide anu nampilkeun alat query alternatif clickhouse pikeun ngawangun dasbor sareng laporan analitik. Kuring ngarti yén dina momen nalika anjeun ngamimitian gawé bareng ClickHouse, euweuh adapters geus ditulis pikeun parabot ieu. Sareng kuring heran naha anjeun mutuskeun ngadamel alat anjeun nyalira, tibatan nyerat adaptor pikeun alat anu siap-siap? Jigana éta tweaking redaktur test gancang. Naha anjeun mutuskeun pikeun ngalakukeun seueur padamelan?

Aya titik anu pikaresepeun di dieu - kanyataanna nyaéta kuring diréktur téknis, sanés élmuwan data. Nalika urang ngamimitian ngalaksanakeun Druid, peta jalan kuring ngagaduhan 50% tina tugas - hayu urang ngitung ieu, atanapi hayu urang ngitung ieu, atanapi analisa ieu. Sareng tétéla urang ngalaksanakeun ClickHouse. Sarta anjeunna mimiti gancang ngawangun sagalana, cacah, sarta gancang nutup roadmap-Na. Sareng ku waktos éta kuring sadar yén kuring kurang pangaweruh dina Élmu Data sareng visualisasi data. Tabix mangrupikeun padamelan abdi pikeun diajar visualisasi data. Kuring nempo kumaha carana ngalengkepan Zeppelin. Kuring boga rada teu resep kana programming na. Redash Kuring nempo kumaha nambahkeun éta, tapi redaktur normal éta cukup keur kuring. Sareng SuperSet ogé ditulis dina basa anu kuring henteu resep pisan. Janten kuring mutuskeun pikeun siklus, sareng ieu anu kajantenan.

Igor, naha anjeun nampi pamundut Tarik?

Sumuhun.

Hatur nuhun pisan pikeun laporan! Sareng dua patarosan. Kahiji, anjeun teu nyarita pisan flatteringly ngeunaan JavaScript. Naha anjeun nyerat dina Javascript bulistir atanapi éta sababaraha jinis kerangka?*

Hadé dina Javascript bulistir.

Jadi naon kerangka?

Sudut.

Éta jelas. Jeung patarosan kadua. Dupi anjeun dianggap R и *Hérang**?*

Dianggap eta. Diulinkeun.

Anjeun ogé tiasa nyerat adaptor.

Anjeunna. Sigana mah komunitas nyieun eta, tapi, sakumaha kuring ngajawab patarosan saméméhna, abdi hoyong nyobian sorangan.

* Henteu, ngeunaan visualisasi, éta ogé aya.

Anjeun nyarios yén aya hal sapertos kitu sareng éta bakal ngagambar anjeun grafik. Kuring muka buku ngeunaan visualisasi data. Sareng kuring mikir: "Hayu kuring nyobian ngabayangkeun data ieu. Kuring bakal nyerat ka anjeunna supados anjeunna tiasa ngawangun deui data. Sareng kuring mimiti ngartos téknologi suplai data. Sareng upami kuring nyandak komponén anu siap-siap, kuring pribadi bakal diajar parah kumaha ngagunakeunana, nyaéta, visualisasi. Tapi enya, kuring resep basa Sunda, tapi teu acan maca buku "Sunda for Dummies".

Hatur nuhun!

Patarosan basajan. Naha aya cara pikeun gancang unggah tanda atanapi jadwal?

Bisa diunggah ka CSV atawa Excel.

Teu data, tapi piring siap-dijieun, grafik siap-dijieun? Contona, pikeun nembongkeun boss.

Aya tombol "Unggah" sareng aya tombol "Unggah grafik dina png, dina jpg".

Hatur nuhun!

PS Mini-parentah pikeun masang tabix

  • download release panganyarna
  • Buka bungkus, salin diréktori build dina nginx root_path
  • Konpigurasikeun nginx

sumber: www.habr.com

Tambahkeun komentar