เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เปเบšเบšเบ›เบฐเบŠเบฒเบ—เบดเบ›เบฐเป„เบ•เบ‚เบญเบ‡ BigQuery เบ‚เบญเบ‡ Google. เบžเบฒเบเบ—เบต 1

เบชเบฐเบšเบฒเบเบ”เบต, Habr! เบเบฒเบ™เบฅเบปเบ‡เบ—เบฐเบšเบฝเบ™เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบ–เปˆเบฒเบเบ—เบญเบ”เบซเบผเบฑเบเบชเบนเบ”เปƒเบซเบกเปˆเปเบกเปˆเบ™เป€เบ›เบตเบ”เปƒเบ™เบ›เบฑเบ”เบˆเบธเบšเบฑเบ™เบ—เบตเปˆ OTUS เบงเบดเบชเบฐเบงเบฐเบเบญเบ™เบ‚เปเป‰เบกเบนเบ™. เปƒเบ™โ€‹เบเบฒเบ™โ€‹เบ„เบฒเบ”โ€‹เบ„เบฐโ€‹เป€เบ™โ€‹เบ‚เบญเบ‡โ€‹เบเบฒเบ™โ€‹เป€เบฅเบตเปˆเบกโ€‹เบ•เบปเป‰เบ™โ€‹เบ‚เบญเบ‡โ€‹เบงเบดโ€‹เบŠเบฒโ€‹เบเบฒเบ™โ€‹, เบžเบงเบโ€‹เป€เบฎเบปเบฒโ€‹เป„เบ”เป‰โ€‹เบเบฐโ€‹เบเบฝเบกโ€‹เบ›เบฐโ€‹เป€เบžโ€‹เบ™เบตโ€‹เบเบฒเบ™โ€‹เปเบ›โ€‹เบžเบฒโ€‹เบชเบฒโ€‹เบ‚เบญเบ‡โ€‹เบญเบธโ€‹เบ›เบฐโ€‹เบเบญเบ™โ€‹เบ—เบตเปˆโ€‹เบซเบ™เป‰เบฒโ€‹เบชเบปเบ™โ€‹เปƒเบˆโ€‹เบชเปเบฒโ€‹เบฅเบฑเบšโ€‹เบ—เปˆเบฒเบ™โ€‹.

เบ—เบธเบเป†เบกเบทเป‰, เบซเบผเบฒเบเบเบงเปˆเบฒเบซเบ™เบถเปˆเบ‡เบฎเป‰เบญเบเบฅเป‰เบฒเบ™เบ„เบปเบ™เป„เบ›เบขเป‰เบฝเบกเบขเบฒเบก Twitter เป€เบžเบทเปˆเบญเบŠเบญเบเบซเบฒเบชเบดเปˆเบ‡เบ—เบตเปˆเป€เบเบตเบ”เบ‚เบถเป‰เบ™เปƒเบ™เป‚เบฅเบเปเบฅเบฐเบชเบปเบ™เบ—เบฐเบ™เบฒเบกเบฑเบ™. เบ—เบธเบเป† tweet เปเบฅเบฐเบ—เบธเบเป†เบเบฒเบ™เบ›เบฐเบ•เบดเบšเบฑเบ”เบ‚เบญเบ‡เบœเบนเป‰เปƒเบŠเป‰เบญเบทเปˆเบ™เป†เบˆเบฐเบชเป‰เบฒเบ‡เป€เบซเบ”เบเบฒเบ™เบ—เบตเปˆเบกเบตเบขเบนเปˆเปƒเบ™เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เบžเบฒเบเปƒเบ™เบ‚เบญเบ‡ Twitter. เบžเบฐเบ™เบฑเบเบ‡เบฒเบ™เบซเบผเบฒเบเบฎเป‰เบญเบเบ„เบปเบ™เบงเบดเป€เบ„เบฒเบฐเปเบฅเบฐเบชเป‰เบฒเบ‡เบžเบฒเบšเบ‚เปเป‰เบกเบนเบ™เบ™เบตเป‰, เปเบฅเบฐเบเบฒเบ™เบ›เบฑเบšเบ›เบธเบ‡เบ›เบฐเบชเบปเบšเบเบฒเบ™เบ‚เบญเบ‡เป€เบ‚เบปเบฒเป€เบˆเบปเป‰เบฒเปเบกเปˆเบ™เป€เบ›เบฑเบ™เบšเบนเบฅเบดเบกเบฐเบชเบดเบ”เบชเบนเบ‡เบชเบธเบ”เบชเปเบฒเบฅเบฑเบšเบ—เบตเบกเบ‡เบฒเบ™ Twitter Data Platform.

เบžเบงเบเป€เบฎเบปเบฒเป€เบŠเบทเปˆเบญเบงเปˆเบฒเบœเบนเป‰เปƒเบŠเป‰เบ—เบตเปˆเบกเบตเบ„เบงเบฒเบกเบซเบฅเบฒเบเบซเบฅเบฒเบเบ—เบฒเบ‡เบ”เป‰เบฒเบ™เป€เบ•เบฑเบเบ™เบดเบเบ„เบงเบ™เบˆเบฐเบชเบฒเบกเบฒเบ”เบ„เบปเป‰เบ™เบžเบปเบšเบ‚เปเป‰เบกเบนเบ™เปเบฅเบฐเป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเปเบฅเบฐเบเบฒเบ™เบชเบฐเปเบ”เบ‡เบžเบฒเบšเบ—เบตเปˆเบญเบตเบ‡เปƒเบชเปˆ SQL เบ—เบตเปˆเป€เบฎเบฑเบ”เบงเบฝเบเป„เบ”เป‰เบ”เบต. เบ™เบตเป‰เบˆเบฐเบŠเปˆเบงเบเปƒเบซเป‰เบเบธเปˆเบกเปƒเบซเบกเปˆเบ—เบฑเบ‡เบซเบกเบปเบ”เบ‚เบญเบ‡เบœเบนเป‰เปƒเบŠเป‰เบ”เป‰เบฒเบ™เบงเบดเบŠเบฒเบเบฒเบ™เบซเบ™เป‰เบญเบ, เบฅเบงเบกเบ—เบฑเบ‡เบ™เบฑเบเบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เปเบฅเบฐเบœเบนเป‰เบˆเบฑเบ”เบเบฒเบ™เบœเบฐเบฅเบดเบ”เบ•เบฐเบžเบฑเบ™, เบชเบฐเบเบฑเบ”เบ„เบงเบฒเบกเป€เบ‚เบปเป‰เบฒเปƒเบˆเบˆเบฒเบเบ‚เปเป‰เบกเบนเบ™, เปƒเบซเป‰เบžเบงเบเป€เบ‚เบปเบฒเป€เบ‚เบปเป‰เบฒเปƒเบˆเปเบฅเบฐเบ™เปเบฒเปƒเบŠเป‰เบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เบ‚เบญเบ‡ Twitter เป„เบ”เป‰เบ”เบตเบ‚เบถเป‰เบ™. เบ™เบตเป‰เปเบกเปˆเบ™เบงเบดเบ—เบตเบ—เบตเปˆเบžเบงเบเป€เบฎเบปเบฒ democratize เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เปƒเบ™ Twitter.

เป€เบ™เบทเปˆเบญเบ‡เบˆเบฒเบเป€เบ„เบทเปˆเบญเบ‡เบกเบทเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเปเบฅเบฐเบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เปƒเบ™เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เบžเบฒเบเปƒเบ™เป„เบ”เป‰เบฎเบฑเบšเบเบฒเบ™เบ›เบฑเบšเบ›เบธเบ‡, เบžเบงเบเป€เบฎเบปเบฒเป€เบซเบฑเบ™เบงเปˆเบฒ Twitter เบ›เบฑเบšเบ›เบธเบ‡. เบขเปˆเบฒเบ‡เปƒเบ”เบเปเบ•เบฒเบก, เบเบฑเบ‡เบกเบตเบซเป‰เบญเบ‡เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบ›เบฑเบšเบ›เบธเบ‡. เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบ›เบฐเบˆเบธเบšเบฑเบ™เป€เบŠเบฑเปˆเบ™ Scalding เบ•เป‰เบญเบ‡เบเบฒเบ™เบ›เบฐเบชเบปเบšเบเบฒเบ™เบเบฒเบ™เบ‚เบฝเบ™เป‚เบ›เบผเปเบเบผเบก. เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ—เบตเปˆเบญเบตเบ‡เปƒเบชเปˆ SQL เป€เบŠเบฑเปˆเบ™ Presto เปเบฅเบฐ Vertica เบกเบตเบšเบฑเบ™เบซเบฒเบเบฒเบ™เบ›เบฐเบ•เบดเบšเบฑเบ”เปƒเบ™เบฅเบฐเบ”เบฑเบš. เบžเบงเบเป€เบฎเบปเบฒเบเบฑเบ‡เบกเบตเบšเบฑเบ™เบซเบฒเบเบฒเบ™เปเบˆเบเบขเบฒเบเบ‚เปเป‰เบกเบนเบ™เปƒเบ™เบ—เบปเปˆเบงเบฅเบฐเบšเบปเบšเบซเบผเบฒเบเบฅเบฐเบšเบปเบšเป‚เบ”เบเบšเปเปˆเบกเบตเบเบฒเบ™เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เบกเบฑเบ™เบขเปˆเบฒเบ‡เบ•เปเปˆเป€เบ™เบทเปˆเบญเบ‡.

เบ›เบตเบ—เบตเปˆเบœเปˆเบฒเบ™เบกเบฒเบžเบงเบเป€เบฎเบปเบฒเบ›เบฐเบเบฒเบ” เบเบฒเบ™เบฎเปˆเบงเบกเบกเบทเปƒเบซเบกเปˆเบเบฑเบš Google, เบžเบฒเบเปƒเบ™เบ—เบตเปˆเบžเบงเบเป€เบฎเบปเบฒเป‚เบญเบ™เบžเบฒเบเบชเปˆเบงเบ™เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ เป‚เบ„เบ‡เบชเป‰เบฒเบ‡เบ‚เปเป‰เบกเบนเบ™ เปƒเบ™ Google Cloud Platform (GCP). เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบชเบฐเบซเบผเบธเบšเบงเปˆเบฒเป€เบ„เบทเปˆเบญเบ‡เบกเบท Google Cloud Big Data เบชเบฒโ€‹เบกเบฒเบ”โ€‹เบŠเปˆเบงเบโ€‹เบžเบงเบโ€‹เป€เบฎเบปเบฒโ€‹เปƒเบ™โ€‹เบเบฒเบ™โ€‹เบฅเบดโ€‹เป€เบฅเบตเปˆเบกโ€‹เบ‚เบญเบ‡โ€‹เบžเบงเบโ€‹เป€เบฎเบปเบฒโ€‹เป€เบžเบทเปˆเบญโ€‹เบ›เบฐโ€‹เบŠเบฒโ€‹เบ—เบดโ€‹เบ›เบฐโ€‹เป„เบ•โ€‹เบเบฒเบ™โ€‹เบงเบดโ€‹เป€เบ„เบฒเบฐโ€‹, เบเบฒเบ™โ€‹เป€เบซเบฑเบ™โ€‹เบžเบฒเบšโ€‹, เปเบฅเบฐโ€‹เบเบฒเบ™โ€‹เบฎเบฝเบ™โ€‹เบฎเบนเป‰โ€‹เป€เบ„เบทเปˆเบญเบ‡โ€‹เบˆเบฑเบโ€‹เปƒเบ™ Twitterโ€‹:

  • เบ„เบณเบ–เบฒเบกเปƒเบซเบเปˆ: เบ„เบฑเบ‡เบ‚เปเป‰เบกเบนเบ™เบงเบดเบชเบฒเบซเบฐเบเบดเบ”เบ—เบตเปˆเบกเบตเป€เบ„เบทเปˆเบญเบ‡เบˆเบฑเบ SQL เบญเบตเบ‡เปƒเบชเปˆ Dremel, เบ—เบตเปˆเบกเบตเบŠเบทเปˆเบชเบฝเบ‡เบชเปเบฒเบฅเบฑเบšเบ„เบงเบฒเบกเป„เบง, เบ„เบงเบฒเบกเบ‡เปˆเบฒเบเบ”เบฒเบเปเบฅเบฐเบฎเบฑเบšเบกเบทเบเบฑเบš เบเบฒเบ™เบฎเบฝเบ™เบฎเบนเป‰เป€เบ„เบทเปˆเบญเบ‡เบˆเบฑเบ.
  • Data Studio: เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบชเป‰เบฒเบ‡เบžเบฒเบšเบ‚เปเป‰เบกเบนเบ™เบ‚เบฐเปœเบฒเบ”เปƒเบซเบเปˆเบ”เป‰เบงเบเบ„เบธเบ™เบชเบปเบกเบšเบฑเบ”เบเบฒเบ™เบฎเปˆเบงเบกเบกเบทเบ—เบตเปˆเบ„เป‰เบฒเบเบ„เบทเบเบฑเบš Google Docs.

เปƒเบ™เบšเบปเบ”เบ„เบงเบฒเบกเบ™เบตเป‰, เบ—เปˆเบฒเบ™เบˆเบฐเบฎเบฝเบ™เบฎเบนเป‰เบเปˆเบฝเบงเบเบฑเบšเบ›เบฐเบชเบปเบšเบเบฒเบ™เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบเบฑเบšเป€เบ„เบทเปˆเบญเบ‡เบกเบทเป€เบซเบผเบปเปˆเบฒเบ™เบตเป‰: เบชเบดเปˆเบ‡เบ—เบตเปˆเบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เป€เบฎเบฑเบ”, เบชเบดเปˆเบ‡เบ—เบตเปˆเบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบฎเบฝเบ™เบฎเบนเป‰, เปเบฅเบฐเบชเบดเปˆเบ‡เบ—เบตเปˆเบžเบงเบเป€เบฎเบปเบฒเบˆเบฐเป€เบฎเบฑเบ”เบ•เปเปˆเป„เบ›. เปƒเบ™เบ›เบฑเบ”เบˆเบธเบšเบฑเบ™เบžเบงเบเป€เบฎเบปเบฒเบˆเบฐเบชเบธเบกเปƒเบชเปˆเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐ batch เปเบฅเบฐเบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบš. เบžเบงเบเป€เบฎเบปเบฒเบˆเบฐเบ›เบถเบเบชเบฒเบซเบฒเบฅเบทเบเปˆเบฝเบงเบเบฑเบšเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเปƒเบ™เป€เบงเบฅเบฒเบ—เบตเปˆเปเบ—เป‰เบˆเบดเบ‡เปƒเบ™เบšเบปเบ”เบ„เบงเบฒเบกเบ•เปเปˆเป„เบ›.

เบ›เบฐเบซเบงเบฑเบ”เบ‚เบญเบ‡เบฎเป‰เบฒเบ™เบ‚เปเป‰เบกเบนเบ™ Twitter

เบเปˆเบญเบ™เบ—เบตเปˆเบˆเบฐเป€เบ‚เบปเป‰เบฒเป„เบ›เปƒเบ™ BigQuery, เบกเบฑเบ™เบ„เบธเป‰เบกเบ„เปˆเบฒเบ—เบตเปˆเบˆเบฐเป€เบฅเบปเปˆเบฒเบ„เบทเบ™เบ›เบฐเบซเบงเบฑเบ”เบเบฒเบ™เป€เบเบฑเบšเบ‚เปเป‰เบกเบนเบ™ Twitter เบชเบฑเป‰เบ™เป†. เปƒเบ™เบ›เบต 2011, เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™ Twitter เป„เบ”เป‰เบ”เปเบฒเป€เบ™เบตเบ™เบขเบนเปˆเปƒเบ™ Vertica เปเบฅเบฐ Hadoop. เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เปƒเบŠเป‰ Pig เป€เบžเบทเปˆเบญเบชเป‰เบฒเบ‡เบงเบฝเบ MapReduce Hadoop. เปƒเบ™เบ›เบต 2012, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบ›เปˆเบฝเบ™เปเบ—เบ™ Pig เบ”เป‰เบงเบ Scalding, เป€เบŠเบดเปˆเบ‡เบกเบต Scala API เบ—เบตเปˆเบกเบตเบœเบปเบ™เบ›เบฐเป‚เบซเบเบ”เป€เบŠเบฑเปˆเบ™: เบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เปƒเบ™เบเบฒเบ™เบชเป‰เบฒเบ‡เบ—เปเปˆเบ—เบตเปˆเบชเบฑเบšเบชเบปเบ™เปเบฅเบฐเบ„เบงเบฒเบกเบ‡เปˆเบฒเบเบ”เบฒเบเบ‚เบญเบ‡เบเบฒเบ™เบ—เบปเบ”เบชเบญเบš. เบขเปˆเบฒเบ‡เปƒเบ”เบเปเบ•เบฒเบก, เบชเปเบฒเบฅเบฑเบšเบ™เบฑเบเบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เบˆเปเบฒเบ™เบงเบ™เบซเบผเบฒเบเปเบฅเบฐเบœเบนเป‰เบˆเบฑเบ”เบเบฒเบ™เบœเบฐเบฅเบดเบ”เบ•เบฐเบžเบฑเบ™เบ—เบตเปˆเบกเบตเบ„เบงเบฒเบกเบชเบฐเบ”เบงเบเบชเบฐเบšเบฒเบเปƒเบ™เบเบฒเบ™เป€เบฎเบฑเบ”เบงเบฝเบเบเบฑเบš SQL, เบกเบฑเบ™เป€เบ›เบฑเบ™เป€เบชเบฑเป‰เบ™เป‚เบ„เป‰เบ‡เบเบฒเบ™เบฎเบฝเบ™เบฎเบนเป‰เบ—เบตเปˆเบ‚เป‰เบญเบ™เบ‚เป‰เบฒเบ‡เบชเบนเบ‡. เบ›เบฐเบกเบฒเบ™เบ›เบต 2016, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เป€เบฅเบตเปˆเบกเปƒเบŠเป‰ Presto เป€เบ›เบฑเบ™เบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบš SQL เบเบฑเบšเบ‚เปเป‰เบกเบนเบ™ Hadoop. Spark เบชเบฐเป€เบซเบ™เบตเบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบš Python, เป€เบŠเบดเปˆเบ‡เป€เบฎเบฑเบ”เปƒเบซเป‰เบกเบฑเบ™เป€เบ›เบฑเบ™เบ—เบฒเบ‡เป€เบฅเบทเบญเบเบ—เบตเปˆเบ”เบตเบชเปเบฒเบฅเบฑเบšเบงเบดเบ—เบฐเบเบฒเบชเบฒเบ”เบ‚เปเป‰เบกเบนเบ™ ad hoc เปเบฅเบฐเบเบฒเบ™เบฎเบฝเบ™เบฎเบนเป‰เป€เบ„เบทเปˆเบญเบ‡เบˆเบฑเบ.

เบ™เบฑเบšเบ•เบฑเป‰เบ‡เปเบ•เปˆเบ›เบต 2018, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบ™เปเบฒเปƒเบŠเป‰เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบ”เบฑเปˆเบ‡เบ•เปเปˆเป„เบ›เบ™เบตเป‰เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เปเบฅเบฐเบเบฒเบ™เป€เบšเบดเปˆเบ‡เป€เบซเบฑเบ™:

  • Scalding เบชเปเบฒเบฅเบฑเบš conveyors เบเบฒเบ™เบœเบฐเบฅเบดเบ”
  • Scalding เปเบฅเบฐ Spark เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เบชเบฐเป€เบžเบฒเบฐเปเบฅเบฐเบเบฒเบ™เบฎเบฝเบ™เบฎเบนเป‰เป€เบ„เบทเปˆเบญเบ‡เบˆเบฑเบ
  • Vertica เปเบฅเบฐ Presto เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐ SQL เปเบšเบšเบžเบดเป€เบชเบ”เปเบฅเบฐเบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบš
  • Druid เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบšเบ•เปˆเปเบฒ, เบเบฒเบ™เบชเปเบฒเบซเบผเบงเบ”เปเบฅเบฐเบเบฒเบ™เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡ latency เบ•เปˆเปเบฒเบ•เปเปˆเบเบฑเบš metrics เบŠเบธเบ”เป€เบงเบฅเบฒ
  • Tableau, Zeppelin เปเบฅเบฐ Pivot เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เป€เบšเบดเปˆเบ‡เป€เบซเบฑเบ™เบ‚เปเป‰เบกเบนเบ™

เบžเบงเบเป€เบฎเบปเบฒเบžเบปเบšเบงเปˆเบฒเปƒเบ™เบ‚เบฐเบ™เบฐเบ—เบตเปˆเป€เบ„เบทเปˆเบญเบ‡เบกเบทเป€เบซเบผเบปเปˆเบฒเบ™เบตเป‰เบชเบฐเป€เบซเบ™เบตเบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เบ—เบตเปˆเบกเบตเบ›เบฐเบชเบดเบ”เบ—เบดเบžเบฒเบšเบซเบผเบฒเบ, เบžเบงเบเป€เบฎเบปเบฒเบกเบตเบ„เบงเบฒเบกเบซเบเบธเป‰เบ‡เบเบฒเบเบ—เบตเปˆเบˆเบฐเป€เบฎเบฑเบ”เปƒเบซเป‰เบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เป€เบซเบผเบปเปˆเบฒเบ™เบตเป‰เบกเบตเปƒเบซเป‰เบเบฑเบšเบœเบนเป‰เบŠเบปเบกเบ—เบตเปˆเบเบงเป‰เบฒเบ‡เบ‚เบงเบฒเบ‡เปƒเบ™ Twitter. เป‚เบ”เบเบเบฒเบ™เบ‚เบฐเบซเบเบฒเบเปเบžเบฅเบฐเบ•เบฐเบŸเบญเบกเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบเบฑเบš Google Cloud, เบžเบงเบเป€เบฎเบปเบฒเบเปเบฒเบฅเบฑเบ‡เบชเบธเบกเปƒเบชเปˆเบเบฒเบ™เป€เบฎเบฑเบ”เปƒเบซเป‰เป€เบ„เบทเปˆเบญเบ‡เบกเบทเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบ‡เปˆเบฒเบเบ‚เบถเป‰เบ™เบชเปเบฒเบฅเบฑเบšเบ—เบฑเบ‡เบซเบกเบปเบ”เบ‚เบญเบ‡ Twitter.

เบ„เบฑเบ‡เบ‚เปเป‰เบกเบนเบ™ BigQuery เบ‚เบญเบ‡ Google

เบซเบผเบฒเบเป†เบ—เบตเบกเปƒเบ™ Twitter เป„เบ”เป‰เบฅเบงเบกเป€เบญเบปเบฒ BigQuery เป€เบ‚เบปเป‰เบฒเป„เบ›เปƒเบ™เบšเบฒเบ‡เบ—เปเปˆเบเบฒเบ™เบœเบฐเบฅเบดเบ”เบ‚เบญเบ‡เป€เบ‚เบปเบฒเป€เบˆเบปเป‰เบฒเปเบฅเป‰เบง. เบเบฒเบ™เบ™เปเบฒเปƒเบŠเป‰เบ„เบงเบฒเบกเบŠเปเบฒเบ™เบฒเบ™เบ‚เบญเบ‡เบžเบงเบเป€เบ‚เบปเบฒ, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เป€เบฅเบตเปˆเบกเบ›เบฐเป€เบกเบตเบ™เบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เบ‚เบญเบ‡ BigQuery เบชเปเบฒเบฅเบฑเบšเบ—เบธเบเบเปเบฅเบฐเบ™เบตเบ—เบตเปˆเปƒเบŠเป‰ Twitter. เป€เบ›เบปเป‰เบฒเบซเบกเบฒเบเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเปเบกเปˆเบ™เป€เบžเบทเปˆเบญเบชเบฐเป€เบซเบ™เบตเปƒเบซเป‰ BigQuery เบ—เบฑเบ‡เบซเบกเบปเบ”เบšเปเบฅเบดเบชเบฑเบ”เปเบฅเบฐเบกเบฒเบ”เบ•เบฐเบ–เบฒเบ™เปเบฅเบฐเบชเบฐเบซเบ™เบฑเบšเบชเบฐเบซเบ™เบนเบ™เบกเบฑเบ™เบžเบฒเบเปƒเบ™เบŠเบธเบ”เป€เบ„เบทเปˆเบญเบ‡เบกเบท Data Platform. เบ™เบตเป‰เปเบกเปˆเบ™เบ„เบงเบฒเบกเบซเบเบธเป‰เบ‡เบเบฒเบเบชเปเบฒเบฅเบฑเบšเบซเบผเบฒเบเป€เบซเบ”เบœเบปเบ™. เบžเบงเบเป€เบฎเบปเบฒเบˆเปเบฒเป€เบ›เบฑเบ™เบ•เป‰เบญเบ‡เป„เบ”เป‰เบžเบฑเบ”เบ—เบฐเบ™เบฒเป‚เบ„เบ‡เบชเป‰เบฒเบ‡เบžเบทเป‰เบ™เบ–เบฒเบ™เป€เบžเบทเปˆเบญเบฎเบฑเบšเบ‚เปเป‰เบกเบนเบ™เบˆเปเบฒเบ™เบงเบ™เบซเบผเบงเบ‡เบซเบผเบฒเบเบ—เบตเปˆเป€เบŠเบทเปˆเบญเบ–เบทเป„เบ”เป‰, เบชเบฐเบซเบ™เบฑเบšเบชเบฐเบซเบ™เบนเบ™เบเบฒเบ™เบ„เบธเป‰เบกเบ„เบญเบ‡เบ‚เปเป‰เบกเบนเบ™เบ‚เบญเบ‡เบšเปเบฅเบดเบชเบฑเบ”, เบฎเบฑเบšเบ›เบฐเบเบฑเบ™เบเบฒเบ™เบ„เบงเบšเบ„เบธเบกเบเบฒเบ™เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เบ—เบตเปˆเป€เบซเบกเบฒเบฐเบชเบปเบก, เปเบฅเบฐเบฎเบฑเบšเบ›เบฐเบเบฑเบ™เบ„เบงเบฒเบกเป€เบ›เบฑเบ™เบชเปˆเบงเบ™เบ•เบปเบงเบ‚เบญเบ‡เบฅเบนเบเบ„เป‰เบฒ. เบžเบงเบเป€เบฎเบปเบฒเบเบฑเบ‡เบ•เป‰เบญเบ‡เบชเป‰เบฒเบ‡เบฅเบฐเบšเบปเบšเบเบฒเบ™เบˆเบฑเบ”เบชเบฑเบ™เบŠเบฑเบšเบžเบฐเบเบฒเบเบญเบ™, เบเบฒเบ™เบ•เบดเบ”เบ•เบฒเบก เปเบฅเบฐ เบเบฒเบ™เป€เบเบฑเบšเป€เบ‡เบดเบ™เบ„เบทเบ™ เป€เบžเบทเปˆเบญเปƒเบซเป‰เบ—เบตเบกเบ‡เบฒเบ™เบชเบฒเบกเบฒเบ”เปƒเบŠเป‰ BigQuery เป„เบ”เป‰เบขเปˆเบฒเบ‡เบกเบตเบ›เบฐเบชเบดเบ”เบ—เบดเบžเบฒเบš.

เปƒเบ™เป€เบ”เบทเบญเบ™เบžเบฐเบˆเบดเบ 2018, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบ›เปˆเบญเบเบ•เบปเบง alpha เบ‚เบญเบ‡เบšเปเบฅเบดเบชเบฑเบ” BigQuery เปเบฅเบฐ Data Studio. เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบชเบฐเป€เปœเบตเปƒเบซเป‰เบžเบฐเบ™เบฑเบเบ‡เบฒเบ™ Twitter เบšเบฒเบ‡เบชเปˆเบงเบ™เบ‚เบญเบ‡เบชเบฐเป€เบ›เบฃเบ”เบŠเบตเบ”เบ—เบตเปˆเปƒเบŠเป‰เป€เบฅเบทเป‰เบญเบเบ—เบตเปˆเบชเบธเบ”เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบ”เป‰เบงเบเบเบฒเบ™เบญเบฐเบ™เบฒเป„เบกเบ‚เปเป‰เบกเบนเบ™เบชเปˆเบงเบ™เบ•เบปเบง. BigQuery เป„เบ”เป‰เบ–เบทเบเบ™เปเบฒเปƒเบŠเป‰เป‚เบ”เบเบœเบนเป‰เปƒเบŠเป‰เบซเบผเบฒเบเบเบงเปˆเบฒ 250 เบ„เบปเบ™เบˆเบฒเบเบซเบผเบฒเบเป†เบ—เบตเบกเบฅเบงเบกเบ—เบฑเบ‡เบงเบดเบชเบฐเบงเบฐเบเปเบฒ, เบเบฒเบ™เป€เบ‡เบดเบ™เปเบฅเบฐเบเบฒเบ™เบ•เบฐเบซเบผเบฒเบ”. เบšเปเปˆเบ”เบปเบ™เบกเบฒเบ™เบตเป‰, เบžเบงเบเป€เบ‚เบปเบฒเป€เบˆเบปเป‰เบฒเบเปเบฒเบฅเบฑเบ‡เบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™เบ›เบฐเบกเบฒเบ™ 8k เบ„เปเบฒเบฎเป‰เบญเบ‡เบ‚เป, เบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™เบ›เบฐเบกเบฒเบ™ 100 PB เบ•เปเปˆเป€เบ”เบทเบญเบ™, เบšเปเปˆเป„เบ”เป‰เบ™เบฑเบšเบ„เปเบฒเบฎเป‰เบญเบ‡เบ‚เปเบ—เบตเปˆเบเปเบฒเบ™เบปเบ”เป„เบงเป‰. เบซเบผเบฑเบ‡เบˆเบฒเบเป„เบ”เป‰เบฎเบฑเบšเบ„เปเบฒเบ•เบดเบŠเบปเบกเปƒเบ™เบ—เบฒเบ‡เบšเบงเบเบซเบผเบฒเบ, เบžเบงเบเป€เบฎเบปเบฒเบ•เบฑเบ”เบชเบดเบ™เปƒเบˆเบเป‰เบฒเบงเป„เบ›เบ‚เป‰เบฒเบ‡เบซเบ™เป‰เบฒเปเบฅเบฐเบชเบฐเป€เบซเบ™เบตเปƒเบซเป‰ BigQuery เป€เบ›เบฑเบ™เบŠเบฑเบšเบžเบฐเบเบฒเบเบญเบ™เบ•เบปเป‰เบ™เบ•เปเบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบžเบปเบงเบžเบฑเบ™เบเบฑเบšเบ‚เปเป‰เบกเบนเบ™เปƒเบ™ Twitter.

เบ™เบตเป‰เปเบกเปˆเบ™เปเบœเบ™เบงเบฒเบ”เบฅเบฐเบ”เบฑเบšเบชเบนเบ‡เบ‚เบญเบ‡เบชเบฐเบ–เบฒเบ›เบฑเบ”เบ•เบฐเบเบฐเบเบณเบ„เบฑเบ‡เบ‚เปเป‰เบกเบนเบ™ Google BigQuery เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ.

เบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบ‚เปเป‰เบกเบนเบ™เปเบšเบšเบ›เบฐเบŠเบฒเบ—เบดเบ›เบฐเป„เบ•เบ‚เบญเบ‡ BigQuery เบ‚เบญเบ‡ Google. เบžเบฒเบเบ—เบต 1
เบžเบงเบเป€เบฎเบปเบฒเบชเบณเป€เบ™เบปเบฒเบ‚เปเป‰เบกเบนเบ™เบˆเบฒเบเบเบธเปˆเบก Hadoop เบขเบนเปˆเปƒเบ™เบšเปˆเบญเบ™เป„เบ›เปƒเบชเปˆ Google Cloud Storage (GCS) เป‚เบ”เบเปƒเบŠเป‰เป€เบ„เบทเปˆเบญเบ‡เบกเบท Cloud Replicator เบžเบฒเบเปƒเบ™. เบซเบผเบฑเบ‡เบˆเบฒเบเบ™เบฑเป‰เบ™, เบžเบงเบเป€เบฎเบปเบฒเปƒเบŠเป‰ Apache Airflow เป€เบžเบทเปˆเบญเบชเป‰เบฒเบ‡เบ—เปเปˆเบ—เบตเปˆเปƒเบŠเป‰ "bq_loadยป เป€เบžเบทเปˆเบญเป‚เบซเบฅเบ”เบ‚เปเป‰เบกเบนเบ™เบˆเบฒเบ GCS เป€เบ‚เบปเป‰เบฒเป„เบ›เปƒเบ™ BigQuery. เบžเบงเบเป€เบฎเบปเบฒเปƒเบŠเป‰ Presto เป€เบžเบทเปˆเบญเบชเบญเบšเบ–เบฒเบกเบŠเบธเบ”เบ‚เปเป‰เบกเบนเบ™ Parquet เบซเบผเบท Thrift-LZO เปƒเบ™ GCS. BQ Blaster เป€เบ›เบฑเบ™เป€เบ„เบทเปˆเบญเบ‡เบกเบท Scalding เบžเบฒเบเปƒเบ™เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เป‚เบซเบผเบ”เบŠเบธเบ”เบ‚เปเป‰เบกเบนเบ™ HDFS Vertica เปเบฅเบฐ Thrift-LZO เป€เบ‚เบปเป‰เบฒเป„เบ›เปƒเบ™ BigQuery.

เปƒเบ™เบžเบฒเบเบ•เปเปˆเป„เบ›เบ™เบตเป‰, เบžเบงเบเป€เบฎเบปเบฒเบ›เบถเบเบชเบฒเบซเบฒเบฅเบทเบงเบดเบ—เบตเบเบฒเบ™เปเบฅเบฐเบ„เบงเบฒเบกเบŠเปเบฒเบ™เบฒเบ™เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเปƒเบ™เบ‚เบปเบ‡เป€เบ‚เบ”เบ‚เบญเบ‡เบ„เบงเบฒเบกเบชเบฐเบ”เบงเบเปƒเบ™เบเบฒเบ™เบ™เปเบฒเปƒเบŠเป‰, เบเบฒเบ™เบ›เบฐเบ•เบดเบšเบฑเบ”, เบเบฒเบ™เบ„เบธเป‰เบกเบ„เบญเบ‡เบ‚เปเป‰เบกเบนเบ™, เบชเบธเบ‚เบฐเบžเบฒเบšเบ‚เบญเบ‡เบฅเบฐเบšเบปเบš, เปเบฅเบฐเบ„เปˆเบฒเปƒเบŠเป‰เบˆเปˆเบฒเบ.

เบ„เบงเบฒเบกเบ‡เปˆเบฒเบเบ‚เบญเบ‡เบเบฒเบ™ เบ™เบณ เปƒเบŠเป‰

เบžเบงเบเป€เบฎเบปเบฒเบžเบปเบšเบงเปˆเบฒเบกเบฑเบ™เบ‡เปˆเบฒเบเบชเปเบฒเบฅเบฑเบšเบœเบนเป‰เปƒเบŠเป‰เบ—เบตเปˆเบˆเบฐเป€เบฅเบตเปˆเบกเบ•เบปเป‰เบ™เบเบฑเบš BigQuery เป€เบ™เบทเปˆเบญเบ‡เบˆเบฒเบเบงเปˆเบฒเบกเบฑเบ™เบšเปเปˆเบˆเปเบฒเป€เบ›เบฑเบ™เบ•เป‰เบญเบ‡เบกเบตเบเบฒเบ™เบ•เบดเบ”เบ•เบฑเป‰เบ‡เบŠเบญเบšเปเบงเปเบฅเบฐเบœเบนเป‰เปƒเบŠเป‰เบชเบฒเบกเบฒเบ”เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เบกเบฑเบ™เป„เบ”เป‰เป‚เบ”เบเบœเปˆเบฒเบ™เบเบฒเบ™เป‚เบ•เป‰เบ•เบญเบšเป€เบงเบฑเบšเป„เบŠเบ•เปŒ intuitive. เบขเปˆเบฒเบ‡เปƒเบ”เบเปเปˆเบ•เบฒเบก, เบœเบนเป‰เปƒเบŠเป‰เบˆเปเบฒเป€เบ›เบฑเบ™เบ•เป‰เบญเบ‡เบกเบตเบ„เบงเบฒเบกเบ„เบธเป‰เบ™เป€เบ„เบตเบเบเบฑเบšเบšเบฒเบ‡เบฅเบฑเบเบชเบฐเบ™เบฐเปเบฅเบฐเปเบ™เบงเบ„เบงเบฒเบกเบ„เบดเบ”เบ‚เบญเบ‡ GCP, เบฅเบงเบกเบ—เบฑเบ‡เบŠเบฑเบšเบžเบฐเบเบฒเบเบญเบ™เป€เบŠเบฑเปˆเบ™: เป‚เบ„เบ‡เบเบฒเบ™, เบŠเบธเบ”เบ‚เปเป‰เบกเบนเบ™, เปเบฅเบฐเบ•เบฒเบ•เบฐเบฅเบฒเบ‡. เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบžเบฑเบ”เบ—เบฐเบ™เบฒเบญเบธเบ›เบฐเบเบญเบ™เบเบฒเบ™เบชเบถเบเบชเบฒ เปเบฅเบฐเบšเบปเบ”เบชเบญเบ™เป€เบžเบทเปˆเบญเบŠเปˆเบงเบเบœเบนเป‰เปƒเบŠเป‰เป€เบฅเบตเปˆเบกเบ•เบปเป‰เบ™. เบ”เป‰เบงเบเบ„เบงเบฒเบกเป€เบ‚เบปเป‰เบฒเปƒเบˆเบ‚เบฑเป‰เบ™เบžเบทเป‰เบ™เบ–เบฒเบ™เบ—เบตเปˆเป„เบ”เป‰เบฎเบฑเบš, เบœเบนเป‰เปƒเบŠเป‰เบžเบปเบšเบงเปˆเบฒเบกเบฑเบ™เบ‡เปˆเบฒเบเบ—เบตเปˆเบˆเบฐเบ™เปเบฒเบ—เบฒเบ‡เบŠเบธเบ”เบ‚เปเป‰เบกเบนเบ™, เป€เบšเบดเปˆเบ‡เบ•เบฒเบ•เบฐเบฅเบฒเบ‡เปเบฅเบฐเบ‚เปเป‰เบกเบนเบ™เบ•เบฒเบ•เบฐเบฅเบฒเบ‡, เบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™เบชเบญเบšเบ–เบฒเบกเบ‡เปˆเบฒเบเป†, เปเบฅเบฐเบชเบฐเปเบ”เบ‡เบœเบปเบ™เปƒเบ™ Data Studio.

เป€เบ›เบปเป‰เบฒเปเบฒเบเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบชเบณเบฅเบฑเบšเบเบฒเบ™เบ›เป‰เบญเบ™เบ‚เปเป‰เบกเบนเบ™เป€เบ‚เบปเป‰เบฒเปƒเบ™ BigQuery เปเบกเปˆเบ™เป€เบžเบทเปˆเบญเปƒเบซเป‰เบชเบฒเบกเบฒเบ”เป‚เบซเบผเบ”เบŠเบธเบ”เบ‚เปเป‰เบกเบนเบ™ HDFS เบซเบผเบท GCS เป„เบ”เป‰เบขเปˆเบฒเบ‡เบšเปเปˆเบขเบธเบ”เบขเบฑเป‰เบ‡เบ”เป‰เบงเบเบเบฒเบ™เบ„เบฅเบดเบเบ”เบฝเบง. เบžเบงเบเป€เบฎเบปเบฒเบžเบดเบˆเบฒเบฅเบฐเบ™เบฒ Cloud Composer (เบˆเบฑเบ”เบเบฒเบ™เป‚เบ”เบ Airflow) เปเบ•เปˆเบšเปเปˆเบชเบฒเบกเบฒเบ”เปƒเบŠเป‰เบกเบฑเบ™เป„เบ”เป‰เป€เบ™เบทเปˆเบญเบ‡เบˆเบฒเบเบฎเบนเบšเปเบšเบšเบ„เบงเบฒเบกเบ›เบญเบ”เป„เบžเบ‚เบญเบ‡เบเบฒเบ™เปเบšเปˆเบ‡เบ›เบฑเบ™เป‚เบ”เป€เบกเบ™เบ—เบตเปˆเบ–เบทเบเบˆเบณเบเบฑเบ”เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ (เป€เบžเบตเปˆเบกเป€เบ•เบตเบกเบเปˆเบฝเบงเบเบฑเบšเป€เบฅเบทเปˆเบญเบ‡เบ™เบตเป‰เปƒเบ™เบžเบฒเบเบเบฒเบ™เบˆเบฑเบ”เบเบฒเบ™เบ‚เปเป‰เบกเบนเบ™เบ‚เป‰เบฒเบ‡เบฅเบธเปˆเบกเบ™เบตเป‰). เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบ—เบปเบ”เบฅเบญเบ‡เปƒเบŠเป‰ Google Data Transfer Service (DTS) เป€เบžเบทเปˆเบญเบˆเบฑเบ”เบงเบฒเบ‡เบงเบฝเบ BigQuery. เปƒเบ™เบ‚เบฐเบ™เบฐเบ—เบตเปˆ DTS เป„เบ”เป‰เป„เบงเปƒเบ™เบเบฒเบ™เบ•เบฑเป‰เบ‡เบ„เปˆเบฒ, เบกเบฑเบ™เบšเปเปˆเบ›เปˆเบฝเบ™เปเบ›เบ‡เป„เบ”เป‰เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบเปเปˆเบชเป‰เบฒเบ‡เบ—เปเปˆเบ—เบตเปˆเบกเบตเบเบฒเบ™เป€เบžเบดเปˆเบ‡เบžเบฒเบญเบฒเป„เบช. เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบ›เปˆเบญเบ alpha เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบชเป‰เบฒเบ‡เบเบญเบš Apache Airflow เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเป€เบญเบ‡เปƒเบ™ GCE เปเบฅเบฐเบเปเบฒเบฅเบฑเบ‡เบเบฐเบเบฝเบกเบกเบฑเบ™เป€เบžเบทเปˆเบญเบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™เปƒเบ™เบเบฒเบ™เบœเบฐเบฅเบดเบ”เปเบฅเบฐเบชเบฒเบกเบฒเบ”เบชเบฐเบซเบ™เบฑเบšเบชเบฐเบซเบ™เบนเบ™เปเบซเบผเปˆเบ‡เบ‚เปเป‰เบกเบนเบ™เป€เบžเบตเปˆเบกเป€เบ•เบตเบกเป€เบŠเบฑเปˆเบ™ Vertica.

เป€เบžเบทเปˆเบญเบ›เปˆเบฝเบ™เบ‚เปเป‰เบกเบนเบ™เป€เบ›เบฑเบ™ BigQuery, เบœเบนเป‰เปƒเบŠเป‰เบชเป‰เบฒเบ‡เบ—เปเปˆเบ‚เปเป‰เบกเบนเบ™ SQL เปเบšเบšเบ‡เปˆเบฒเบเบ”เบฒเบเป‚เบ”เบเปƒเบŠเป‰เบ„เปเบฒเบ–เบฒเบกเบ—เบตเปˆเบเปเบฒเบ™เบปเบ”. เบชเปเบฒเบฅเบฑเบšเบ—เปเปˆเบซเบผเบฒเบเบ‚เบฑเป‰เบ™เบ•เบญเบ™เบ—เบตเปˆเบŠเบฑเบšเบŠเป‰เบญเบ™เบ—เบตเปˆเบกเบตเบเบฒเบ™เบ‚เบถเป‰เบ™เบเบฑเบš, เบžเบงเบเป€เบฎเบปเบฒเบงเบฒเบ‡เปเบœเบ™เบ—เบตเปˆเบˆเบฐเปƒเบŠเป‰เบเบญเบš Airflow เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเป€เบญเบ‡ เบซเบผเบท Cloud Composer เบžเป‰เบญเบกเบเบฑเบš เบเบฐเปเบชเบ‚เปเป‰เบกเบนเบ™ Cloud.

เบœเบฐเบฅเบดเบ”เบ•เบฐเบžเบฑเบ™

BigQuery เบ–เบทเบเบญเบญเบเปเบšเบšเป€เบžเบทเปˆเบญเบˆเบธเบ”เบ›เบฐเบชเบปเบ‡เบ—เบปเปˆเบงเป„เบ› SQL queries เบ—เบตเปˆเบ›เบฐเบกเบงเบ™เบœเบปเบ™เบ‚เปเป‰เบกเบนเบ™เบˆเปเบฒเบ™เบงเบ™เบซเบผเบงเบ‡เบซเบผเบฒเบ. เบกเบฑเบ™เบšเปเปˆเป„เบ”เป‰เบกเบตเบˆเบธเบ”เบ›เบฐเบชเบปเบ‡เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™ latency เบ•เปˆเปเบฒ, เป‚เบ”เบเบœเปˆเบฒเบ™เบเบฒเบ™เบชเบญเบšเบ–เบฒเบกเบชเบนเบ‡เบ—เบตเปˆเบ•เป‰เบญเบ‡เบเบฒเบ™เป‚เบ”เบเบ–เบฒเบ™เบ‚เปเป‰เบกเบนเบ™เบ—เบธเบฅเบฐเบเปเบฒ, เบซเบผเบทเบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเบŠเบธเบ”เป€เบงเบฅเบฒ latency เบ•เปˆเปเบฒเบ›เบฐเบ•เบดเบšเบฑเบ”. Apache Druid. เบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบชเบญเบšเบ–เบฒเบกเบเบฒเบ™เบงเบดเป€เบ„เบฒเบฐเปเบšเบšเป‚เบ•เป‰เบ•เบญเบš, เบœเบนเป‰เปƒเบŠเป‰เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบ„เบฒเบ”เบงเปˆเบฒเบˆเบฐเบกเบตเป€เบงเบฅเบฒเบ•เบญเบšเป‚เบ•เป‰เบซเบ™เป‰เบญเบเบเบงเปˆเบฒเบซเบ™เบถเปˆเบ‡เบ™เบฒเบ—เบต. เบžเบงเบเป€เบฎเบปเบฒเบ•เป‰เบญเบ‡เบญเบญเบเปเบšเบšเบเบฒเบ™เบ™เปเบฒเปƒเบŠเป‰ BigQuery เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเป€เบžเบทเปˆเบญเบ•เบญเบšเบชเบฐเบซเบ™เบญเบ‡เบ„เบงเบฒเบกเบ„เบฒเบ”เบซเบงเบฑเบ‡เป€เบซเบผเบปเปˆเบฒเบ™เบตเป‰. เป€เบžเบทเปˆเบญเบชเบฐเบซเบ™เบญเบ‡เบเบฒเบ™เบ›เบฐเบ•เบดเบšเบฑเบ”เบ—เบตเปˆเบ„เบฒเบ”เป€เบ”เบปเบฒเป„เบ”เป‰เบชเปเบฒเบฅเบฑเบšเบœเบนเป‰เปƒเบŠเป‰เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ, เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบ™เปเบฒเปƒเบŠเป‰เบ„เบงเบฒเบกเบชเบฒเบกเบฒเบ”เบ‚เบญเบ‡ BigQuery, เบ—เบตเปˆเบกเบตเปƒเบซเป‰เบเบฑเบšเบฅเบนเบเบ„เป‰เบฒเป‚เบ”เบเบžเบทเป‰เบ™เบ–เบฒเบ™เบ„เปˆเบฒเบ—เปเบฒเบ™เบฝเบกเบ—เบตเปˆเบญเบฐเบ™เบธเบเบฒเบ”เปƒเบซเป‰เป€เบˆเบปเป‰เบฒเบ‚เบญเบ‡เป‚เบ„เบ‡เบเบฒเบ™เบชเบฒเบกเบฒเบ”เบˆเบญเบ‡เบŠเปˆเบญเบ‡เบ•เปเบฒเปˆเบชเบธเบ”เบ—เบตเปˆเบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบชเบญเบšเบ–เบฒเบกเบ‚เบญเบ‡เป€เบ‚เบปเบฒเป€เบˆเบปเป‰เบฒ. เป‚เบกเป‰ BigQuery เปเบกเปˆเบ™เบซเบปเบงเปœเปˆเบงเบเบ‚เบญเบ‡เบžเบฐเบฅเบฑเบ‡เบ‡เบฒเบ™เบ„เบญเบกเบžเบดเบงเป€เบ•เบตเบ—เบตเปˆเบ•เป‰เบญเบ‡เบเบฒเบ™เป€เบžเบทเปˆเบญเบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™เบชเบญเบšเบ–เบฒเบก SQL.

เบžเบงเบเป€เบฎเบปเบฒเป„เบ”เป‰เบงเบดเป€เบ„เบฒเบฐเบซเบผเบฒเบเบเบงเปˆเบฒ 800 queries processing เบ›เบฐเบกเบฒเบ™ 1 TB เบ‚เบญเบ‡เบ‚เปเป‰เบกเบนเบ™เปเบ•เปˆเบฅเบฐเบญเบฑเบ™ เปเบฅเบฐเบžเบปเบšเบงเปˆเบฒเป€เบงเบฅเบฒเบ›เบฐเบ•เบดเบšเบฑเบ”เป‚เบ”เบเบชเบฐเป€เบฅเปˆเบเปเบกเปˆเบ™ 30 เบงเบดเบ™เบฒเบ—เบต. เบžเบงเบเป€เบฎเบปเบฒเบเบฑเบ‡เป„เบ”เป‰เบฎเบฝเบ™เบฎเบนเป‰เบงเปˆเบฒเบเบฒเบ™เบ›เบฐเบ•เบดเบšเบฑเบ”เปเบกเปˆเบ™เบ‚เบถเป‰เบ™เบเบฑเบšเบเบฒเบ™เบ™เปเบฒเปƒเบŠเป‰เบชเบฐเบฅเบฑเบญเบ”เบ•เบดเบ‡เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเปƒเบ™เป‚เบ„เบ‡เบเบฒเบ™เปเบฅเบฐเบงเบฝเบเบ‡เบฒเบ™เบ—เบตเปˆเปเบ•เบเบ•เปˆเบฒเบ‡เบเบฑเบ™. เบžเบงเบโ€‹เป€เบฎเบปเบฒโ€‹เบ•เป‰เบญเบ‡โ€‹เบฅเบฐโ€‹เบšเบธโ€‹เบขเปˆเบฒเบ‡โ€‹เบˆเบฐโ€‹เปเบˆเป‰เบ‡โ€‹เบเบฒเบ™โ€‹เบœเบฐโ€‹เบฅเบดเบ”โ€‹เปเบฅเบฐโ€‹เบเบฒเบ™โ€‹เบชเบฐโ€‹เบซเบ‡เบงเบ™โ€‹เบชเบฐโ€‹เบฅเบฑเบญเบ”โ€‹เบ•เบดโ€‹เบ—เปเบฒโ€‹เบ‚เบญเบ‡โ€‹เบžเบงเบโ€‹เป€เบฎเบปเบฒโ€‹เป€เบžเบทเปˆเบญโ€‹เบฎเบฑเบโ€‹เบชเบฒโ€‹เบเบฒเบ™โ€‹เบ›เบฐโ€‹เบ•เบดโ€‹เบšเบฑเบ”โ€‹เบชเปเบฒโ€‹เบฅเบฑเบšโ€‹เบเบฒเบ™โ€‹เบ™เปเบฒโ€‹เปƒเบŠเป‰โ€‹เบœเบฐโ€‹เบฅเบดเบ”โ€‹เบ•เบฐโ€‹เบžเบฑเบ™โ€‹เปเบฅเบฐโ€‹เบเบฒเบ™โ€‹เบงเบดโ€‹เป€เบ„เบฒเบฐโ€‹เบญเบญเบ™โ€‹เป„เบฅโ€‹เบ™โ€‹เปŒโ€‹. เบ™เบตเป‰เบกเบตเบญเบดเบ”เบ—เบดเบžเบปเบ™เบขเปˆเบฒเบ‡เบซเบผเบงเบ‡เบซเบผเบฒเบเบ•เปเปˆเบเบฒเบ™เบญเบญเบเปเบšเบšเบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒเบชเปเบฒเบฅเบฑเบšเบเบฒเบ™เบˆเบญเบ‡เบชเบฐเบฅเบฑเบญเบ”เบ•เบดเบ‡เปเบฅเบฐเบฅเปเบฒเบ”เบฑเบšเบŠเบฑเป‰เบ™เบ‚เบญเบ‡เป‚เบ„เบ‡เบเบฒเบ™.

เบžเบงเบเป€เบฎเบปเบฒเบˆเบฐเป€เบงเบปเป‰เบฒเบเปˆเบฝเบงเบเบฑเบšเบเบฒเบ™เบˆเบฑเบ”เบเบฒเบ™เบ‚เปเป‰เบกเบนเบ™, เบเบฒเบ™เบ—เปเบฒเบ‡เบฒเบ™เปเบฅเบฐเบ„เปˆเบฒเปƒเบŠเป‰เบˆเปˆเบฒเบเบ‚เบญเบ‡เบฅเบฐเบšเบปเบšเปƒเบ™เบกเบทเป‰เบ‚เป‰เบฒเบ‡เบซเบ™เป‰เบฒเปƒเบ™เบžเบฒเบเบ—เบตเบชเบญเบ‡เบ‚เบญเบ‡เบเบฒเบ™เปเบ›เบžเบฒเบชเบฒ, เปเบ•เปˆเบ•เบญเบ™เบ™เบตเป‰เบžเบงเบเป€เบฎเบปเบฒเป€เบŠเบตเบ™เบ—เบธเบเบ„เบปเบ™เป€เบ‚เบปเป‰เบฒเบกเบฒ. webinar เบชเบปเบ”เบŸเบฃเบต, เปƒเบ™เป„เบฅเบเบฐเบ—เบตเปˆเบ—เปˆเบฒเบ™เบˆเบฐเบชเบฒเบกเบฒเบ”เบฎเบฝเบ™เบฎเบนเป‰เปƒเบ™เบฅเบฒเบเบฅเบฐเบญเบฝเบ”เบเปˆเบฝเบงเบเบฑเบšเบซเบผเบฑเบเบชเบนเบ”, เป€เบŠเบฑเปˆเบ™เบ”เบฝเบงเบเบฑเบ™เบเบฑเบšเบ–เบฒเบกเบ„เปเบฒเบ–เบฒเบกเบเบฑเบšเบœเบนเป‰เบŠเปˆเบฝเบงเบŠเบฒเบ™เบ‚เบญเบ‡เบžเบงเบเป€เบฎเบปเบฒ - Egor Mateshuk (เบงเบดเบชเบฐเบงเบฐเบเบญเบ™เบ‚เปเป‰เบกเบนเบ™เบญเบฒเบงเบธเป‚เบช, MaximaTelecom).

เบญเปˆเบฒเบ™โ€‹เบ•เบทเปˆเบก:

เปเบซเบผเปˆเบ‡เบ‚เปเป‰เบกเบนเบ™: www.habr.com

เป€เบžเบตเปˆเบกเบ„เบงเบฒเบกเบ„เบดเบ”เป€เบซเบฑเบ™