Sepanjang tahun, orang Rusia rutin pergi berlibur - liburan Tahun Baru, liburan Mei, dan akhir pekan pendek lainnya. Dan ini adalah waktu tradisional untuk serial maraton, pembelian dan penjualan spontan di Steam. Selama periode menjelang liburan, perusahaan ritel dan logistik berada di bawah tekanan yang meningkat: orang memesan hadiah dari toko online, membayar pengirimannya, membeli tiket perjalanan, dan berkomunikasi. Puncak permintaan kalender juga merupakan ujian stres yang baik untuk bioskop online, portal game, hosting video, dan layanan streaming musik - semuanya bekerja hingga batas kemampuannya selama liburan.
Kami akan memberi tahu Anda cara memastikan ketersediaan konten tanpa gangguan menggunakan contoh bioskop online Okko, yang mengandalkan kekuatan pusat data Linxdatacenter.
Sebelumnya, sebagai respons terhadap lonjakan konsumsi musiman, peralatan tambahan dibeli untuk penempatan lokal, dan “dengan cadangan.” Namun, ketika “Waktu H” tiba, sering kali perusahaan tidak mampu atau tidak punya waktu untuk menangani sendiri konfigurasi server dan sistem penyimpanan yang benar. Masalah-masalah ini tidak dapat diselesaikan seiring dengan berkembangnya situasi darurat. Setelah beberapa saat, sebuah pemahaman muncul: puncak permintaan akan konten dan layanan online ditangani dengan sempurna dengan bantuan sumber daya pihak ketiga, yang dapat dibeli menggunakan model bayar sesuai pemakaian - pembayaran untuk volume aktual yang dikonsumsi.
Saat ini, hampir semua perusahaan yang memperkirakan lonjakan permintaan sumber daya mereka selama liburan (yang disebut ledakan) memesan terlebih dahulu perluasan kapasitas saluran komunikasi. Perusahaan-perusahaan yang menyebarkan aplikasi dan database pada sumber daya pusat data meningkatkan daya komputasi di cloud selama puncak liburan, selain itu memesan mesin virtual yang diperlukan, kapasitas penyimpanan, dll. dari pusat data.
Bagaimana tidak meleset dari sasaran dalam perhitungan
Untuk bersiap menghadapi beban puncak, kerja terkoordinasi antara penyedia dan klien adalah penting. Poin utama dalam pekerjaan ini mencakup perkiraan lonjakan beban yang akurat dalam hal waktu dan volume, perencanaan yang cermat dan kualitas interaksi dengan rekan kerja di pusat data, serta dengan tim spesialis TI di sisi penyedia konten.
Sejumlah solusi membantu mengatur alokasi cepat sumber daya yang diperlukan untuk memastikan episode baru serial TV favorit Anda tidak terhenti di layar tablet Anda.
- Pertama, ini adalah penyeimbang beban kerja: ini adalah solusi perangkat lunak yang secara cermat memantau tingkat beban server, sistem penyimpanan, dan jaringan, memungkinkan Anda mengoptimalkan pengoperasian setiap sistem untuk tugas yang ada. Penyeimbang mengevaluasi tingkat ketersediaan perangkat keras dan mesin virtual, mencegah pengorbanan kinerja sistem di satu sisi, dan mencegah infrastruktur “terlalu panas” dan melambat, di sisi lain. Dengan cara ini, tingkat sumber daya cadangan tertentu dipertahankan, yang dapat dengan cepat ditransfer untuk menyelesaikan masalah yang mendesak (lonjakan tajam dalam permintaan ke portal dengan konten video, peningkatan pesanan untuk produk tertentu, dll.).
- Kedua, CDN. Teknologi ini memungkinkan pengguna menerima konten dari portal tanpa penundaan buffering dengan mengaksesnya dari titik geografis terdekat dengan pengguna. Selain itu, CDN menghilangkan dampak buruk pada proses transmisi lalu lintas yang disebabkan oleh kemacetan saluran, putusnya koneksi, kehilangan paket di persimpangan saluran, dll.
Okko yang serba bisa
Mari kita lihat contoh bioskop online Okko yang mempersiapkan liburan menggunakan situs kami di Moskow dan St.
Menurut Alexei Golubev, direktur teknis Okko, di perusahaan, selain hari libur kalender (high season), ada periode ketika rilis film besar dari jurusan besar dirilis:
“Setiap tahun selama musim liburan, volume lalu lintas Okko meningkat sekitar dua kali lipat dibandingkan tahun sebelumnya. Jadi, jika pada musim Tahun Baru lalu beban puncak maksimum adalah 80 Gbit/dtk, maka pada tahun 2018/19 kami memperkirakan 160 – peningkatan dua kali lipat yang biasanya terjadi. Namun, kami menerima lebih dari 200 Gbit/dtk!”
Okko selalu mempersiapkan beban puncak secara perlahan, sepanjang tahun, sebagai bagian dari proyek berkode “Tahun Baru”. Sebelumnya, Okko menggunakan infrastrukturnya sendiri; perusahaan ini memiliki kluster pengiriman kontennya sendiri, dengan perangkat kerasnya sendiri, dan dengan perangkat lunaknya sendiri. Sepanjang tahun ini, spesialis teknis Okko secara bertahap membeli server baru dan meningkatkan throughput cluster mereka, mengantisipasi pertumbuhan tahunan dua kali lipat. Selain itu, uplink dan operator baru telah terhubung - selain pemain besar seperti Rostelecom, Megafon dan MTS, titik pertukaran lalu lintas dan operator terkecil juga terhubung. Pendekatan ini memungkinkan untuk memberikan layanan kepada jumlah klien maksimum dengan menggunakan rute terpendek.
Tahun lalu, setelah menganalisis biaya peralatan, biaya tenaga kerja untuk ekspansi dan membandingkannya dengan biaya penggunaan CDN pihak ketiga, Okko menyadari bahwa sudah waktunya untuk mencoba model distribusi hybrid. Menyusul pertumbuhan ganda selama liburan Tahun Baru, terjadi penurunan lalu lintas, dan bulan Februari adalah musim terendah. Dan ternyata peralatan Anda sedang menganggur saat ini. Pada musim panas, penurunannya mulai mendatar, dan pada musim gugur, kenaikan baru dimulai. Oleh karena itu, dalam persiapan menyambut tahun baru 2019, Okko mengambil jalan berbeda: mereka memodifikasi perangkat lunaknya agar dapat mendistribusikan beban tidak hanya pada dirinya sendiri, tetapi juga pada CDN eksternal (Content Delivery Network). Dua CDN tersebut terhubung, di mana kelebihan lalu lintas “digabung”. Bandwidth internal infrastruktur TI Okko siap untuk menahan pertumbuhan ganda yang sama, namun jika terjadi kelebihan sumber daya, CDN mitra telah siap.
“Keputusan untuk tidak memperluas CDN-nya menghemat sekitar 20% anggaran distribusi Okko dalam CAPEX. Ditambah lagi, perusahaan menghemat beberapa bulan kerja dengan mengalihkan pekerjaan menyiapkan peralatan ke pundak mitra.” — Komentar Alexei Golubev.
Cluster distribusi (CDN internal) di Okko diimplementasikan di dua situs Linxdatacenter di Moskow dan St. Petersburg. Pencerminan penuh atas konten dan cachingnya (node pendistribusian) disediakan. Oleh karena itu, pusat data Moskow memproses Moskow dan beberapa wilayah di Rusia, dan pusat data St. Petersburg memproses wilayah Barat Laut dan seluruh negara. Penyeimbangan terjadi tidak hanya berdasarkan regional, tetapi juga tergantung pada beban pada node di pusat data tertentu, keberadaan film dalam cache dan sejumlah faktor lainnya juga diperhitungkan.
Arsitektur layanan yang diperbesar terlihat seperti ini pada diagram:
Secara fisik, dukungan pengembangan layanan dan produk terdiri dari sekitar sepuluh rak di St. Petersburg dan beberapa rak di Moskow. Ada beberapa lusin server untuk virtualisasi dan hampir dua ratus server “perangkat keras” untuk segala hal lainnya - distribusi, dukungan layanan, dan infrastruktur kantor itu sendiri. Interaksi penyedia konten dengan pusat data selama periode beban puncak tidak berbeda dengan pekerjaan saat ini. Semua komunikasi terbatas pada permintaan ke layanan dukungan, dan dalam keadaan darurat, melalui telepon.
Saat ini, kita semakin dekat dengan skenario konsumsi konten online yang 100% tanpa gangguan, karena semua teknologi yang diperlukan untuk hal ini sudah tersedia. Perkembangan streaming online terjadi dengan sangat pesat. Popularitas model konsumsi konten legal semakin meningkat: Pengguna Rusia secara bertahap mulai terbiasa dengan kenyataan bahwa mereka harus membayar untuk konten. Apalagi tidak hanya untuk bioskop, tetapi juga untuk musik, buku, dan materi pendidikan di Internet. Dan dalam hal ini, pengiriman konten yang paling beragam dan dengan penundaan jaringan terendah merupakan kriteria terpenting dalam pengoperasian layanan online. Dan tugas kita sebagai penyedia layanan adalah memenuhi kebutuhan sumber daya tepat waktu dan dengan cadangan.
Sumber: www.habr.com