W ciągu roku Rosjanie regularnie wybierają się na święta – noworoczne ferie, majówkę i inne krótsze wolne dni. To tradycyjny czas na maratony serialowe, spontaniczne zakupy i wyprzedaże na Steam. W okresie przedświątecznym zwiększone obciążenie przeżywają detaliczni sprzedawcy i firmy logistyczne: ludzie zamawiają prezenty w sklepach internetowych, opłacają dostawę, kupują bilety na podróże, komunikują się. Kalendarzowe szczyty popytu są doskonałym testem na stres także dla internetowych kin, portali gier, serwisów hostingowych wideo i muzycznych serwisów streamingowych – w czasie świąt wszystkie one pracują „na pełnych obrotach”.
Opowiemy, jak zorganizowane jest zapewnienie nieprzerwanego dostępu do treści na przykładzie internetowego kina Okko, które w swojej działalności opiera się na mocy data center Linxdatacenter.
Wcześniej na sezonowe skoki zużycia kupowano dodatkowy sprzęt do lokalnego umiejscowienia, i to „z zapasem”. Jednak gdy nastał „Czas X”, często okazywało się, że firmy nie potrafią lub nie zdążają same poradzić sobie z odpowiednią konfiguracją serwerów i systemów pamięci masowej. Rozwiązywanie tych problemów w trakcie rozwoju sytuacji kryzysowych po prostu nie było możliwe. Z czasem przyszło zrozumienie: szczyty popytu na treści i usługi online świetnie obsługiwane są przy pomocy zasobów stron trzecich, które można nabywać w modelu pay-as-you-go — opłata za faktycznie zużywaną ilość.
Dziś praktycznie wszystkie firmy, które przewidują wzrost popytu na swoje zasoby w czasie świąt (tzw. burst), z wyprzedzeniem zamawiają zwiększenie przepustowości kanałów komunikacyjnych. Firmy, które umieszczają aplikacje i bazy danych na zasobach centrum danych, w okresie świątecznym zwiększają moce obliczeniowe w chmurach, zamawiając w data center niezbędne maszyny wirtualne, objętość systemów pamięci masowej itd.
Jak nie pomylić się w obliczeniach
Aby przygotować się do szczytowych obciążeń, ważna jest skoordynowana praca dostawcy i klienta. Główne elementy tej współpracy można określić jako dokładne prognozowanie skoku obciążenia pod względem czasu i objętości, staranne planowanie oraz jakość współpracy z kolegami w centrum danych, a także z zespołem specjalistów IT po stronie dostawcy treści.
Szybkie przydzielanie zasobów potrzebnych do tego, aby nowa seria ulubionego serialu na ekranie Twojego tabletu nie zacinała się, ułatwia szereg rozwiązań.
- Po pierwsze, to load balancery: są to rozwiązania programowe, które dokładnie monitorują poziom obciążenia serwerów, storna oraz sieci, pozwalając optymalizować działanie każdego systemu w zależności od postawionego zadania. Load balancery oceniają poziom dostępności zarówno sprzętu, jak i maszyn wirtualnych, zapobiegając spadkom wydajności systemów z jednej strony, oraz nie pozwalając infrastrukturze na 'przegrzanie' i spowolnienie z drugiej. W ten sposób utrzymywany jest odpowiedni poziom zapasu zasobów, które mogą być szybko przenoszone do rozwiązywania pilnych zadań (nagły wzrost zapytań do portalu z wideo, wzrost zamówień na dany towar itp.).
- Po drugie, CDN. Ta technologia pozwala użytkownikom na bezopóźnione odbieranie treści z portalu poprzez dostęp do niego z najbliższego geograficznie miejsca użytkownika. Ponadto, CDN minimalizuje negatywny wpływ na procesy przesyłania ruchu spowodowany przeciążeniem łączy, zerwaniem połączeń, utratą pakietów na skrzyżowaniach łączy itp.
Wszechwiedzące Okko
Przyjrzyjmy się przykładowi przygotowania do świąt w internetowym kinie Okko, które korzysta z naszych platform w Moskwie i Petersburgu.
Według słów Aleksieja Gołubiewa, dyrektora technicznego Okko, w firmie, oprócz kalendarzowych świąt (szczytu sezonu), są okresy, kiedy premierowe filmy głównych studiów są wprowadzane na rynek:
„Każdego roku w sezonie świątecznym Okko zwiększa swój ruch prawie dwukrotnie w porównaniu do roku poprzedniego. Tak więc, jeśli w zeszłym sezonie noworocznym maksymalne obciążenie wynosiło 80 Gbit/s, to w 2018/19 spodziewaliśmy się 160 - tradycyjny wzrost o połowę. Jednak osiągnęliśmy więcej niż 200 Gbit/s!”
Okko zawsze przygotowuje się do szczytowego obciążenia powoli, przez cały rok, w ramach projektu pod kodową nazwą 'Nowy Rok'. W przeszłości Okko korzystało z własnej infrastruktury, ma własny klaster dystrybucji treści, działający na własnym sprzęcie i z własnym oprogramowaniem. Przez cały rok technicy Okko systematycznie robili zakupy. nowe serwery, zwiększając przepustowość swojego klastra, zakładając roczny wzrost o dwa razy. Dodatkowo podłączano nowe uplinki i operatorów – oprócz dużych graczy takich jak „Rostelecom”, „Megafon” i MTS, dołączano również punkty wymiany ruchu oraz najmniejszych operatorów. Takie podejście pozwalało dostarczać usługę maksymalnej liczbie klientów najkrótszą drogą.
W zeszłym roku, analizując koszty sprzętu, nakład pracy na rozszerzenie oraz porównując to z kosztami korzystania z zewnętrznych CDN, w Okko doszli do wniosku, że nadszedł czas na wypróbowanie hybrydowego modelu dostarczania. Po dwukrotnym wzroście w okresie noworocznym następuje spadek ruchu, a luty jest najniższym sezonem. Okazuje się więc, że ich własny sprzęt w tym czasie pozostaje niewykorzystany. Do lata spadek się niweluje i przed sezonem jesiennym rozpoczyna się nowy wzrost. Dlatego w ramach przygotowań do nowego roku 2019 Okko obrało inną drogę: dopracowało swoje oprogramowanie, aby móc rozdzielać obciążenie nie tylko na siebie, ale również na zewnętrzne CDN (sieci dostarczania treści). Podłączono dwa takie CDN, do których „przekierowywano” nadmiar ruchu. Wewnętrzna przepustowość infrastruktury IT Okko była gotowa na ten podwójny wzrost, ale na wypadek, gdyby doszło do nadmiaru zasobów, przygotowano partnerów CDN.
„Decyzja o niepowiększaniu własnego CDN zaoszczędziła Okko około 20% budżetu na dystrybucję w CAPEX. Ponadto firma zaoszczędziła kilka osób-miesięcy, przekładając pracę nad konfiguracją sprzętu na ramiona partnera.” — komentuje Alexey Golubev.
Klastrowa architektura dystrybucji (wewnętrzny CDN) w Okko została zrealizowana w dwóch lokalizacjach Linxdatacenter w Moskwie i Petersburgu. Zapewniono pełne mirrorowanie zarówno treści, jak i jej cache'owania (węzły dystrybucyjne). Odpowiednio, moskiewskie centrum danych obsługuje Moskwę i kilka obszarów Rosji, a petersburskie – Północny Zachód i pozostałą część kraju. Równoważenie obciążenia odbywa się nie tylko w zależności od regionu, ale także w zależności od obciążenia węzłów w danym centrum danych, uwzględnia się także dostępność filmu w cache i szereg innych czynników.
Uproszczona architektura usługi wygląda na schemacie tak:
Fizyczna obsługa i wsparcie w zakresie rozwoju produktu składają się z około dziesięciu serwerów w Petersburgu i kilku w Moskwie. Jest kilka dziesiątek serwerów do wirtualizacji oraz prawie dwieście „fizycznych” serwerów do wszystkiego innego – dystrybucji, wsparcia serwisu i wewnętrznej infrastruktury biura. Interakcja dostawcy treści z centrum danych w czasie szczytowych obciążeń nie różni się od bieżącej pracy. Cała komunikacja ogranicza się do zgłoszenia do obsługi klienta, a w przypadku sytuacji awaryjnej – do telefonu.
Dziś, jak nigdy dotąd, jesteśmy blisko prawdziwego, w 100% niezawodnego scenariusza konsumpcji treści online, ponieważ wszystkie niezbędne technologie są już dostępne. Rozwój streamingu online postępuje bardzo szybko. Rosnąca popularność legalnych modeli konsumpcji treści: rosyjscy użytkownicy stopniowo przyzwyczajają się do tego, że trzeba płacić za treści. Dotyczy to nie tylko filmów, ale także muzyki, książek, materiałów edukacyjnych w sieci. Dlatego też dostawa najbardziej zróżnicowanych treści z najmniejszymi opóźnieniami sieciowymi staje się kluczowym kryterium w pracy serwisów online. Naszym zadaniem jako dostawcy usług jest zaspokojenie potrzeb w zakresie zasobów na czas i z zapasem.
Źródło: habr.com
