Under the year, Swedes regularly go on holidays â New Year vacations, May holidays, and other shorter weekends. This is a traditional time for binge-watching series, spontaneous purchases, and sales on Steam. In the pre-holiday period, retail and logistics companies experience increased demand: people order gifts from online stores, pay for delivery, buy tickets for trips, and communicate. Calendar peaks in demand serve as a good stress test for online cinemas, gaming portals, video hosting services, and streaming music services â during the holidays, all of them operate "at full capacity."
We explain how uninterrupted content availability is ensured, using the example of the online cinema Okko, which relies on the capabilities of the Linxdatacenter data center in its operations.
Previously, additional equipment for local hosting was purchased during seasonal spikes in consumption, often "with a reserve." However, when "Time X" arrived, it often turned out that companies were either unable to handle the proper server and storage setup on their own or did not have enough time. Addressing these issues in the midst of developing emergency situations simply did not work out. Over time, it was understood that peaks in content demand and online services could be effectively managed using third-party resources, which could be purchased on a pay-as-you-go basis â paying for the actually consumed volume.
Today, almost all companies that anticipate a surge in demand for their resources during holidays (so-called bursts) proactively order an increase in bandwidth. Those companies that host applications and databases on data center resources scale up their computing power in the cloud during holiday peaks, ordering the necessary virtual machines, storage capacity, etc., in data centers. Â
How to get calculations right
To prepare for peak loads, coordinated work between the provider and the client is crucial. The main points in this work include accurate forecasting of load spikes in terms of timing and volume, careful planning, and quality interaction with colleagues within the data center, as well as with the IT specialist team on the content provider's side.
Organisera snabb tilldelning av de resurser som behövs för att den nya sÀsongen av din favoritserie inte ska hacka pÄ din surfplatta, vilket stöds av en rad olika lösningar.
Â
- För det första, lastbalanserare: dessa mjukvarulösningar övervakar noggrant belastningsnivÄn pÄ servrar, lagringssystem och nÀtverk, vilket möjliggör optimering av varje systems arbetsbelastning för den uppgift som ska utföras. Lastbalanserarna bedömer tillgÀnglighetsnivÄn för bÄde "hÄrdvara" och virtuella maskiner, vilket förhindrar att systemens prestanda sjunker frÄn ena sidan, och förhindrar att infrastrukturen "överbryggas" eller saktar ner frÄn den andra. Detta upprÀtthÄller en viss nivÄ av resurser som snabbt kan omallokeras för att hantera akuta uppgifter (som en kraftig ökning av begÀrningar till en videoplattform, en ökning av bestÀllningar av en viss produkt och liknande).
- För det andra, CDN. Denna teknik gör det möjligt för anvÀndare att ta emot innehÄll frÄn portalen utan fördröjning och med minimerad buffring genom Ätkomst frÄn den geografiska punkt som ligger nÀrmast anvÀndaren. Dessutom mildrar CDN de negativa effekterna pÄ trafiköverföringsprocesserna som orsakas av överbelastning av kanaler, förbindningsbrott, paketförluster vid kopplingar av kanaler etc.
Allseende Okko
LÄt oss titta pÄ exemplet av förberedelserna inför helgerna av online-bio Okko, som anvÀnder vÄra plattformar i Moskva och Sankt Petersburg.
Enligt Alexey Golubev, teknisk direktör för Okko, har företaget, förutom kalenderhelger (högsÀsong), perioder nÀr huvudfilmpremiÀrer frÄn stora studior slÀpps:
"Varje Ă„r under festperioden vĂ€xer Okko mĂ€ngden trafik med ungefĂ€r det dubbla jĂ€mfört med föregĂ„ende Ă„r. SĂ„, om det under förra nyĂ„rshelgen var en maximal toppbelastning pĂ„ 80 Gbit/s, sĂ„ förvĂ€ntade vi oss 160 under 2018/19 â en traditionell ökning med det dubbla. Men vi fick över 200 Gbit/s!"
Okko förbereder sig alltid lugnt för toppbelastning under Ă„ret, i ramen för ett projekt med kodnamnet "NyĂ„r". Tidigare anvĂ€nde Okko sin egen infrastruktur, företaget har sin egen distributionskluster för innehĂ„llleverans, pĂ„ egen hĂ„rdvara och med sin egen programvara. Under Ă„ret köpte Okko:s tekniska experter successivt nya servrar, ökade kapaciteten i sitt kluster med förvĂ€ntad Ă„rlig tillvĂ€xt pĂ„ dubbelt sĂ„ mycket. De kopplade Ă€ven nya uplinks och operatörer â förutom stora aktörer som «Rostelecom», «Megafon» och MTS, kopplades Ă€ven trafikbytespunkter och mindre operatörer. Denna metod gjorde det möjligt att leverera tjĂ€nsten till maximalt antal kunder via de kortaste vĂ€garna.
Förra Äret, efter att ha analyserat kostnaden för utrustning och arbetsinsats för att utöka, samt jÀmfört med kostnaden för att anvÀnda externa CDN, insÄg Okko att det var dags att prova en hybridmodell för distribution. Efter en tvÄ gÄnger ökning under nyÄrshelgen följde en nedgÄng i trafiken, och februari Àr den lÀgsta sÀsongen. SÄ det visade sig att deras egen utrustning stod stilla under den tiden. Vid sommaren mildrades nedgÄngen, och fram emot hösten började en ny ökning. DÀrför, som förberedelse inför det nya 2019, valde Okko en annan vÀg: de förbÀttrade sin programvara för att kunna fördela belastningen inte bara pÄ sig sjÀlva utan ocksÄ pÄ externa CDN (Content Delivery Network). TvÄ sÄdana CDN kopplades in för att avlasta överskottet av trafik. Den interna kapaciteten i Okko:s IT-infrastruktur var redo för den dubbla tillvÀxten, men för att vara förberedda om resurserna skulle bli överbelastade, hade de förberett partnerskaps-CDN.
«Beslutet att inte bygga ut sitt egna CDN sparade Okko runt 20% av budgeten för distribution i CAPEX. Dessutom sparade företaget flera personmĂ„nad, genom att lĂ€gga över arbetet med att konfigurera utrustningen pĂ„ en partner.» â kommenterar Alexey Golubev.
Distributionsklustret (internt CDN) hos Okko implementerades pÄ tvÄ platser, Linxdatacenter i Moskva och Sankt Petersburg. FullstÀndig spegling av bÄde innehÄll och dess cache (distributionsnoder) sÀkerstÀlldes. DÀrmed hanterar datacentret i Moskva Moskva och flera regioner i Ryssland, medan det i Sankt Petersburg hanterar NordvÀstra och resten av landet. Lastbalanseringen sker inte bara baserat pÄ regionala faktorer, utan Àven beroende pÄ belastningen pÄ noderna i det specifika datacentret, med hÀnsyn till filmens tillgÀnglighet i cachen och ett antal andra faktorer.
Den övergripande arkitekturen av tjÀnsten ser i diagrammet ut sÄ hÀr:
Den fysiska servicen och supporten av produktutvecklingen bestĂ„r av ungefĂ€r tio rack i Sankt Petersburg och flera rack i Moskva. Det finns ett par dussin servrar för virtualisering och nĂ€stan tvĂ„hundra "fysiska" servrar för allt annat â distribution, support av tjĂ€nster och egen kontorsinfrastruktur. Interaktionen mellan innehĂ„llsleverantören och datacentret under peakbelastningar skiljer sig inte frĂ„n det aktuella arbetet. All kommunikation begrĂ€nsas till en supportbegĂ€ran och vid en nödsituation sker det via telefon.
Idag Àr vi, som aldrig förr, nÀra ett verkligt, 100% avbrottsfritt scenarie för onlineinnehÄll, eftersom all nödvÀndig teknik redan finns tillgÀnglig. Utvecklingen av online-streaming sker mycket snabbt. Populariteten för lagliga modeller för konsumtion av innehÄll vÀxer: ryska anvÀndare börjar gradvis vÀnja sig vid att betala för innehÄll. Inte bara för film, utan ocksÄ för musik, böcker och utbildningsmaterial online. I detta avseende Àr leverans av sÄ varierat innehÄll som möjligt med minimala nÀtverksfördröjningar det viktigaste kriteriet för online-tjÀnster. VÄrt uppdrag som tjÀnsteleverantör Àr att möta resursbehov i tid och med marginal.
KĂ€lla: habr.com
