Протягом року росіяни регулярно вирушають на свята – новорічні канікули, травневі та інші менш тривалі вихідні. А це традиційний час для серіальних марафонів, спонтанних покупок та розпродажів на Steam. У передсвятковий період підвищене навантаження зазнає ретейлу та логістичних компаній: люди замовляють подарунки в Інтернет-магазинах, оплачують їх доставку, купують квитки для поїздок, спілкуються. Календарні піки попиту є хорошим стрес-тестом і для онлайн-кінотеатрів, ігрових порталів, відео-хостингів та стрімінгових музичних сервісів – у свята всі вони працюють «на знос».
Розповідаємо як організовано забезпечення безперебійної доступності контенту на прикладі онлайн-кінотеатру Okko, який спирається у своїй роботі на потужності дата-центру Linxdatacenter.
Раніше під сезонні скачі споживання купувалося додаткове обладнання для локального розміщення, причому «із запасом». Однак, коли «Час» наставав, нерідко з'ясовувалося, що впоратися з правильним налаштуванням серверів і СГД самостійно компанії або не можуть, або не встигають. Вирішувати ці завдання під час розвитку позаштатних ситуацій просто не виходило. Згодом прийшло розуміння: піки попиту на контент і онлайн-сервіси чудово відпрацьовуються за допомогою ресурсів третьої сторони, які можна купувати за моделлю pay-as-you-go — оплата фактично споживаного обсягу.
Сьогодні практично всі компанії, які передбачають сплеск попиту на свої ресурси у свята (так званий burst), заздалегідь замовляють розширення пропускної спроможності каналів зв'язку. Ті компанії, які розмішують додатки та бази даних на ресурсах ЦОДу, під святкові піки нарощують обчислювальні потужності у хмарах, дозамовлюючи у дата-центрах необхідні віртуальні машини, обсяг СГД тощо.
Як не промахнутися у розрахунках
Для підготовки до пікових навантажень важлива скоординована робота провайдера та клієнта. Основними моментами в цій роботі можна назвати точний прогноз стрибка навантаження за термінами та обсягами, ретельне планування та якість взаємодії з колегами всередині ЦОДу, а також із командою ІТ-фахівців на стороні контент-провайдера.
Організувати швидке виділення ресурсів, необхідних для того, щоб нова серія улюбленого серіалу на екрані вашого планшета не підвисала, допомагає низку рішень.
- По-перше, це балансувальники робочих навантажень: це програмні рішення, які ретельно моніторять рівень завантаження серверів, СГД та мережі, дозволяючи оптимізувати роботу кожної системи під поставлене завдання. Балансувальники оцінюють рівень доступності як заліза, так і віртуальних машин, не дозволяючи просідати продуктивності систем з одного боку, і не даючи інфраструктурі перегріватися і гальмувати, з іншого. Таким чином, підтримується певний рівень запасу ресурсів, які можуть оперативно перекидатися на вирішення термінових завдань (різкий стрибок звернень до порталу з відео-контентом, зростання замовлень певного товару тощо).
- По-друге, CDN. Ця технологія дозволяє користувачам без затримок на буферизацію отримувати контент із порталу через доступ до нього із найближчої до користувача географічної точки. Крім того, CDN нівелює згубний вплив на процеси передачі трафіку, викликане перевантаженням каналів, розривами зв'язку, втратами пакетів на стиках каналів і т.д.
Всевидюче Okko
Розглянемо приклад підготовки до свят онлайн-кінотеатру Okko, який використовує наші майданчики у Москві та Санкт-Петербурзі.
За словами Олексія Голубєва, технічного директора Okko, у компанії, крім календарних свят (високого сезону), є періоди, коли виходять основні кіноновинки від мейджорів:
«Щороку у святковий сезон Okko зростає за обсягом трафіку приблизно вдвічі по відношенню до попереднього року. Так, якщо минулого новорічного сезону максимальним піковим навантаженням були 80 Гбіт/с, то в 2018/19 ми очікували 160 – традиційне зростання вдвічі. Однак, отримали понад 200 Гбіт/с!
Okko завжди готується до пікового навантаження неспішно протягом року в рамках проекту під кодовою назвою «Новий Рік». Раніше в Okko використовували власну інфраструктуру, у компанії є свій кластер доставки контенту, що роздає, на власному залозі і зі своїм же програмним забезпеченням. Протягом року технічні фахівці Okko поступово купували нові сервери, збільшували пропускну спроможність свого кластера, припускаючи річне зростання вдвічі. Додатково підключали нові аплінки та операторів – окрім великих гравців на кшталт «Ростелекому», «Мегафону» та МТС, також підключали і точки обміну трафіком, і найдрібніших операторів. Такий підхід дозволяв доставляти сервіс максимальній кількості клієнтів найкоротшим маршрутом.
Торік, проаналізувавши вартість обладнання, трудовитрат на розширення та порівнявши з вартістю використання сторонніх CDN, в Okko зрозуміли, що настав час спробувати гібридну модель роздачі. За двократним зростанням у новорічні канікули йде спад трафіку, а лютий – найнижчий сезон. І виходить, що своє обладнання простоює у цей час. До літа спад нівелюється, і вже до осіннього сезону починається новий підйом. Тому в рамках підготовки до нового 2019 Okko пішли іншим шляхом: допрацювали своє ПЗ, щоб вміти розподіляти навантаження не тільки на себе, але і на зовнішні CDN (мережа доставки контенту - Content Delivery Network). Було підключено два таких CDN, до яких «зливались» надлишки трафіку. Внутрішня пропускна спроможність ІТ-інфраструктури Okko готова була витримати це подвійне зростання, але на випадок, якщо відбудеться перебір ресурсів, були підготовлені партнерські CDN.
«Рішення не збільшувати свій CDN заощадило Okko близько 20% бюджету роздачі в CAPEX. Плюс компанія заощадила кілька людино-місяців, переклавши роботу з налаштування обладнання на плечі партнера». - Коментує Олексій Голубєв.
Роздаючий кластер (внутрішній CDN) в Okko реалізований на двох майданчиках Linxdatacenter у Москві та Санкт-Петербурзі. Забезпечено повне дзеркалювання та контенту, та його кешування (роздають ноди). Відповідно, московський дата-центр обробляє Москву і кілька областей Росії, а петербурзький - Північний Захід і частину території країни, що залишилася. Балансування відбувається не тільки за регіональною ознакою, але й залежно від завантаженості нід у конкретному дата-центрі, також враховується наявність фільму в кеші та інших факторів.
Укрупнена архітектура сервісу виглядає так:
Фізично обслуговування і підтримка розробки товару складаються з близько десяти стійок у Петербурзі та кількох стійок у Москві. Є пара десятків серверів під віртуалізацію та майже двісті «залізних» серверів для решти – роздачі, підтримки сервісу та власної інфраструктури офісу. Взаємодія контент-провайдера з ЦОД в період пікових навантажень ніяк не відрізняється від поточної роботи. Все спілкування обмежується заявкою до служби підтримки, а у разі позаштатної ситуації – за дзвінком.
Сьогодні ми, як ніколи, близькі до цього, на всі 100% безперебійного сценарію споживання контенту в онлайні, оскільки всі необхідні для цього технології вже доступні. Розвиток онлайн-стримінгу відбувається дуже швидко. Зростає популярність легальних моделей споживання контенту: російські користувачі починають поступово звикати до того, що потрібно платити за контент. Причому, не лише за кіно, а й за музику, книги, освітні матеріали у мережі. І у зв'язку доставка найбільш різноманітного контенту і з найменшими мережними затримками - найважливіший критерій у роботі онлайн-сервісів. І наше завдання як сервіс-провайдера – закрити потреби в ресурсах вчасно та із запасом.
Джерело: habr.com