俄罗斯人全年都会定期度假——新年假期、五一假期和其他较短的周末。 这也是 Steam 上连续马拉松、自发购买和销售的传统时间。 节前期间，零售和物流公司面临的压力越来越大：人们从网上商店订购礼物、支付运费、购买旅行机票并进行沟通。 日历上的需求高峰对于在线影院、游戏门户、视频托管和流媒体音乐服务来说也是一个很好的压力测试——它们在假期期间都会达到极限。
我们将以 Okko 在线影院为例，告诉您如何确保内容的不间断可用性，该影院依赖于 Linxdatacenter 数据中心的强大功能。
此前，为了应对季节性消费激增，购买了额外的设备用于本地部署，并且“有储备”。 然而，当“H时间”到来时，往往发现企业要么无法，要么没有时间自行应对服务器和存储系统的正确配置。 随着紧急情况的发展，根本不可能解决这些问题。 过了一段时间，大家有了一个认识：内容和在线服务的需求高峰在第三方资源的帮助下得到了完美的处理，这些资源可以使用即用即付的模式购买——按实际消耗的量付费。
如今，几乎所有预计假期期间资源需求激增（所谓的突发）的公司都会提前订购扩展通信通道容量。 那些在数据中心资源上部署应用程序和数据库的公司在假期高峰期间增加云中的计算能力，另外从数据中心订购必要的虚拟机、存储容量等。
如何在计算中不漏掉分数
为了应对峰值负载，提供商和客户之间的协调工作非常重要。 这项工作的要点包括准确预测负载激增的时间和数量、仔细规划和与数据中心同事以及内容提供商方面的 IT 专家团队的交互质量。
许多解决方案可帮助组织快速分配必要的资源，以确保您喜爱的电视剧的新剧集不会在平板电脑的屏幕上冻结。
- 首先，这些是工作负载平衡器：这些软件解决方案可以仔细监控服务器、存储系统和网络的负载水平，使您能够针对手头的任务优化每个系统的操作。 平衡器评估硬件和虚拟机的可用性水平，一方面防止系统性能牺牲，另一方面防止基础设施“过热”和速度减慢。 这样就保持了一定程度的储备资源，可以快速转移来解决紧急问题（视频内容门户的请求急剧增加、某种产品的订单增加等）。
- 其次，CDN。 该技术允许用户从最接近用户的地理点访问内容，从而无缓冲延迟地接收来自门户的内容。 此外，CDN消除了通道拥塞、连接中断、通道口丢包等对流量传输过程的不利影响。
全视奥科
让我们看一下 Okko 在线影院为假期做准备的示例，该影院使用我们位于莫斯科和圣彼得堡的网站。
据Okko技术总监Alexey Golubev介绍，在该公司，除了日历假期（旺季）外，还有一些主要电影上映的时段：
“每年节假日期间，Okko 的交通量比前一年大约增加一倍。 因此，如果去年新年季节的最大峰值负载为 80 Gbit/s，那么 2018/19 年我们预计将达到 160 Gbit/s——传统的双倍增长。 然而，我们收到了超过 200 Gbit/s 的数据！”
作为代号为“新年”的项目的一部分，Okko 总是在全年缓慢地为峰值负载做准备。 此前，Okko 使用自己的基础设施；该公司拥有自己的内容交付集群，使用自己的硬件和软件。 在这一年中，Okko 技术专家逐渐购买了新服务器并提高了集群的吞吐量，预计每年将增长一倍。 此外，还连接了新的上行链路和运营商 - 除了 Rostelecom、Megafon 和 MTS 等大型运营商之外，还连接了流量交换点和最小的运营商。 这种方法可以使用最短的路线向最大数量的客户提供服务。
去年，在分析了设备成本、扩容的人力成本，并与使用第三方CDN的成本进行比较后，Okko意识到是时候尝试混合分发模式了。 继元旦假期双倍增长后，客流量出现下滑，2019月份是客流量最低的季节。 而事实证明，此时你的设备是闲置的。 到了夏季，下降趋势趋于平稳，到了秋季，新的上升趋势开始。 因此，为了准备新的XNUMX年，Okko采取了不同的路线：他们修改了软件，使其不仅能够在自己身上分配负载，还能够在外部CDN（内容分发网络）上分配负载。 两个这样的 CDN 连接起来，多余的流量被“合并”到其中。 Okko 的 IT 基础设施的内部带宽已准备好承受同样的双倍增长，但为了防止资源溢出，合作伙伴 CDN 也做好了准备。
“不扩大 CDN 的决定为 Okko 节省了约 20% 的资本支出分配预算。 此外，该公司还通过将安装设备的工作转移到合作伙伴的肩上，节省了几个人月的时间。” ——阿列克谢·戈卢别夫评论道。
Okko 的分发集群（内部 CDN）在莫斯科和圣彼得堡的两个 Linx 数据中心站点实施。 提供内容及其缓存（分发节点）的完整镜像。 因此，莫斯科数据中心处理莫斯科和俄罗斯的几个地区，圣彼得堡数据中心处理俄罗斯西北部和其他地区。 平衡不仅在区域基础上进行，还取决于特定数据中心中节点的负载；还考虑了电影在缓存中的存在以及许多其他因素。
放大后的服务架构如图所示：
从物理上来说，服务和产品开发支持由圣彼得堡的大约十个机架和莫斯科的几个机架组成。 有几十台用于虚拟化的服务器和近两百台用于其他一切的“硬件”服务器 - 分发、服务支持和办公室自己的基础设施。 内容提供商在高峰负载期间与数据中心的交互与当前的工作没有什么不同。 所有通信仅限于向支持服务提出请求，以及在紧急情况下通过致电。
今天，我们比以往任何时候都更接近真正 100% 不间断的在线内容消费场景，因为实现这一点所需的所有技术都已经可用。 在线流媒体的发展非常迅速。 内容消费的合法模式越来越受欢迎：俄罗斯用户逐渐开始习惯他们需要为内容付费的事实。 此外，不仅适用于电影，还适用于互联网上的音乐、书籍和教育材料。 在这方面，提供最多样化的内容和最低的网络延迟是在线服务运营中最重要的标准。 而我们作为服务提供商的任务就是按时、有储备地满足资源需求。
来源： habr.com