सिस्टम पर बढ़े हुए भार को कैसे झेलें: हम ब्लैक फ्राइडे के लिए बड़े पैमाने पर तैयारियों के बारे में बात करते हैं

हे हबर!

2017 में, ब्लैक फ्राइडे के दौरान, लोड लगभग डेढ़ गुना बढ़ गया, और हमारे सर्वर अपनी सीमा पर थे। वर्ष के दौरान, ग्राहकों की संख्या में काफी वृद्धि हुई है, और यह स्पष्ट हो गया है कि सावधानीपूर्वक प्रारंभिक तैयारी के बिना, प्लेटफ़ॉर्म 2018 के भार का सामना नहीं कर सकता है।

हमने सबसे महत्वाकांक्षी लक्ष्य निर्धारित किया: हम किसी भी, यहां तक ​​कि सबसे शक्तिशाली, गतिविधि के लिए पूरी तरह से तैयार रहना चाहते थे और पूरे वर्ष अग्रिम रूप से नई क्षमताओं को लॉन्च करना शुरू कर दिया।

हमारे सीटीओ एंड्री चिज़ (chizh_andre) बताता है कि हमने ब्लैक फ्राइडे 2018 के लिए कैसे तैयारी की, गिरावट से बचने के लिए हमने क्या उपाय किए, और निश्चित रूप से, ऐसी सावधानीपूर्वक तैयारी के परिणाम।

आज मैं ब्लैक फ्राइडे 2018 की तैयारियों के बारे में बात करना चाहता हूं। अब क्यों, जब अधिकांश प्रमुख बिक्री हमारे पीछे हैं? हमने बड़े पैमाने पर होने वाले आयोजनों से लगभग एक साल पहले तैयारी शुरू कर दी थी, और परीक्षण और त्रुटि के माध्यम से हमें इष्टतम समाधान मिला। हम अनुशंसा करते हैं कि आप पहले से ही गर्म मौसम का ध्यान रखें और उन घोटालों को रोकें जो सबसे अनुचित समय पर सामने आ सकते हैं।
यह सामग्री उन सभी के लिए उपयोगी होगी जो ऐसे शेयरों से अधिकतम लाभ कमाना चाहते हैं, क्योंकि मुद्दे का तकनीकी पक्ष यहां विपणन पक्ष से कमतर नहीं है।

बड़ी बिक्री पर यातायात की विशेषताएं

आम धारणा के विपरीत, ब्लैक फ्राइडे साल में सिर्फ एक दिन नहीं, बल्कि लगभग पूरा सप्ताह होता है: पहला डिस्काउंट ऑफर बिक्री से 7-8 दिन पहले आता है। वेबसाइट ट्रैफ़िक पूरे सप्ताह सुचारू रूप से बढ़ना शुरू हो जाता है, शुक्रवार को अपने चरम पर पहुँच जाता है और शनिवार को स्टोर के नियमित स्तर तक काफी तेज़ी से गिरता है।

इस पर विचार करना महत्वपूर्ण है: ऑनलाइन स्टोर सिस्टम में किसी भी "मंदी" के प्रति विशेष रूप से संवेदनशील हो जाते हैं। इसके अलावा, हमारी ईमेल न्यूज़लेटर लाइन में भी सबमिशन की संख्या में उल्लेखनीय वृद्धि देखी गई।

ब्लैक फ्राइडे को बिना किसी दुर्घटना के मनाना हमारे लिए रणनीतिक रूप से महत्वपूर्ण है, क्योंकि... वेबसाइटों और स्टोर न्यूज़लेटर्स की सबसे महत्वपूर्ण कार्यक्षमता प्लेटफ़ॉर्म के संचालन पर निर्भर करती है, अर्थात्:

• उत्पाद अनुशंसाओं को ट्रैक करना और जारी करना,
• संबंधित सामग्री जारी करना (उदाहरण के लिए, अनुशंसा ब्लॉकों के डिज़ाइन की छवियां, जैसे तीर, लोगो, आइकन और अन्य दृश्य तत्व),
• आवश्यक आकार की उत्पाद छवियां प्रदान करना (इन उद्देश्यों के लिए हमारे पास "ImageResizer" है - एक सबसिस्टम जो स्टोर सर्वर से एक छवि डाउनलोड करता है, इसे आवश्यक आकार में संपीड़ित करता है और, कैशिंग सर्वर के माध्यम से, प्रत्येक उत्पाद के लिए आवश्यक आकार की छवियां तैयार करता है। प्रत्येक अनुशंसा ब्लॉक)।

दरअसल, ब्लैक फ्राइडे 2019 के दौरान सर्विस पर लोड 40% यानी 5% बढ़ गया। रिटेल रॉकेट सिस्टम द्वारा ऑनलाइन स्टोर साइटों पर ट्रैक और संसाधित की जाने वाली घटनाओं की संख्या प्रति सेकंड 8 से XNUMX हजार अनुरोधों तक बढ़ गई है। इस तथ्य के कारण कि हम अधिक गंभीर भार के लिए तैयारी कर रहे थे, हम इस तरह के उछाल से आसानी से बच गए।

सामान्य प्रशिक्षण

ब्लैक फ्राइडे विशेष रूप से सभी खुदरा और ई-कॉमर्स के लिए एक व्यस्त समय है। इस समय उपयोगकर्ताओं की संख्या और उनकी गतिविधि काफी बढ़ रही है, इसलिए हम, हमेशा की तरह, इस व्यस्त समय के लिए पूरी तरह से तैयार हैं। आइए यहां इस तथ्य को जोड़ें कि हमारे पास न केवल रूस में, बल्कि यूरोप में भी कई ऑनलाइन स्टोर जुड़े हुए हैं, जहां उत्साह बहुत अधिक है, और हमें जुनून का स्तर ब्राजीलियाई श्रृंखला से भी बदतर मिलता है। बढ़े हुए भार के लिए पूरी तरह तैयार रहने के लिए क्या करने की आवश्यकता है?

सर्वरों के साथ कार्य करना

सबसे पहले, यह पता लगाना आवश्यक था कि सर्वर की शक्ति बढ़ाने के लिए हमें वास्तव में क्या चाहिए। अगस्त में ही, हमने विशेष रूप से ब्लैक फ्राइडे के लिए नए सर्वर का ऑर्डर देना शुरू कर दिया - कुल मिलाकर हमने 10 अतिरिक्त मशीनें जोड़ीं। नवंबर तक वे पूरी तरह युद्ध में थे।

उसी समय, कुछ बिल्ड मशीनों को एप्लिकेशन सर्वर के रूप में उपयोग के लिए पुनः इंस्टॉल किया गया था। हमने तुरंत उन्हें अलग-अलग कार्यों का उपयोग करने के लिए तैयार किया: सिफारिशें जारी करने और ImageResizer सेवा दोनों के लिए, ताकि लोड के प्रकार के आधार पर, उनमें से प्रत्येक का उपयोग इन भूमिकाओं में से एक के लिए किया जा सके। सामान्य मोड में, एप्लिकेशन और ImageResizer सर्वर में स्पष्ट रूप से परिभाषित कार्य होते हैं: पहला अनुशंसाएँ जारी करता है, दूसरा ऑनलाइन शॉपिंग वेबसाइटों पर पत्रों और अनुशंसा ब्लॉकों के लिए छवियों की आपूर्ति करता है। ब्लैक फ्राइडे की तैयारी में, डाउनलोड के प्रकार के आधार पर उनके बीच ट्रैफ़िक को संतुलित करने के लिए सभी दोहरे उद्देश्य वाले सर्वर बनाने का निर्णय लिया गया।

फिर हमने काफ्का (अपाचे काफ्का) के लिए दो बड़े सर्वर जोड़े और 5 शक्तिशाली मशीनों का एक समूह प्राप्त किया। दुर्भाग्य से, सब कुछ उतना सुचारू रूप से नहीं चला जितना हम चाहते थे: डेटा सिंक्रनाइज़ेशन प्रक्रिया के दौरान, दो नई मशीनों ने नेटवर्क चैनल की पूरी चौड़ाई पर कब्जा कर लिया, और हमें तत्काल यह पता लगाना था कि जोड़ने की प्रक्रिया को जल्दी और सुरक्षित रूप से कैसे पूरा किया जाए। संपूर्ण बुनियादी ढांचा। इस समस्या को हल करने के लिए, हमारे प्रशासकों को बहादुरी से अपने सप्ताहांत का बलिदान देना पड़ा।

डेटा के साथ काम करना

सर्वर के अलावा, हमने लोड को हल्का करने के लिए फ़ाइलों को अनुकूलित करने का निर्णय लिया और हमारे लिए एक बड़ा कदम स्थिर फ़ाइलों का अनुवाद था। सभी स्थिर फ़ाइलें जो पहले सर्वर पर होस्ट की गई थीं, उन्हें S3 + क्लाउडफ़्रंट पर ले जाया गया। हम लंबे समय से ऐसा करना चाहते थे, क्योंकि सर्वर पर लोड सीमा मूल्यों के करीब था, और अब एक बड़ा अवसर सामने आया है।

ब्लैक फ्राइडे से एक सप्ताह पहले, हमने छवि कैशिंग समय को 3 दिन तक बढ़ा दिया, ताकि यदि ImageResizer क्रैश हो जाए, तो पहले से कैश की गई छवियों को सीडीएन से पुनर्प्राप्त किया जा सके। इससे हमारे सर्वर पर लोड भी कम हो गया, क्योंकि जितनी अधिक देर तक छवि संग्रहीत रहेगी, हमें आकार बदलने पर उतनी ही कम संसाधन खर्च करने की आवश्यकता होगी।

और अंतिम लेकिन कम महत्वपूर्ण नहीं: ब्लैक फ्राइडे से 5 दिन पहले, किसी भी नई कार्यक्षमता की तैनाती के साथ-साथ बुनियादी ढांचे के साथ किसी भी काम पर रोक की घोषणा की गई थी - सारा ध्यान बढ़े हुए भार से निपटने पर केंद्रित है।

कठिन परिस्थितियों से निपटने के लिए योजनाएँ

इससे कोई फर्क नहीं पड़ता कि तैयारी कितनी उच्च गुणवत्ता की है, फ़ैकैप हमेशा संभव होते हैं। और हमने संभावित गंभीर स्थितियों के लिए 3 प्रतिक्रिया योजनाएँ विकसित की हैं:

• भार में कमी,
• कुछ सेवाओं को अक्षम करना,
• सेवा का पूर्ण रूप से बंद होना.

योजना ए: भार कम करें। यदि लोड में वृद्धि के कारण, हमारे सर्वर स्वीकार्य प्रतिक्रिया समय से परे चले गए, तो इसे सक्रिय किया जाना चाहिए था। इस मामले में, हमने ट्रैफ़िक के हिस्से को अमेज़ॅन सर्वर पर स्विच करके लोड को धीरे-धीरे कम करने के लिए तंत्र तैयार किया है, जो सभी अनुरोधों का जवाब "200 ओके" के साथ देगा और एक खाली प्रतिक्रिया देगा। हम समझ गए कि यह सेवा की गुणवत्ता में गिरावट थी, लेकिन इस तथ्य के बीच विकल्प स्पष्ट है कि सेवा बिल्कुल भी काम नहीं करती है या लगभग 10% ट्रैफ़िक के लिए अनुशंसाएँ नहीं दिखाती है।

योजना बी: सेवाएँ अक्षम करें। सेवा में आंशिक गिरावट निहित है। उदाहरण के लिए, कुछ डेटाबेस और संचार चैनलों को अनलोड करने के लिए व्यक्तिगत अनुशंसाओं की गणना की गति को कम करना। सामान्य मोड में, अनुशंसाओं की गणना वास्तविक समय में की जाती है, जिससे प्रत्येक आगंतुक के लिए ऑनलाइन स्टोर का एक अलग संस्करण बनता है, लेकिन बढ़े हुए लोड की स्थितियों में, गति कम करने से अन्य मुख्य सेवाएं काम करना जारी रख सकती हैं।

योजना सी: आर्मागेडन के मामले में। यदि पूर्ण सिस्टम विफलता होती है, तो हमने एक योजना तैयार की है जो हमें अपने ग्राहकों से सुरक्षित रूप से अलग होने की अनुमति देगी। स्टोर खरीदार सिफ़ारिशें देखना बंद कर देंगे; ऑनलाइन स्टोर के प्रदर्शन पर किसी भी तरह का असर नहीं पड़ेगा। ऐसा करने के लिए, हमें अपनी एकीकरण फ़ाइल को रीसेट करना होगा ताकि नए उपयोगकर्ता सेवा के साथ इंटरैक्ट करना बंद कर दें। यानी, हम अपना मुख्य ट्रैकिंग कोड अक्षम कर देंगे, सेवा डेटा एकत्र करना और अनुशंसाओं की गणना करना बंद कर देगी, और उपयोगकर्ता को केवल अनुशंसा ब्लॉक के बिना एक पृष्ठ दिखाई देगा। उन सभी लोगों के लिए जिन्हें पहले एक एकीकरण फ़ाइल प्राप्त हुई है, हमने DNS रिकॉर्ड को अमेज़ॅन और 200 ओके स्टब पर स्विच करने का विकल्प प्रदान किया है।

परिणाम

हमने अतिरिक्त निर्माण मशीनों का उपयोग किए बिना भी पूरा भार संभाला। और अग्रिम तैयारी के लिए धन्यवाद, हमें किसी भी विकसित प्रतिक्रिया योजना की आवश्यकता नहीं थी। लेकिन किया गया सारा काम अमूल्य अनुभव है जो हमें यातायात के सबसे अप्रत्याशित और विशाल प्रवाह से निपटने में मदद करेगा।
2017 में, सेवा पर भार 40% बढ़ गया, और ब्लैक फ्राइडे पर ऑनलाइन स्टोर में उपयोगकर्ताओं की संख्या 60% बढ़ गई। सभी कठिनाइयाँ और गलतियाँ तैयारी अवधि के दौरान हुईं, जिसने हमें और हमारे ग्राहकों को अप्रत्याशित स्थितियों से बचाया।

आप ब्लैक फ्राइडे से कैसे निपट रहे हैं? आप गंभीर भार के लिए कैसे तैयारी करते हैं?

स्रोत: www.habr.com