🥇क्षैतिज स्केलिंग मेम्केच्ड के लिए मैक्राउटर का उपयोग करना

किसी भी भाषा में उच्च-लोड परियोजनाओं को विकसित करने के लिए एक विशेष दृष्टिकोण और विशेष उपकरणों के उपयोग की आवश्यकता होती है, लेकिन जब PHP में अनुप्रयोगों की बात आती है, तो स्थिति इतनी खराब हो सकती है कि आपको विकसित करना होगा, उदाहरण के लिए, स्वयं का एप्लिकेशन सर्वर. इस नोट में हम मेमकैच्ड में वितरित सत्र भंडारण और डेटा कैशिंग के साथ परिचित दर्द के बारे में बात करेंगे और हमने एक "वार्ड" प्रोजेक्ट में इन समस्याओं को कैसे हल किया।

इस अवसर का नायक सिम्फनी 2.3 फ्रेमवर्क पर आधारित एक PHP एप्लिकेशन है, जिसे अपडेट करने की व्यावसायिक योजनाओं में बिल्कुल भी शामिल नहीं है। काफी मानक सत्र भंडारण के अलावा, इस परियोजना ने इसका पूरा उपयोग किया "सबकुछ कैशिंग" नीति मेमकैच्ड में: डेटाबेस और एपीआई सर्वर के अनुरोधों की प्रतिक्रिया, विभिन्न झंडे, कोड निष्पादन को सिंक्रनाइज़ करने के लिए ताले और बहुत कुछ। ऐसी स्थिति में, मेमकैच्ड का टूटना एप्लिकेशन के संचालन के लिए घातक हो जाता है। इसके अलावा, कैश हानि के गंभीर परिणाम होते हैं: डीबीएमएस तेजी से फटने लगता है, एपीआई सेवाएं अनुरोधों पर प्रतिबंध लगाना शुरू कर देती हैं, आदि। स्थिति को स्थिर करने में दसियों मिनट लग सकते हैं और इस दौरान सेवा बहुत धीमी या पूरी तरह से अनुपलब्ध रहेगी।

हमें उपलब्ध कराने की जरूरत थी थोड़े से प्रयास से एप्लिकेशन को क्षैतिज रूप से स्केल करने की क्षमता, अर्थात। स्रोत कोड में न्यूनतम परिवर्तन और पूर्ण कार्यक्षमता संरक्षित के साथ। कैश को न केवल विफलताओं के प्रति प्रतिरोधी बनाएं, बल्कि इससे डेटा हानि को कम करने का भी प्रयास करें।

मेमकैच्ड में क्या खराबी है?

सामान्य तौर पर, PHP के लिए मेम्केच्ड एक्सटेंशन बॉक्स से बाहर वितरित डेटा और सत्र भंडारण का समर्थन करता है। सुसंगत कुंजी हैशिंग के लिए तंत्र आपको कई सर्वरों पर समान रूप से डेटा रखने की अनुमति देता है, समूह से एक विशिष्ट सर्वर के लिए प्रत्येक विशिष्ट कुंजी को विशिष्ट रूप से संबोधित करता है, और अंतर्निहित फेलओवर उपकरण कैशिंग सेवा की उच्च उपलब्धता सुनिश्चित करते हैं (लेकिन, दुर्भाग्य से, कोई डेटा नहीं).

सत्र भंडारण के साथ चीजें थोड़ी बेहतर हैं: आप कॉन्फ़िगर कर सकते हैं memcached.sess_number_of_replicas, जिसके परिणामस्वरूप डेटा एक साथ कई सर्वरों पर संग्रहीत किया जाएगा, और एक मेमकैच्ड इंस्टेंस की विफलता की स्थिति में, डेटा दूसरों से स्थानांतरित किया जाएगा। हालाँकि, यदि सर्वर बिना डेटा के ऑनलाइन वापस आता है (जैसा कि आमतौर पर पुनरारंभ होने के बाद होता है), तो कुछ कुंजियाँ उसके पक्ष में पुनर्वितरित की जाएंगी। दरअसल इसका मतलब यही होगा सत्र डेटा की हानि, क्योंकि छूट जाने की स्थिति में किसी अन्य प्रतिकृति पर "जाने" का कोई रास्ता नहीं है।

मानक पुस्तकालय उपकरण मुख्य रूप से लक्षित होते हैं क्षैतिज स्केलिंग: वे आपको कैश को विशाल आकार तक बढ़ाने और विभिन्न सर्वरों पर होस्ट किए गए कोड से उस तक पहुंच प्रदान करने की अनुमति देते हैं। हालाँकि, हमारी स्थिति में, संग्रहीत डेटा की मात्रा कई गीगाबाइट से अधिक नहीं है, और एक या दो नोड्स का प्रदर्शन काफी है। तदनुसार, काम करने की स्थिति में कम से कम एक कैश इंस्टेंस को बनाए रखते हुए मेम्केच्ड की उपलब्धता सुनिश्चित करना ही एकमात्र उपयोगी मानक उपकरण हो सकता है। हालाँकि, इस अवसर का भी लाभ उठाना संभव नहीं था... यहां परियोजना में उपयोग किए गए ढांचे की प्राचीनता को याद करना उचित है, यही कारण है कि एप्लिकेशन को सर्वर के पूल के साथ काम करना असंभव था। आइए सत्र डेटा के नुकसान के बारे में भी न भूलें: उपयोगकर्ताओं के बड़े पैमाने पर लॉगआउट से ग्राहक की आंखें घूम गईं।

आदर्श रूप से इसकी आवश्यकता थी मेमकैच्ड में अभिलेखों की प्रतिकृति और प्रतिकृतियों को दरकिनार करना गलती या गलती होने पर. इस रणनीति को लागू करने में हमें मदद मिली मैक्राउटर.

मैक्राउटर

यह एक मेमकैच्ड राउटर है जिसे फेसबुक ने अपनी समस्याओं के समाधान के लिए विकसित किया है। यह मेम्केच्ड टेक्स्ट प्रोटोकॉल का समर्थन करता है, जो अनुमति देता है स्केल मेमकैच्ड संस्थापन पागल अनुपात के लिए. मैक्राउटर का विस्तृत विवरण यहां पाया जा सकता है यह घोषणा. अन्य बातों के अलावा व्यापक कार्यक्षमता यह वह कर सकता है जिसकी हमें आवश्यकता है:

रिकॉर्ड दोहराएँ;
यदि कोई त्रुटि होती है तो समूह के अन्य सर्वरों पर फ़ॉलबैक करें।

कारण के लिए!

मैक्राउटर कॉन्फ़िगरेशन

मैं सीधे कॉन्फिग पर जाऊंगा:

{
 "pools": {
   "pool00": {
     "servers": [
       "mc-0.mc:11211",
       "mc-1.mc:11211",
       "mc-2.mc:11211"
   },
   "pool01": {
     "servers": [
       "mc-1.mc:11211",
       "mc-2.mc:11211",
       "mc-0.mc:11211"
   },
   "pool02": {
     "servers": [
       "mc-2.mc:11211",
       "mc-0.mc:11211",
       "mc-1.mc:11211"
 },
 "route": {
   "type": "OperationSelectorRoute",
   "default_policy": "AllMajorityRoute|Pool|pool00",
   "operation_policies": {
     "get": {
       "type": "RandomRoute",
       "children": [
         "MissFailoverRoute|Pool|pool02",
         "MissFailoverRoute|Pool|pool00",
         "MissFailoverRoute|Pool|pool01"
       ]
     }
   }
 }
}

तीन पूल क्यों? सर्वर बार-बार क्यों आते हैं? आइए जानें कि यह कैसे काम करता है।

इस कॉन्फ़िगरेशन में, mcrouter अनुरोध कमांड के आधार पर उस पथ का चयन करता है जिस पर अनुरोध भेजा जाएगा। लड़का उसे यह बताता है OperationSelectorRoute.
GET अनुरोध हैंडलर के पास जाते हैं RandomRouteजो सरणी ऑब्जेक्ट के बीच यादृच्छिक रूप से एक पूल या मार्ग का चयन करता है children. इस सरणी का प्रत्येक तत्व बदले में एक हैंडलर है MissFailoverRoute, जो पूल में प्रत्येक सर्वर से तब तक गुजरेगा जब तक उसे डेटा के साथ प्रतिक्रिया नहीं मिल जाती, जिसे क्लाइंट को वापस कर दिया जाएगा।
यदि हम विशेष रूप से उपयोग करते हैं MissFailoverRoute तीन सर्वरों के पूल के साथ, तब सभी अनुरोध पहले मेमकैच्ड इंस्टेंस पर आएंगे, और बाकी को कोई डेटा न होने पर अवशिष्ट आधार पर अनुरोध प्राप्त होंगे। इस तरह के दृष्टिकोण से आगे बढ़ना होगा सूची में पहले सर्वर पर अत्यधिक लोड, इसलिए विभिन्न अनुक्रमों में पतों के साथ तीन पूल तैयार करने और उन्हें यादृच्छिक रूप से चुनने का निर्णय लिया गया।
अन्य सभी अनुरोध (और यह एक रिकॉर्ड है) का उपयोग करके संसाधित किया जाता है AllMajorityRoute. यह हैंडलर पूल में सभी सर्वरों को अनुरोध भेजता है और उनमें से कम से कम एन/2 + 1 से प्रतिक्रियाओं की प्रतीक्षा करता है। उपयोग से AllSyncRoute लेखन कार्यों को छोड़ना पड़ा, क्योंकि इस पद्धति के लिए सकारात्मक प्रतिक्रिया की आवश्यकता होती है सब समूह में सर्वर - अन्यथा यह वापस आ जाएगा SERVER_ERROR. हालाँकि mcrouter उपलब्ध कैश में डेटा जोड़ देगा, कॉलिंग PHP फ़ंक्शन एक त्रुटि लौटाएगा और नोटिस जनरेट करेगा. AllMajorityRoute इतना सख्त नहीं है और ऊपर वर्णित समस्याओं के बिना आधी इकाइयों को सेवा से बाहर करने की अनुमति देता है।

मुख्य नुकसान यह योजना यह है कि यदि वास्तव में कैश में कोई डेटा नहीं है, तो क्लाइंट से प्रत्येक अनुरोध के लिए एन अनुरोधों को मेम्केच्ड करने के लिए वास्तव में निष्पादित किया जाएगा - हर पूल में सर्वर. हम पूल में सर्वरों की संख्या को कम कर सकते हैं, उदाहरण के लिए, दो तक: भंडारण विश्वसनीयता का त्याग करते हुए, हमें मिलता हैоअनुरोधों से लेकर गुम कुंजियों तक उच्च गति और कम लोड।

NB: आपको मैक्राउटर सीखने के लिए उपयोगी लिंक भी मिल सकते हैं विकी पर दस्तावेज़ीकरण и परियोजना मुद्दे (बंद वाले सहित), विभिन्न विन्यासों के पूरे भंडार का प्रतिनिधित्व करता है।

मैक्राउटर बनाना और चलाना

हमारा एप्लिकेशन (और स्वयं मेमकैश्ड) कुबेरनेट्स में चलता है - तदनुसार, मैक्राउटर भी वहीं स्थित है। के लिए कंटेनर असेंबली हम प्रयोग करते हैं Werf, जिसके लिए कॉन्फ़िगरेशन इस तरह दिखेगा:

NB: लेख में दी गई सूचियाँ भंडार में प्रकाशित की गई हैं फ़्लैंट/मैक्राउटर.

configVersion: 1
project: mcrouter
deploy:
 namespace: '[[ env ]]'
 helmRelease: '[[ project ]]-[[ env ]]'
---
image: mcrouter
from: ubuntu:16.04
mount:
- from: tmp_dir
 to: /var/lib/apt/lists
- from: build_dir
 to: /var/cache/apt
ansible:
 beforeInstall:
 - name: Install prerequisites
   apt:
     name: [ 'apt-transport-https', 'tzdata', 'locales' ]
     update_cache: yes
 - name: Add mcrouter APT key
   apt_key:
     url: https://facebook.github.io/mcrouter/debrepo/xenial/PUBLIC.KEY
 - name: Add mcrouter Repo
   apt_repository:
     repo: deb https://facebook.github.io/mcrouter/debrepo/xenial xenial contrib
     filename: mcrouter
     update_cache: yes
 - name: Set timezone
   timezone:
     name: "Europe/Moscow"
 - name: Ensure a locale exists
   locale_gen:
     name: en_US.UTF-8
     state: present
 install:
 - name: Install mcrouter
   apt:
     name: [ 'mcrouter' ]

(werf.yaml)

...और इसका खाका खींचिए हेल्म चार्ट. दिलचस्प बात यह है कि प्रतिकृतियों की संख्या के आधार पर केवल एक कॉन्फिग जनरेटर है (यदि किसी के पास अधिक संक्षिप्त और सुरुचिपूर्ण विकल्प है, तो उसे टिप्पणियों में साझा करें):

{{- $count := (pluck .Values.global.env .Values.memcached.replicas | first | default .Values.memcached.replicas._default | int) -}}
{{- $pools := dict -}}
{{- $servers := list -}}
{{- /* Заполняем  массив двумя копиями серверов: "0 1 2 0 1 2" */ -}}
{{- range until 2 -}}
 {{- range $i, $_ := until $count -}}
   {{- $servers = append $servers (printf "mc-%d.mc:11211" $i) -}}
 {{- end -}}
{{- end -}}
{{- /* Смещаясь по массиву, получаем N срезов: "[0 1 2] [1 2 0] [2 0 1]" */ -}}
{{- range $i, $_ := until $count -}}
 {{- $pool := dict "servers" (slice $servers $i (add $i $count)) -}}
 {{- $_ := set $pools (printf "MissFailoverRoute|Pool|pool%02d" $i) $pool -}}
{{- end -}}
---
apiVersion: v1
kind: ConfigMap
metadata:
 name: mcrouter
data:
 config.json: |
   {
     "pools": {{- $pools | toJson | replace "MissFailoverRoute|Pool|" "" -}},
     "route": {
       "type": "OperationSelectorRoute",
       "default_policy": "AllMajorityRoute|Pool|pool00",
       "operation_policies": {
         "get": {
           "type": "RandomRoute",
           "children": {{- keys $pools | toJson }}
         }
       }
     }
   }

(10-mcrouter.yaml)

हम इसे परीक्षण परिवेश में रोल आउट करते हैं और जाँचते हैं:

# php -a
Interactive mode enabled

php > # Проверяем запись и чтение
php > $m = new Memcached();
php > $m->addServer('mcrouter', 11211);
php > var_dump($m->set('test', 'value'));
bool(true)
php > var_dump($m->get('test'));
string(5) "value"
php > # Работает! Тестируем работу сессий:
php > ini_set('session.save_handler', 'memcached');
php > ini_set('session.save_path', 'mcrouter:11211');
php > var_dump(session_start());
PHP Warning:  Uncaught Error: Failed to create session ID: memcached (path: mcrouter:11211) in php shell code:1
Stack trace:
#0 php shell code(1): session_start()
#1 {main}
  thrown in php shell code on line 1
php > # Не заводится… Попробуем задать session_id:
php > session_id("zzz");
php > var_dump(session_start());
PHP Warning:  session_start(): Cannot send session cookie - headers already sent by (output started at php shell code:1) in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Unable to clear session lock record in php shell code on line 1
PHP Warning:  session_start(): Failed to read session data: memcached (path: mcrouter:11211) in php shell code on line 1
bool(false)
php >

त्रुटि के पाठ की खोज करने से कोई परिणाम नहीं मिला, लेकिन क्वेरी के लिए "माइक्रोउटर php"सबसे आगे थी परियोजना की सबसे पुरानी अनसुलझी समस्या - समर्थन की कमी मेम्केच्ड बाइनरी प्रोटोकॉल।

NB: मेम्केच्ड में ASCII प्रोटोकॉल बाइनरी प्रोटोकॉल की तुलना में धीमा है, और लगातार कुंजी हैशिंग के मानक साधन केवल बाइनरी प्रोटोकॉल के साथ काम करते हैं। लेकिन यह किसी विशिष्ट मामले के लिए समस्याएँ पैदा नहीं करता है।

ट्रिक बैग में है: आपको बस ASCII प्रोटोकॉल पर स्विच करना है और सब कुछ काम करेगा... हालाँकि, इस मामले में, उत्तर खोजने की आदत php.net पर दस्तावेज़ीकरण क्रूर मजाक किया. आपको वहां सही उत्तर नहीं मिलेगा... बेशक, आप अंत तक स्क्रॉल न करें, जहां अनुभाग में है "उपयोगकर्ता द्वारा योगदान किए गए नोट्स" वफादार होंगे और अनुचित रूप से डाउनवोट किया गया उत्तर.

हाँ, सही विकल्प नाम है memcached.sess_binary_protocol. इसे अक्षम किया जाना चाहिए, जिसके बाद सत्र काम करना शुरू कर देंगे। जो कुछ बचा है वह कंटेनर को mcrouter के साथ PHP के साथ पॉड में डालना है!

निष्कर्ष

इस प्रकार, केवल बुनियादी ढांचे में बदलाव के साथ हम समस्या को हल करने में सक्षम थे: मेमकैच्ड दोष सहिष्णुता के साथ समस्या हल हो गई है, और कैश भंडारण की विश्वसनीयता बढ़ गई है। एप्लिकेशन के लिए स्पष्ट लाभों के अलावा, इसने प्लेटफ़ॉर्म पर काम करते समय पैंतरेबाज़ी के लिए जगह दी: जब सभी घटकों में रिजर्व होता है, तो प्रशासक का जीवन बहुत सरल हो जाता है। हां, इस पद्धति की अपनी कमियां भी हैं, यह एक "बैसाखी" की तरह लग सकती है, लेकिन अगर यह पैसे बचाता है, समस्या को दबा देता है और नई समस्या पैदा नहीं करता है - तो क्यों नहीं?

पुनश्च

हमारे ब्लॉग पर भी पढ़ें:

"डैप के साथ अभ्यास करें" (उदाहरण के तौर पर सिम्फनी-डेमो का उपयोग करके): भाग 1 (सरल अनुप्रयोग बनाना) и भाग 2 (हेल्म का उपयोग करके डॉकर छवियों को कुबेरनेट्स में तैनात करना);
«कुबेरनेट्स के साथ जीवन से: कैसे HTTP सर्वर ने स्पेनियों का पक्ष नहीं लिया'.

स्रोत: www.habr.com

मेमकैच को क्षैतिज रूप से स्केल करने के लिए mcrouter का उपयोग करना