क्षैतिजरित्या memcached स्केल करण्यासाठी mcrouter वापरणे

कोणत्याही भाषेत उच्च-लोड प्रकल्प विकसित करण्यासाठी विशेष दृष्टीकोन आणि विशेष साधनांचा वापर आवश्यक आहे, परंतु जेव्हा PHP मधील अनुप्रयोगांचा विचार केला जातो तेव्हा परिस्थिती इतकी बिघडू शकते की आपल्याला विकसित करावे लागेल, उदाहरणार्थ, स्वतःचा अनुप्रयोग सर्व्हर. या नोटमध्ये आम्ही मेमकॅशेडमध्ये वितरित सत्र संचयन आणि डेटा कॅशिंगसह परिचित वेदना आणि आम्ही एका "वॉर्ड" प्रकल्पात या समस्या कशा सोडवल्या याबद्दल बोलू.

प्रसंगाचा नायक सिम्फनी 2.3 फ्रेमवर्कवर आधारित एक PHP अनुप्रयोग आहे, जो अद्यतनित करण्याच्या व्यवसाय योजनांमध्ये अजिबात समाविष्ट नाही. बऱ्याच मानक सत्र संचयनाव्यतिरिक्त, या प्रकल्पाचा पूर्ण उपयोग झाला "सर्व काही कॅशिंग" धोरण memcached मध्ये: डेटाबेस आणि API सर्व्हरच्या विनंत्यांना प्रतिसाद, विविध ध्वज, कोड अंमलबजावणी समक्रमित करण्यासाठी लॉक आणि बरेच काही. अशा परिस्थितीत, मेमकॅशेडचे ब्रेकडाउन अनुप्रयोगाच्या ऑपरेशनसाठी घातक ठरते. याव्यतिरिक्त, कॅशे कमी झाल्यामुळे गंभीर परिणाम होतात: डीबीएमएस सीमवर फुटणे सुरू होते, एपीआय सेवा विनंत्यांवर बंदी घालू लागतात इ. परिस्थिती स्थिर होण्यासाठी दहापट मिनिटे लागू शकतात आणि या काळात सेवा अत्यंत मंद किंवा पूर्णपणे अनुपलब्ध असेल.

आम्हाला प्रदान करणे आवश्यक होते थोड्या प्रयत्नात अनुप्रयोग क्षैतिजरित्या मोजण्याची क्षमता, म्हणजे सोर्स कोडमध्ये कमीत कमी बदल आणि पूर्ण कार्यक्षमता जतन करून. कॅशे केवळ अपयशांनाच प्रतिरोधक बनवा, परंतु त्यातून डेटा गमावण्याचा प्रयत्न देखील करा.

मेमकॅशेडमध्ये काय चूक आहे?

सर्वसाधारणपणे, PHP साठी memcached विस्तार बॉक्सच्या बाहेर वितरित डेटा आणि सत्र संचयनास समर्थन देते. सातत्यपूर्ण की हॅशिंगची यंत्रणा तुम्हाला बऱ्याच सर्व्हरवर समान रीतीने डेटा ठेवण्याची परवानगी देते, प्रत्येक विशिष्ट की समूहातील विशिष्ट सर्व्हरवर अद्वितीयपणे संबोधित करते आणि बिल्ट-इन फेलओव्हर टूल्स कॅशिंग सेवेची उच्च उपलब्धता सुनिश्चित करतात (परंतु, दुर्दैवाने, माहिती उपलब्ध नाही).

सेशन स्टोरेजसह गोष्टी थोड्या चांगल्या आहेत: तुम्ही कॉन्फिगर करू शकता memcached.sess_number_of_replicas, परिणामी डेटा एकाच वेळी अनेक सर्व्हरवर संग्रहित केला जाईल आणि एक मेमकॅशेड उदाहरण अयशस्वी झाल्यास, डेटा इतरांकडून हस्तांतरित केला जाईल. तथापि, सर्व्हर डेटाशिवाय ऑनलाइन परत आल्यास (सामान्यत: रीस्टार्ट झाल्यानंतर होते), काही की त्याच्या बाजूने पुनर्वितरित केल्या जातील. किंबहुना याचा अर्थ होईल सत्र डेटा गमावणे, चुकल्यास दुसऱ्या प्रतिकृतीकडे "जाण्याचा" कोणताही मार्ग नाही.

मानक लायब्ररी साधने प्रामुख्याने उद्देश आहेत क्षैतिज स्केलिंग: ते तुम्हाला कॅशे मोठ्या आकारात वाढवण्याची आणि वेगवेगळ्या सर्व्हरवर होस्ट केलेल्या कोडमधून प्रवेश प्रदान करण्याची परवानगी देतात. तथापि, आमच्या परिस्थितीत, संग्रहित डेटाची मात्रा अनेक गीगाबाइट्सपेक्षा जास्त नाही आणि एक किंवा दोन नोड्सचे कार्यप्रदर्शन पुरेसे आहे. त्यानुसार, कामाच्या स्थितीत किमान एक कॅशे इन्स्टन्स राखताना मेमकॅशेडची उपलब्धता सुनिश्चित करणे हे एकमेव उपयुक्त मानक साधने असू शकतात. तथापि, या संधीचाही फायदा घेणे शक्य नव्हते... येथे प्रकल्पामध्ये वापरलेल्या फ्रेमवर्कची पुरातनता लक्षात ठेवण्यासारखी आहे, म्हणूनच सर्व्हरच्या पूलसह अनुप्रयोगास कार्य करणे अशक्य होते. सत्र डेटा गमावण्याबद्दल देखील विसरू नका: वापरकर्त्यांच्या मोठ्या लॉगआउटमुळे ग्राहकाची नजर वळली.

तद्वतच ते आवश्यक होते मेमकॅशेड आणि बायपास प्रतिकृतींमध्ये रेकॉर्डची प्रतिकृती चूक किंवा चूक झाल्यास. आम्हाला ही रणनीती अंमलात आणण्यास मदत केली mcrouter.

mcrouter

फेसबुकने त्याच्या समस्या सोडवण्यासाठी विकसित केलेला हा मेमकॅशेड राउटर आहे. हे memcached मजकूर प्रोटोकॉलचे समर्थन करते, जे परवानगी देते स्केल मेमकॅशेड इंस्टॉलेशन्स वेडे प्रमाण करण्यासाठी. mcrouter चे तपशीलवार वर्णन यामध्ये आढळू शकते ही घोषणा. इतर गोष्टींबरोबरच विस्तृत कार्यक्षमता ते आम्हाला आवश्यक ते करू शकते:

• रेकॉर्डची प्रतिकृती;
• त्रुटी आढळल्यास गटातील इतर सर्व्हरवर फॉलबॅक करा.

कामाला लागा!

mcrouter कॉन्फिगरेशन

मी थेट कॉन्फिगरेशनवर जाईन:

{
 "pools": {
   "pool00": {
     "servers": [
       "mc-0.mc:11211",
       "mc-1.mc:11211",
       "mc-2.mc:11211"
   },
   "pool01": {
     "servers": [
       "mc-1.mc:11211",
       "mc-2.mc:11211",
       "mc-0.mc:11211"
   },
   "pool02": {
     "servers": [
       "mc-2.mc:11211",
       "mc-0.mc:11211",
       "mc-1.mc:11211"
 },
 "route": {
   "type": "OperationSelectorRoute",
   "default_policy": "AllMajorityRoute|Pool|pool00",
   "operation_policies": {
     "get": {
       "type": "RandomRoute",
       "children": [
         "MissFailoverRoute|Pool|pool02",
         "MissFailoverRoute|Pool|pool00",
         "MissFailoverRoute|Pool|pool01"
       ]
     }
   }
 }
}

तीन पूल का? सर्व्हरची पुनरावृत्ती का होते? ते कसे कार्य करते ते शोधूया.

• या कॉन्फिगरेशनमध्ये, mcrouter विनंती आदेशाच्या आधारे विनंती पाठवण्याचा मार्ग निवडतो. तो माणूस त्याला हे सांगतो OperationSelectorRoute.
• GET विनंत्या हँडलरकडे जातात RandomRouteजे यादृच्छिकपणे ॲरे ऑब्जेक्ट्समधून पूल किंवा मार्ग निवडते children. या ॲरेचा प्रत्येक घटक हँडलर असतो MissFailoverRoute, जो डेटासह प्रतिसाद प्राप्त होईपर्यंत पूलमधील प्रत्येक सर्व्हरमधून जाईल, जो क्लायंटला परत केला जाईल.
• आम्ही अनन्य वापरल्यास MissFailoverRoute तीन सर्व्हरच्या पूलसह, नंतर सर्व विनंत्या प्रथम मेमकॅच केलेल्या उदाहरणावर येतील, आणि उर्वरित डेटा नसताना उर्वरित आधारावर विनंत्या प्राप्त होतील. असा दृष्टीकोन होऊ शकेल सूचीतील पहिल्या सर्व्हरवर जास्त भार, म्हणून वेगवेगळ्या क्रमांमध्ये पत्त्यांसह तीन पूल तयार करण्याचा आणि त्यांना यादृच्छिकपणे निवडण्याचा निर्णय घेण्यात आला.
• इतर सर्व विनंत्या (आणि हे रेकॉर्ड आहे) वापरून प्रक्रिया केली जाते AllMajorityRoute. हा हँडलर पूलमधील सर्व सर्व्हरना विनंत्या पाठवतो आणि त्यापैकी किमान N/2 + 1 च्या प्रतिसादांची प्रतीक्षा करतो. वापरातून AllSyncRoute लेखन ऑपरेशन्स सोडून द्याव्या लागल्या, कारण या पद्धतीला सकारात्मक प्रतिसाद आवश्यक आहे всех गटातील सर्व्हर - अन्यथा ते परत येईल SERVER_ERROR. जरी mcrouter उपलब्ध कॅशेमध्ये डेटा जोडेल, कॉलिंग PHP फंक्शन त्रुटी परत करेल आणि नोटीस व्युत्पन्न करेल. AllMajorityRoute इतके कठोर नाही आणि वर वर्णन केलेल्या समस्यांशिवाय अर्ध्या युनिट्सला सेवेतून बाहेर काढण्याची परवानगी देते.

मुख्य गैरसोय ही योजना अशी आहे की जर कॅशेमध्ये खरोखर कोणताही डेटा नसेल, तर क्लायंटकडून प्रत्येक विनंतीसाठी N मेमकॅशेडची विनंती प्रत्यक्षात कार्यान्वित केली जाईल - सर्वांना पूल मध्ये सर्व्हर. आम्ही पूलमधील सर्व्हरची संख्या कमी करू शकतो, उदाहरणार्थ, दोन: स्टोरेज विश्वासार्हतेचा त्याग करणे, आम्हाला मिळतेоविनंत्यांपासून गहाळ कींपर्यंत उच्च गती आणि कमी लोड.

NB: तुम्हाला mcrouter शिकण्यासाठी उपयुक्त दुवे देखील मिळू शकतात विकिवरील दस्तऐवजीकरण и प्रकल्प समस्या (बंद असलेल्यांसह), विविध कॉन्फिगरेशनच्या संपूर्ण स्टोअरहाऊसचे प्रतिनिधित्व करते.

mcrouter तयार करणे आणि चालवणे

आमचा अनुप्रयोग (आणि स्वतः मेमकॅशेड) कुबर्नेट्समध्ये चालतो - त्यानुसार, मॅक्रोटर देखील तेथे आहे. च्या साठी कंटेनर असेंब्ली आम्ही वापरतो werf, ज्यासाठी कॉन्फिगरेशन असे दिसेल:

NB: लेखात दिलेल्या सूची भांडारात प्रकाशित केल्या आहेत फ्लँट/मक्रोउटर.

configVersion: 1
project: mcrouter
deploy:
 namespace: '[[ env ]]'
 helmRelease: '[[ project ]]-[[ env ]]'
---
image: mcrouter
from: ubuntu:16.04
mount:
- from: tmp_dir
 to: /var/lib/apt/lists
- from: build_dir
 to: /var/cache/apt
ansible:
 beforeInstall:
 - name: Install prerequisites
   apt:
     name: [ 'apt-transport-https', 'tzdata', 'locales' ]
     update_cache: yes
 - name: Add mcrouter APT key
   apt_key:
     url: https://facebook.github.io/mcrouter/debrepo/xenial/PUBLIC.KEY
 - name: Add mcrouter Repo
   apt_repository:
     repo: deb https://facebook.github.io/mcrouter/debrepo/xenial xenial contrib
     filename: mcrouter
     update_cache: yes
 - name: Set timezone
   timezone:
     name: "Europe/Moscow"
 - name: Ensure a locale exists
   locale_gen:
     name: en_US.UTF-8
     state: present
 install:
 - name: Install mcrouter
   apt:
     name: [ 'mcrouter' ]

(werf.yaml)

... आणि त्याचे स्केच काढा हेल्म चार्ट. मनोरंजक गोष्ट अशी आहे की प्रतिकृतींच्या संख्येवर आधारित फक्त कॉन्फिगरेशन जनरेटर आहे (कोणाजवळ अधिक लॅकोनिक आणि मोहक पर्याय असल्यास, टिप्पण्यांमध्ये सामायिक करा):

{{- $count := (pluck .Values.global.env .Values.memcached.replicas | first | default .Values.memcached.replicas._default | int) -}}
{{- $pools := dict -}}
{{- $servers := list -}}
{{- /* Заполняем  массив двумя копиями серверов: "0 1 2 0 1 2" */ -}}
{{- range until 2 -}}
 {{- range $i, $_ := until $count -}}
   {{- $servers = append $servers (printf "mc-%d.mc:11211" $i) -}}
 {{- end -}}
{{- end -}}
{{- /* Смещаясь по массиву, получаем N срезов: "[0 1 2] [1 2 0] [2 0 1]" */ -}}
{{- range $i, $_ := until $count -}}
 {{- $pool := dict "servers" (slice $servers $i (add $i $count)) -}}
 {{- $_ := set $pools (printf "MissFailoverRoute|Pool|pool%02d" $i) $pool -}}
{{- end -}}
---
apiVersion: v1
kind: ConfigMap
metadata:
 name: mcrouter
data:
 config.json: |
   {
     "pools": {{- $pools | toJson | replace "MissFailoverRoute|Pool|" "" -}},
     "route": {
       "type": "OperationSelectorRoute",
       "default_policy": "AllMajorityRoute|Pool|pool00",
       "operation_policies": {
         "get": {
           "type": "RandomRoute",
           "children": {{- keys $pools | toJson }}
         }
       }
     }
   }

(10-mcrouter.yaml)

आम्ही ते चाचणी वातावरणात आणतो आणि तपासतो:

# php -a
Interactive mode enabled

php > # Проверяем запись и чтение
php > $m = new Memcached();
php > $m->addServer('mcrouter', 11211);
php > var_dump($m->set('test', 'value'));
bool(true)
php > var_dump($m->get('test'));
string(5) "value"
php > # Работает! Тестируем работу сессий:
php > ini_set('session.save_handler', 'memcached');
php > ini_set('session.save_path', 'mcrouter:11211');
php > var_dump(session_start());
PHP Warning:  Uncaught Error: Failed to create session ID: memcached (path: mcrouter:11211) in php shell code:1
Stack trace:
#0 php shell code(1): session_start()
#1 {main}
  thrown in php shell code on line 1
php > # Не заводится… Попробуем задать session_id:
php > session_id("zzz");
php > var_dump(session_start());
PHP Warning:  session_start(): Cannot send session cookie - headers already sent by (output started at php shell code:1) in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Unable to clear session lock record in php shell code on line 1
PHP Warning:  session_start(): Failed to read session data: memcached (path: mcrouter:11211) in php shell code on line 1
bool(false)
php >

त्रुटीचा मजकूर शोधल्याने कोणतेही परिणाम मिळाले नाहीत, परंतु क्वेरीसाठी “mcrouter php"प्रकल्पाची सर्वात जुनी न सुटलेली समस्या आघाडीवर होती - समर्थनाचा अभाव memcached बायनरी प्रोटोकॉल.

NB: मेमकॅशेडमधील ASCII प्रोटोकॉल बायनरी प्रोटोकॉलपेक्षा हळू आहे आणि सातत्यपूर्ण की हॅशिंगचे मानक साधन केवळ बायनरी प्रोटोकॉलसह कार्य करतात. परंतु हे विशिष्ट प्रकरणासाठी समस्या निर्माण करत नाही.

युक्ती बॅगमध्ये आहे: तुम्हाला फक्त एएससीआयआय प्रोटोकॉलवर स्विच करावे लागेल आणि सर्वकाही कार्य करेल.... तथापि, या प्रकरणात, मध्ये उत्तरे शोधण्याची सवय php.net वर दस्तऐवजीकरण एक क्रूर विनोद खेळला. तुम्हाला तेथे योग्य उत्तर सापडणार नाही... जोपर्यंत तुम्ही विभागातील शेवटपर्यंत स्क्रोल करत नाही "वापरकर्त्याने योगदान दिलेल्या नोट्स" विश्वासू असेल आणि चुकीचे मत दिलेले उत्तर.

होय, योग्य पर्यायाचे नाव आहे memcached.sess_binary_protocol. ते अक्षम केले जाणे आवश्यक आहे, त्यानंतर सत्रे कार्य करण्यास प्रारंभ करतील. फक्त शिल्लक आहे mcrouter सह कंटेनर PHP सह पॉडमध्ये ठेवणे!

निष्कर्ष

अशाप्रकारे, फक्त पायाभूत बदलांसह आम्ही समस्या सोडवू शकलो: मेमकॅशेड फॉल्ट टॉलरन्सची समस्या सोडवली गेली आहे आणि कॅशे स्टोरेजची विश्वासार्हता वाढली आहे. अनुप्रयोगाच्या स्पष्ट फायद्यांव्यतिरिक्त, यामुळे प्लॅटफॉर्मवर काम करताना युक्तीसाठी जागा मिळाली: जेव्हा सर्व घटकांकडे राखीव जागा असते, तेव्हा प्रशासकाचे जीवन मोठ्या प्रमाणात सरलीकृत होते. होय, या पद्धतीमध्ये त्याचे तोटे देखील आहेत, ते "क्रॅच" सारखे दिसू शकते, परंतु जर ते पैसे वाचवते, समस्या दफन करते आणि नवीन कारणीभूत होत नाही - का नाही?

PS

आमच्या ब्लॉगवर देखील वाचा:

• "डॅप सह सराव करा" (उदाहरणार्थ सिम्फनी-डेमो वापरणे): भाग १ (साधे अनुप्रयोग तयार करणे) и भाग 2 (हेल्म वापरून डॉकर प्रतिमा कुबर्नेट्सवर तैनात करणे);
• «कुबर्नेट्ससह जीवनापासून: HTTP सर्व्हरने स्पॅनिश लोकांना कसे अनुकूल केले नाही».

स्त्रोत: www.habr.com