অনুভূমিকভাবে memcached স্কেল করতে mcrouter ব্যবহার করে

যেকোন ভাষায় হাই-লোড প্রজেক্ট ডেভেলপ করার জন্য একটি বিশেষ পদ্ধতির এবং বিশেষ টুলের ব্যবহার প্রয়োজন, কিন্তু যখন পিএইচপি-তে অ্যাপ্লিকেশনের কথা আসে, তখন পরিস্থিতি এতটাই খারাপ হতে পারে যে আপনাকে বিকাশ করতে হবে, উদাহরণস্বরূপ, নিজস্ব অ্যাপ্লিকেশন সার্ভার. এই নোটে আমরা মেমক্যাশে বিতরণ করা সেশন স্টোরেজ এবং ডেটা ক্যাশিংয়ের সাথে পরিচিত ব্যথা সম্পর্কে কথা বলব এবং কীভাবে আমরা একটি "ওয়ার্ড" প্রকল্পে এই সমস্যাগুলি সমাধান করেছি।

অনুষ্ঠানের নায়ক হল সিমফনি 2.3 ফ্রেমওয়ার্কের উপর ভিত্তি করে একটি পিএইচপি অ্যাপ্লিকেশন, যা আপডেট করার ব্যবসায়িক পরিকল্পনার অন্তর্ভুক্ত নয়। বেশ স্ট্যান্ডার্ড সেশন স্টোরেজ ছাড়াও, এই প্রকল্পটি সম্পূর্ণ ব্যবহার করেছে "সবকিছু ক্যাশিং" নীতি মেমক্যাচেড: ডাটাবেস এবং এপিআই সার্ভারের অনুরোধের প্রতিক্রিয়া, বিভিন্ন পতাকা, সিঙ্ক্রোনাইজ কোড এক্সিকিউশনের জন্য লক এবং আরও অনেক কিছু। এই ধরনের পরিস্থিতিতে, মেমক্যাশেডের একটি ভাঙ্গন অ্যাপ্লিকেশনটির অপারেশনের জন্য মারাত্মক হয়ে ওঠে। উপরন্তু, ক্যাশে ক্ষতি গুরুতর পরিণতির দিকে পরিচালিত করে: DBMS সিমগুলিতে ফেটে যেতে শুরু করে, API পরিষেবাগুলি অনুরোধগুলি নিষিদ্ধ করতে শুরু করে, ইত্যাদি। পরিস্থিতি স্থিতিশীল করতে কয়েক মিনিট সময় লাগতে পারে এবং এই সময়ের মধ্যে পরিষেবাটি ভয়ানক ধীর বা সম্পূর্ণ অনুপলব্ধ হবে৷

আমাদের সরবরাহ করা দরকার ছিল সামান্য প্রচেষ্টার সাথে অ্যাপ্লিকেশনটিকে অনুভূমিকভাবে স্কেল করার ক্ষমতা, অর্থাৎ সোর্স কোডে ন্যূনতম পরিবর্তন এবং সম্পূর্ণ কার্যকারিতা সংরক্ষিত। ক্যাশে শুধুমাত্র ব্যর্থতা প্রতিরোধী করুন, কিন্তু এটি থেকে ডেটা ক্ষতি কমানোর চেষ্টা করুন।

memcached নিজেই সঙ্গে ভুল কি?

সাধারণভাবে, PHP-এর জন্য মেমক্যাশেড এক্সটেনশন বক্সের বাইরে বিতরণ করা ডেটা এবং সেশন স্টোরেজ সমর্থন করে। সামঞ্জস্যপূর্ণ কী হ্যাশিংয়ের প্রক্রিয়া আপনাকে অনেক সার্ভারে সমানভাবে ডেটা স্থাপন করতে দেয়, গ্রুপ থেকে একটি নির্দিষ্ট সার্ভারে প্রতিটি নির্দিষ্ট কীকে স্বতন্ত্রভাবে সম্বোধন করে এবং বিল্ট-ইন ফেইলওভার সরঞ্জামগুলি ক্যাশিং পরিষেবার উচ্চ প্রাপ্যতা নিশ্চিত করে (কিন্তু, দুর্ভাগ্যবশত, কোন তথ্য নেই).

সেশন স্টোরেজের সাথে জিনিসগুলি একটু ভাল: আপনি কনফিগার করতে পারেন memcached.sess_number_of_replicas, যার ফলস্বরূপ ডেটা একসাথে একাধিক সার্ভারে সংরক্ষণ করা হবে, এবং একটি মেমক্যাশেড উদাহরণ ব্যর্থ হলে, ডেটা অন্যদের থেকে স্থানান্তর করা হবে। যাইহোক, যদি সার্ভারটি ডেটা ছাড়াই অনলাইনে ফিরে আসে (যেমনটি সাধারণত পুনঃসূচনা হওয়ার পরে হয়), কিছু কী এর পক্ষে পুনরায় বিতরণ করা হবে। আসলে এর মানে হবে সেশন ডেটার ক্ষতি, যেহেতু মিস হওয়ার ক্ষেত্রে অন্য প্রতিলিপিতে "যাওয়ার" কোন উপায় নেই।

স্ট্যান্ডার্ড লাইব্রেরি সরঞ্জাম প্রধানত লক্ষ্য করা হয় অনুভূমিক স্কেলিং: তারা আপনাকে ক্যাশে বিশাল আকারে বাড়াতে এবং বিভিন্ন সার্ভারে হোস্ট করা কোড থেকে এটিতে অ্যাক্সেস সরবরাহ করার অনুমতি দেয়। যাইহোক, আমাদের পরিস্থিতিতে, সঞ্চিত ডেটার পরিমাণ কয়েক গিগাবাইটের বেশি হয় না এবং এক বা দুটি নোডের কার্যকারিতা যথেষ্ট। তদনুসারে, কাজের অবস্থায় কমপক্ষে একটি ক্যাশে দৃষ্টান্ত বজায় রেখে মেমক্যাশেডের প্রাপ্যতা নিশ্চিত করা একমাত্র দরকারী স্ট্যান্ডার্ড টুল হতে পারে। যাইহোক, এমনকি এই সুযোগের সদ্ব্যবহার করা সম্ভব ছিল না... এখানে প্রকল্পে ব্যবহৃত কাঠামোর প্রাচীনত্ব স্মরণ করা মূল্যবান, যে কারণে সার্ভারের একটি পুল দিয়ে কাজ করার জন্য অ্যাপ্লিকেশনটি পাওয়া অসম্ভব ছিল। আসুন সেশন ডেটা হারানোর কথাও ভুলে যাই না: ব্যবহারকারীদের ব্যাপক লগআউট থেকে গ্রাহকের চোখ কাঁপছে।

আদর্শভাবে এটা প্রয়োজন ছিল মেমক্যাশে রেকর্ডের প্রতিলিপি এবং প্রতিলিপি বাইপাস করা ভুল বা ভুলের ক্ষেত্রে। আমাদের এই কৌশল বাস্তবায়নে সাহায্য করেছে mcrouter.

mcrouter

এটি একটি মেমক্যাশেড রাউটার যা ফেসবুক এর সমস্যা সমাধানের জন্য তৈরি করেছে। এটি মেমক্যাশেড টেক্সট প্রোটোকল সমর্থন করে, যা অনুমতি দেয় স্কেল memcached ইনস্টলেশন উন্মাদ অনুপাত mcrouter এর বিস্তারিত বর্ণনা পাওয়া যাবে এই ঘোষণা. অন্যান্য বিষয়ের মধ্যে ব্যাপক কার্যকারিতা এটি আমাদের যা প্রয়োজন তা করতে পারে:

• প্রতিলিপি রেকর্ড;
• কোনো ত্রুটি দেখা দিলে গ্রুপের অন্যান্য সার্ভারে ফলব্যাক করুন।

ব্যাবসার জন্য!

mcrouter কনফিগারেশন

আমি সরাসরি কনফিগারেশনে যাব:

{
 "pools": {
   "pool00": {
     "servers": [
       "mc-0.mc:11211",
       "mc-1.mc:11211",
       "mc-2.mc:11211"
   },
   "pool01": {
     "servers": [
       "mc-1.mc:11211",
       "mc-2.mc:11211",
       "mc-0.mc:11211"
   },
   "pool02": {
     "servers": [
       "mc-2.mc:11211",
       "mc-0.mc:11211",
       "mc-1.mc:11211"
 },
 "route": {
   "type": "OperationSelectorRoute",
   "default_policy": "AllMajorityRoute|Pool|pool00",
   "operation_policies": {
     "get": {
       "type": "RandomRoute",
       "children": [
         "MissFailoverRoute|Pool|pool02",
         "MissFailoverRoute|Pool|pool00",
         "MissFailoverRoute|Pool|pool01"
       ]
     }
   }
 }
}

কেন তিনটি পুল? কেন সার্ভার পুনরাবৃত্তি হয়? আসুন এটি কিভাবে কাজ করে তা খুঁজে বের করা যাক।

• এই কনফিগারেশনে, mcrouter সেই পথটি নির্বাচন করে যেখানে অনুরোধ পাঠানো হবে অনুরোধ কমান্ডের উপর ভিত্তি করে। লোকটি তাকে এই কথা বলে OperationSelectorRoute.
• GET অনুরোধ হ্যান্ডলারের কাছে যান RandomRouteযা এলোমেলোভাবে অ্যারে অবজেক্টের মধ্যে একটি পুল বা রুট নির্বাচন করে children. এই অ্যারের প্রতিটি উপাদান একটি হ্যান্ডলার হয় MissFailoverRoute, যা পুলের প্রতিটি সার্ভারের মধ্য দিয়ে যাবে যতক্ষণ না এটি ডেটা সহ একটি প্রতিক্রিয়া পায়, যা ক্লায়েন্টকে ফেরত দেওয়া হবে।
• যদি আমরা একচেটিয়াভাবে ব্যবহার করি MissFailoverRoute তিনটি সার্ভারের একটি পুল সহ, তারপরে সমস্ত অনুরোধগুলি প্রথমে প্রথম মেমক্যাশেড উদাহরণে আসবে এবং বাকিগুলি একটি অবশিষ্ট ভিত্তিতে অনুরোধগুলি গ্রহণ করবে যখন কোনও ডেটা নেই। যেমন একটি পদ্ধতির হতে হবে তালিকার প্রথম সার্ভারে অতিরিক্ত লোড, তাই বিভিন্ন ক্রমানুসারে ঠিকানা সহ তিনটি পুল তৈরি করার এবং এলোমেলোভাবে নির্বাচন করার সিদ্ধান্ত নেওয়া হয়েছিল।
• অন্যান্য সমস্ত অনুরোধ (এবং এটি একটি রেকর্ড) ব্যবহার করে প্রক্রিয়া করা হয় AllMajorityRoute. এই হ্যান্ডলারটি পুলের সমস্ত সার্ভারে অনুরোধ পাঠায় এবং তাদের মধ্যে কমপক্ষে N/2 + 1 থেকে প্রতিক্রিয়ার জন্য অপেক্ষা করে। ব্যবহার থেকে AllSyncRoute লেখার ক্রিয়াকলাপ পরিত্যাগ করতে হয়েছিল, যেহেতু এই পদ্ধতির জন্য ইতিবাচক প্রতিক্রিয়া প্রয়োজন всех গ্রুপের সার্ভারগুলি - অন্যথায় এটি ফিরে আসবে SERVER_ERROR. যদিও mcrouter উপলভ্য ক্যাশে ডেটা যোগ করবে, কলিং পিএইচপি ফাংশন একটি ত্রুটি ফেরত দেবে এবং নোটিশ তৈরি করবে। AllMajorityRoute এতটা কঠোর নয় এবং উপরে বর্ণিত সমস্যাগুলি ছাড়াই অর্ধেক ইউনিটকে পরিষেবা থেকে সরিয়ে নেওয়ার অনুমতি দেয়।

মূল অসুবিধা এই স্কিমটি হল যদি ক্যাশে সত্যিই কোনও ডেটা না থাকে, তাহলে ক্লায়েন্টের প্রতিটি অনুরোধের জন্য N মেমক্যাশেডের অনুরোধগুলি আসলে কার্যকর করা হবে - থেকে সব থেকে পুলে সার্ভার। আমরা পুলগুলিতে সার্ভারের সংখ্যা কমাতে পারি, উদাহরণস্বরূপ, দুটিতে: সঞ্চয়স্থানের নির্ভরযোগ্যতা বলিদান, আমরা পাইоঅনুরোধ থেকে অনুপস্থিত কী পর্যন্ত উচ্চ গতি এবং কম লোড।

NB: আপনি mcrouter শেখার জন্য দরকারী লিঙ্ক খুঁজে পেতে পারেন উইকিতে ডকুমেন্টেশন и প্রকল্পের সমস্যা (বন্ধগুলি সহ), বিভিন্ন কনফিগারেশনের পুরো স্টোরহাউসের প্রতিনিধিত্ব করে।

বিল্ডিং এবং mcrouter চলমান

আমাদের অ্যাপ্লিকেশন (এবং নিজেই memcached) Kubernetes-এ চলে - সেই অনুযায়ী, mcrouterও সেখানে অবস্থিত। জন্য ধারক সমাবেশ আমরা ব্যাবহার করি werf, কনফিগারেশন যার জন্য এই মত দেখাবে:

NB: নিবন্ধে দেওয়া তালিকাগুলি ভান্ডারে প্রকাশিত হয় ফ্লান্ট/মক্রোউটার.

configVersion: 1
project: mcrouter
deploy:
 namespace: '[[ env ]]'
 helmRelease: '[[ project ]]-[[ env ]]'
---
image: mcrouter
from: ubuntu:16.04
mount:
- from: tmp_dir
 to: /var/lib/apt/lists
- from: build_dir
 to: /var/cache/apt
ansible:
 beforeInstall:
 - name: Install prerequisites
   apt:
     name: [ 'apt-transport-https', 'tzdata', 'locales' ]
     update_cache: yes
 - name: Add mcrouter APT key
   apt_key:
     url: https://facebook.github.io/mcrouter/debrepo/xenial/PUBLIC.KEY
 - name: Add mcrouter Repo
   apt_repository:
     repo: deb https://facebook.github.io/mcrouter/debrepo/xenial xenial contrib
     filename: mcrouter
     update_cache: yes
 - name: Set timezone
   timezone:
     name: "Europe/Moscow"
 - name: Ensure a locale exists
   locale_gen:
     name: en_US.UTF-8
     state: present
 install:
 - name: Install mcrouter
   apt:
     name: [ 'mcrouter' ]

(werf.yaml)

... এবং এটি স্কেচ আউট হেলম চার্ট. মজার বিষয় হল প্রতিলিপি সংখ্যার উপর ভিত্তি করে শুধুমাত্র একটি কনফিগার জেনারেটর আছে (যদি কারও কাছে আরও স্বল্প ও মার্জিত বিকল্প থাকে তবে মন্তব্যে শেয়ার করুন):

{{- $count := (pluck .Values.global.env .Values.memcached.replicas | first | default .Values.memcached.replicas._default | int) -}}
{{- $pools := dict -}}
{{- $servers := list -}}
{{- /* Заполняем  массив двумя копиями серверов: "0 1 2 0 1 2" */ -}}
{{- range until 2 -}}
 {{- range $i, $_ := until $count -}}
   {{- $servers = append $servers (printf "mc-%d.mc:11211" $i) -}}
 {{- end -}}
{{- end -}}
{{- /* Смещаясь по массиву, получаем N срезов: "[0 1 2] [1 2 0] [2 0 1]" */ -}}
{{- range $i, $_ := until $count -}}
 {{- $pool := dict "servers" (slice $servers $i (add $i $count)) -}}
 {{- $_ := set $pools (printf "MissFailoverRoute|Pool|pool%02d" $i) $pool -}}
{{- end -}}
---
apiVersion: v1
kind: ConfigMap
metadata:
 name: mcrouter
data:
 config.json: |
   {
     "pools": {{- $pools | toJson | replace "MissFailoverRoute|Pool|" "" -}},
     "route": {
       "type": "OperationSelectorRoute",
       "default_policy": "AllMajorityRoute|Pool|pool00",
       "operation_policies": {
         "get": {
           "type": "RandomRoute",
           "children": {{- keys $pools | toJson }}
         }
       }
     }
   }

(10-mcrouter.yaml)

আমরা এটি পরীক্ষার পরিবেশে রোল আউট করি এবং পরীক্ষা করি:

# php -a
Interactive mode enabled

php > # Проверяем запись и чтение
php > $m = new Memcached();
php > $m->addServer('mcrouter', 11211);
php > var_dump($m->set('test', 'value'));
bool(true)
php > var_dump($m->get('test'));
string(5) "value"
php > # Работает! Тестируем работу сессий:
php > ini_set('session.save_handler', 'memcached');
php > ini_set('session.save_path', 'mcrouter:11211');
php > var_dump(session_start());
PHP Warning:  Uncaught Error: Failed to create session ID: memcached (path: mcrouter:11211) in php shell code:1
Stack trace:
#0 php shell code(1): session_start()
#1 {main}
  thrown in php shell code on line 1
php > # Не заводится… Попробуем задать session_id:
php > session_id("zzz");
php > var_dump(session_start());
PHP Warning:  session_start(): Cannot send session cookie - headers already sent by (output started at php shell code:1) in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning:  session_start(): Unable to clear session lock record in php shell code on line 1
PHP Warning:  session_start(): Failed to read session data: memcached (path: mcrouter:11211) in php shell code on line 1
bool(false)
php >

ত্রুটির পাঠ্যের জন্য অনুসন্ধান করা কোনও ফলাফল দেয়নি, তবে প্রশ্নের জন্য "মাইক্রোউটার পিএইচপি"সামনে ছিল প্রকল্পের প্রাচীনতম অমীমাংসিত সমস্যা - সমর্থনের অভাব memcached বাইনারি প্রোটোকল।

NB: মেমক্যাশেডের ASCII প্রোটোকলটি বাইনারি প্রোটোকলের চেয়ে ধীর, এবং সামঞ্জস্যপূর্ণ কী হ্যাশিংয়ের স্ট্যান্ডার্ড উপায়গুলি শুধুমাত্র বাইনারি প্রোটোকলের সাথে কাজ করে। কিন্তু এটি একটি নির্দিষ্ট ক্ষেত্রে সমস্যা তৈরি করে না।

কৌশলটি ব্যাগে রয়েছে: আপনাকে যা করতে হবে তা হল ASCII প্রোটোকলে স্যুইচ করুন এবং সবকিছু কাজ করবে...। তবে এক্ষেত্রে উত্তর খোঁজার অভ্যাস php.net এ ডকুমেন্টেশন একটি নিষ্ঠুর রসিকতা খেলেছে। আপনি সেখানে সঠিক উত্তর পাবেন না... যদি না, অবশ্যই, আপনি শেষ পর্যন্ত স্ক্রোল করেন, যেখানে বিভাগে থাকে "ব্যবহারকারীর অবদানকৃত নোট" বিশ্বস্ত হবে এবং অন্যায়ভাবে ডাউনভোটেড উত্তর.

হ্যাঁ, সঠিক বিকল্পের নাম memcached.sess_binary_protocol. এটি অবশ্যই নিষ্ক্রিয় করা উচিত, যার পরে সেশনগুলি কাজ শুরু করবে। যা অবশিষ্ট থাকে তা হল পিএইচপি সহ একটি পডে mcrouter সহ কন্টেইনার রাখা!

উপসংহার

এইভাবে, শুধুমাত্র অবকাঠামোগত পরিবর্তনের মাধ্যমে আমরা সমস্যাটি সমাধান করতে সক্ষম হয়েছি: মেমক্যাচড ফল্ট সহনশীলতার সমস্যাটি সমাধান করা হয়েছে, এবং ক্যাশে স্টোরেজের নির্ভরযোগ্যতা বৃদ্ধি করা হয়েছে। অ্যাপ্লিকেশনের সুস্পষ্ট সুবিধাগুলি ছাড়াও, এটি প্ল্যাটফর্মে কাজ করার সময় কৌশলের জন্য জায়গা দিয়েছে: যখন সমস্ত উপাদানের একটি রিজার্ভ থাকে, তখন প্রশাসকের জীবন ব্যাপকভাবে সরলীকৃত হয়। হ্যাঁ, এই পদ্ধতিরও ত্রুটি রয়েছে, এটি দেখতে একটি "ক্র্যাচ" এর মতো হতে পারে, তবে এটি যদি অর্থ সাশ্রয় করে, সমস্যাটিকে কবর দেয় এবং নতুনের কারণ না করে - কেন নয়?

দ্রষ্টব্য

আমাদের ব্লগেও পড়ুন:

• "ড্যাপের সাথে অনুশীলন করুন" (একটি উদাহরণ হিসাবে symfony-ডেমো ব্যবহার করে): অংশ 1 (সাধারণ অ্যাপ্লিকেশন তৈরি করা) и পার্ট 2 (হেলম ব্যবহার করে কুবারনেটসে ডকার ইমেজ স্থাপন করা);
• «কুবারনেটসের সাথে জীবন থেকে: কীভাবে HTTP সার্ভার স্পেনীয়দের পক্ষে ছিল না».

উত্স: www.habr.com