পরিষেবা জাল ব্যবহার পরিস্থিতি

বিঃদ্রঃ. অনুবাদ: এই নিবন্ধটির লেখক (লুক পারকিনস) হলেন সিএনসিএফ সংস্থার একজন ডেভেলপার অ্যাডভোকেট, যেটি লিঙ্কার্ড, এসএমআই (সার্ভিস মেশ ইন্টারফেস) এবং কুমা (প্রসঙ্গক্রমে, ইস্টিও কেন হয়) এর মতো ওপেন সোর্স প্রকল্পগুলির আবাসস্থল। এই তালিকায় নেই? .) আবারও DevOps সম্প্রদায়কে "পরিষেবা জাল" নামক ট্রেন্ডি হাইপ সম্পর্কে আরও ভালভাবে বোঝার চেষ্টা করছেন, তিনি 16টি বৈশিষ্ট্যযুক্ত ক্ষমতা তালিকাভুক্ত করেছেন যা এই জাতীয় সমাধানগুলি প্রদান করে।

আজ সেবা জাল - সফ্টওয়্যার প্রকৌশলের ক্ষেত্রে সবচেয়ে আলোচিত বিষয়গুলির মধ্যে একটি (এবং সঠিকভাবে তাই!) আমি মনে করি এই প্রযুক্তিটি অবিশ্বাস্যভাবে প্রতিশ্রুতিশীল এবং এটিকে ব্যাপকভাবে গৃহীত দেখতে চাই (যখন এটি অবশ্যই বোধগম্য হয়)। যাইহোক, এটি এখনও বেশিরভাগ মানুষের জন্য রহস্যের আভা দ্বারা বেষ্টিত। একই সময়ে, এমনকি যারা সুপরিচিত এটির সাথে, এটির সুবিধাগুলি এবং এটি ঠিক কী তা প্রকাশ করা প্রায়শই কঠিন হয় (সত্যিই আপনার সহ)। এই নিবন্ধে আমি বিভিন্ন তালিকা করে পরিস্থিতি সংশোধন করার চেষ্টা করব ব্যবহারের ক্ষেত্রে "পরিষেবা মেশ"*।

* বিঃদ্রঃ অনুবাদ: এখানে এবং আরও নিবন্ধে ঠিক এই অনুবাদটি ("পরিষেবা জাল") এখনও নতুন শব্দ পরিষেবা জালের জন্য ব্যবহার করা হবে।

তবে প্রথমে আমি কয়েকটি মন্তব্য করতে চাই:

• আমি কখনই সার্ভিস মেশের সাথে কাজ করিনি বা আমার নিজের শিক্ষার জন্য শুরু করা প্রকল্পের বাইরে সেগুলি ব্যবহার করিনি। অন্যদিকে, আমিই ছিলাম যিনি 2015 সালে টুইটারের অভ্যন্তরীণ পরিষেবা জালের জন্য একগুচ্ছ ডকুমেন্টেশন লিখেছিলেন (এটিকে তখন "সার্ভিস মেশ" বলা হত না) এবং ওয়েবসাইট এবং ডকুমেন্টেশনের বিকাশে অংশ নিয়েছিলাম লিংকার্ড, তাই যে কিছু মানে.
• আমার তালিকা আনুমানিক এবং অসম্পূর্ণ. আমার কাছে অজানা ব্যবহারের ক্ষেত্রে ভাল হতে পারে, এবং প্রযুক্তির বিকাশ এবং এর জনপ্রিয়তা বৃদ্ধির সাথে সাথে নতুন বিকল্পগুলি সম্ভবত উত্থাপিত হবে।
• একই সময়ে, প্রতিটি বিদ্যমান পরিষেবা জাল বাস্তবায়ন তালিকাভুক্ত সমস্ত ব্যবহারের ক্ষেত্রে সমর্থন করে না। অতএব, আমার বিবৃতি যেমন "পরিষেবা জাল পারে..." পড়া উচিত "ব্যক্তিগত, এবং সম্ভবত সমস্ত জনপ্রিয় পরিষেবা জাল বাস্তবায়ন করতে পারে..."।
• উদাহরণের ক্রম কোন পার্থক্য করে না।

সংক্ষিপ্ত তালিকা:

• পরিষেবা আবিষ্কার;
• জোড়া লাগানো;
• প্রমাণীকরণ এবং অনুমোদন;
• লোড ব্যালেন্সিং;
• সার্কিট ব্রেকিং;
• অটোস্কেলিং;
• ক্যানারি স্থাপনা;
• নীল-সবুজ স্থাপনা;
• স্বাস্থ্য পরীক্ষা;
• বিদ্যুৎ বিভ্রাট;
• ট্রাফিক মিররিং;
• অন্তরণ;
• অনুরোধের হার সীমিত করা, পুনরায় চেষ্টা করা এবং সময় শেষ করা;
• টেলিমেট্রি;
• নিরীক্ষা;
• ভিজ্যুয়ালাইজেশন

1. পরিষেবা আবিষ্কার

TL;DR: সাধারণ নাম ব্যবহার করে নেটওয়ার্কে অন্যান্য পরিষেবার সাথে সংযোগ করুন।

পরিষেবাগুলি পর্যাপ্ত নাম ব্যবহার করে স্বয়ংক্রিয়ভাবে একে অপরকে "খুঁজে" নিতে সক্ষম হওয়া উচিত - উদাহরণস্বরূপ, service.api.production, pets/staging বা cassandra. ক্লাউড এনভায়রনমেন্ট স্থিতিস্থাপক, এবং একটি একক নাম একটি পরিষেবার অনেক উদাহরণ লুকিয়ে রাখতে পারে। এটা স্পষ্ট যে এই ধরনের পরিস্থিতিতে সমস্ত আইপি ঠিকানা হার্ডকোড করা শারীরিকভাবে অসম্ভব।

এছাড়াও, যখন একটি পরিষেবা অন্যটি খুঁজে পায়, তখন এটি সেই পরিষেবাতে অনুরোধ পাঠাতে সক্ষম হওয়া উচিত ভয় ছাড়াই যে তারা তার ভাঙা উদাহরণের ইনপুট শেষ করবে। অন্য কথায়, পরিষেবা জালকে অবশ্যই সমস্ত পরিষেবা দৃষ্টান্তের স্বাস্থ্য পর্যবেক্ষণ করতে হবে এবং হোস্টের তালিকা যতটা সম্ভব আপ টু ডেট রাখতে হবে।

প্রতিটি পরিষেবা জাল ভিন্নভাবে পরিষেবা আবিষ্কার প্রক্রিয়া প্রয়োগ করে। এই মুহুর্তে, সবচেয়ে সাধারণ উপায় হল Kubernetes DNS এর মত বাহ্যিক প্রক্রিয়াগুলিতে অর্পণ করা। অতীতে টুইটারে আমরা এই উদ্দেশ্যে একটি নামকরণ পদ্ধতি ব্যবহার করেছি ফিনাগল. এছাড়াও, পরিষেবা জাল প্রযুক্তি কাস্টম নামকরণের প্রক্রিয়াগুলিকে উত্থান করা সম্ভব করে তোলে (যদিও আমি এখনও এই ধরনের কার্যকারিতা সহ কোনও এসএম বাস্তবায়ন দেখিনি)।

2. এনক্রিপশন

TL;DR: পরিষেবাগুলির মধ্যে এনক্রিপ্ট করা ট্র্যাফিক থেকে মুক্তি পান এবং এই প্রক্রিয়াটিকে স্বয়ংক্রিয় এবং স্কেলযোগ্য করুন৷

এটা জেনে ভালো লাগছে যে আক্রমণকারীরা আপনার অভ্যন্তরীণ নেটওয়ার্কে প্রবেশ করতে পারবে না। ফায়ারওয়ালগুলি এটির একটি দুর্দান্ত কাজ করে। কিন্তু হ্যাকার ভিতরে ঢুকলে কি হবে? তিনি কি ইন্ট্রা-সার্ভিস ট্রাফিকের সাথে যা খুশি তা করতে সক্ষম হবেন? আসুন আশা করি এই সব পরে ঘটবে না. এই দৃশ্যটি প্রতিরোধ করার জন্য, আপনার একটি জিরো-ট্রাস্ট নেটওয়ার্ক প্রয়োগ করা উচিত যেখানে পরিষেবাগুলির মধ্যে সমস্ত ট্র্যাফিক এনক্রিপ্ট করা হয়। বেশিরভাগ আধুনিক পরিষেবা মেশগুলি পারস্পরিক মাধ্যমে এটি অর্জন করে TLS এর (পারস্পরিক TLS, mTLS)। কিছু ক্ষেত্রে, mTLS সম্পূর্ণ মেঘ এবং ক্লাস্টারে কাজ করে (আমি মনে করি আন্তঃগ্রহীয় যোগাযোগগুলি একদিন একইভাবে সাজানো হবে)।

অবশ্যই, mTLS পরিষেবা জালের জন্য ঐচ্ছিক. প্রতিটি পরিষেবা তার নিজস্ব TLS-এর যত্ন নিতে পারে, কিন্তু এর মানে হল যে আপনাকে সার্টিফিকেট তৈরি করার একটি উপায় খুঁজে বের করতে হবে, সেগুলিকে পরিষেবা হোস্টগুলিতে বিতরণ করতে হবে এবং ফাইলগুলি থেকে এই শংসাপত্রগুলি লোড করবে এমন অ্যাপ্লিকেশনে কোড অন্তর্ভুক্ত করতে হবে৷ হ্যাঁ, নিয়মিত বিরতিতে এই শংসাপত্রগুলি পুনর্নবীকরণ করতে ভুলবেন না। পরিষেবা মেশ করে স্বয়ংক্রিয়ভাবে mTLS এর মতো সিস্টেমের সাথে স্পাইফ, যা, ঘুরে, সার্টিফিকেট প্রদান এবং ঘূর্ণন প্রক্রিয়া স্বয়ংক্রিয়.

3. প্রমাণীকরণ এবং অনুমোদন

TL;DR: অনুরোধকারী কে তা নির্ধারণ করুন এবং অনুরোধটি পরিষেবাতে পৌঁছানোর আগে তাদের কী করার অনুমতি দেওয়া হয়েছে তা নির্ধারণ করুন।

সেবা প্রায়ই জানতে চান কে অনুরোধ (প্রমাণিকরণ) সম্পাদন করে এবং এই তথ্য ব্যবহার করে সিদ্ধান্ত নেয় যে একটি প্রদত্ত সত্তা করতে অনুমতি দেওয়া হয় (অনুমোদন)। এই ক্ষেত্রে, সর্বনাম "কে" লুকাতে পারে:

1. অন্যান্য সেবা. একে "প্রমাণিকরণ" বলা হয় সমকক্ষ ব্যক্তি" উদাহরণস্বরূপ, পরিষেবা web পরিষেবাটি অ্যাক্সেস করতে চায় db. সার্ভিস মেশ সাধারণত mTLS ব্যবহার করে এই ধরনের সমস্যার সমাধান করে: এই ক্ষেত্রে সার্টিফিকেট প্রয়োজনীয় শনাক্তকারী হিসেবে কাজ করে।
2. কিছু মানব ব্যবহারকারী। একে "প্রমাণিকরণ" বলা হয় অনুরোধ" উদাহরণস্বরূপ, ব্যবহারকারী haxor69 একটি নতুন বাতি কিনতে চায়। সার্ভিস মেশ বিভিন্ন প্রক্রিয়া প্রদান করে, যেমন জেএসএন ওয়েব টোকেন.

   আমরা অনেকেই অ্যাপ্লিকেশন কোডে এটি করেছি। একটি অনুরোধ আসে, আমরা টেবিলের মাধ্যমে তাকান users, ব্যবহারকারী খুঁজুন এবং পাসওয়ার্ড তুলনা করুন, তারপর কলাম পরীক্ষা করুন permissions ইত্যাদি একটি পরিষেবা জালের ক্ষেত্রে, অনুরোধটি এমনকি পরিষেবাতে পৌঁছানোর আগেই এটি ঘটে।

অনুরোধটি কার কাছ থেকে এসেছে তা আমরা একবার প্রতিষ্ঠিত করার পর, এই সত্তাটি কী করতে পারবে তা আমাদের নির্ধারণ করতে হবে। কিছু পরিষেবা মেশ আপনাকে YAML ফাইল হিসাবে বা কমান্ড লাইনে মৌলিক নীতিগুলি (কে কী করতে পারে সে সম্পর্কে) সেট করতে দেয়, অন্যরা ফ্রেমওয়ার্কগুলির সাথে একীকরণের প্রস্তাব দেয় যেমন পলিসি এজেন্ট খুলুন. আপনার পরিষেবাগুলির জন্য চূড়ান্ত লক্ষ্য হল যে কোনও অনুরোধ গ্রহণ করা, নিরাপদে অনুমান করে এটি একটি বিশ্বস্ত উত্স থেকে এসেছে৷ и এই কর্ম অনুমোদিত.

4. লোড ব্যালেন্সিং

TL;DR: একটি নির্দিষ্ট প্যাটার্ন অনুযায়ী পরিষেবার দৃষ্টান্ত জুড়ে লোড বিতরণ করুন।

একটি পরিষেবা বিভাগের মধ্যে একটি "পরিষেবা" প্রায়শই অনেকগুলি অভিন্ন উদাহরণ নিয়ে গঠিত। উদাহরণস্বরূপ, আজ সেবা cache 5 কপি নিয়ে গঠিত, এবং আগামীকাল তাদের সংখ্যা বেড়ে 11 হতে পারে। অনুরোধ পাঠানো হয়েছে cache, একটি নির্দিষ্ট উদ্দেশ্য অনুযায়ী বিতরণ করা আবশ্যক. উদাহরণস্বরূপ, লেটেন্সি মিনিমাইজ করুন বা একটি ওয়ার্কিং ইন্সট্যান্সে যাওয়ার সম্ভাবনাকে সর্বাধিক করুন৷ সর্বাধিক ব্যবহৃত অ্যালগরিদম হল রাউন্ড-রবিন, তবে আরও অনেকগুলি রয়েছে - উদাহরণস্বরূপ, ওজনযুক্ত পদ্ধতি (ভারী) প্রশ্ন (আপনি পছন্দের লক্ষ্য নির্বাচন করতে পারেন), রিং করুন (রিং) হ্যাশিং (আপস্ট্রিম হোস্ট জুড়ে সামঞ্জস্যপূর্ণ হ্যাশিং ব্যবহার করে) বা সর্বনিম্ন অনুরোধের পদ্ধতি (অগ্রাধিকার দেওয়া হয় সবচেয়ে কম অনুরোধের ক্ষেত্রে)।

ক্লাসিক ব্যালেন্সারগুলির অন্যান্য ফাংশন রয়েছে, যেমন HTTP ক্যাশিং এবং DDoS সুরক্ষা, কিন্তু তারা পূর্ব-পশ্চিম ট্র্যাফিকের জন্য খুব বেশি প্রাসঙ্গিক নয় (অর্থাৎ, ডেটা সেন্টারের মধ্যে প্রবাহিত ট্রাফিকের জন্য - প্রায় ট্রান্সল।) (পরিষেবা জালের সাধারণ সুযোগ)। অবশ্যই, লোড ব্যালেন্সিংয়ের জন্য একটি পরিষেবা জাল ব্যবহার করার প্রয়োজন নেই, তবে এটি আপনাকে কেন্দ্রীভূত নিয়ন্ত্রণ স্তর থেকে প্রতিটি পরিষেবার জন্য ভারসাম্য নীতি সেট এবং নিয়ন্ত্রণ করতে দেয়, যার ফলে নেটওয়ার্ক স্ট্যাকে পৃথক লোড ব্যালেন্সার চালানো এবং কনফিগার করার প্রয়োজনীয়তা দূর হয়। .

5. সার্কিট ব্রেকিং

TL;DR: সমস্যাযুক্ত পরিষেবাতে ট্রাফিক বন্ধ করুন এবং সবচেয়ে খারাপ পরিস্থিতিতে ক্ষতি নিয়ন্ত্রণ করুন।

যদি কোনও কারণে পরিষেবাটি ট্র্যাফিকের সাথে মানিয়ে নিতে না পারে তবে পরিষেবা জাল এই সমস্যাটি সমাধানের জন্য বেশ কয়েকটি বিকল্প সরবরাহ করে (অন্যগুলি উপযুক্ত বিভাগে আলোচনা করা হবে)। সার্কিট ব্রেকিং ট্রাফিক থেকে একটি পরিষেবা সংযোগ বিচ্ছিন্ন করার জন্য সবচেয়ে গুরুতর বিকল্প। যাইহোক, নিজের দ্বারা এটি অর্থপূর্ণ নয় - একটি ব্যাকআপ পরিকল্পনা প্রয়োজন। পিঠ চাপ দেওয়া হতে পারে (ফিরতি চাপ) যে পরিষেবাগুলি অনুরোধ করে (শুধু এটির জন্য আপনার পরিষেবা জাল কনফিগার করতে ভুলবেন না!), বা, উদাহরণস্বরূপ, স্ট্যাটাস পৃষ্ঠাটিকে লাল রঙ করা এবং ব্যবহারকারীদের "পতনশীল তিমি" সহ পৃষ্ঠার অন্য সংস্করণে পুনর্নির্দেশ করা ("টুইটার হল নিচে")।

পরিষেবা জাল শুধুমাত্র আপনাকে সংজ্ঞায়িত করার অনুমতি দেয় না যখন শাটডাউন অনুসরণ করবে এবং যে এই অনুসরণ করা হবে. এই ক্ষেত্রে, "কখন" নির্দিষ্ট পরামিতিগুলির যেকোনো সমন্বয় অন্তর্ভুক্ত করতে পারে: একটি নির্দিষ্ট সময়ের জন্য অনুরোধের মোট সংখ্যা, সমান্তরাল সংযোগের সংখ্যা, মুলতুবি থাকা অনুরোধ, সক্রিয় পুনঃপ্রচার ইত্যাদি।

আপনি সম্ভবত সার্কিট ব্রেকিং এর অপব্যবহার করতে চান না, কিন্তু জরুরী পরিস্থিতিতে আপনার ব্যাকআপ প্ল্যান আছে জেনে ভালো লাগছে।

6. অটোস্কেলিং

TL;DR: নির্দিষ্ট মানদণ্ডের উপর নির্ভর করে পরিষেবা দৃষ্টান্তের সংখ্যা বৃদ্ধি বা হ্রাস করুন।

পরিষেবা মেশগুলি শিডিউলকারী নয়, তাই তারা তা করে না বহন করা নিজেকে স্কেলিং যাইহোক, তারা তথ্য প্রদান করতে পারে কোন পরিকল্পনাকারীরা তাদের সিদ্ধান্তের ভিত্তি করবে। যেহেতু পরিষেবা মেশগুলির পরিষেবাগুলির মধ্যে সমস্ত ট্র্যাফিক অ্যাক্সেস রয়েছে, তাই তাদের কাছে কী ঘটছে সে সম্পর্কে বিস্তৃত তথ্য রয়েছে: কোন পরিষেবাগুলি সমস্যার সম্মুখীন হচ্ছে, কোন পরিষেবাগুলি খুব হালকাভাবে লোড করা হয়েছে (তাদের জন্য বরাদ্দ করা ক্ষমতা নষ্ট হয়ে গেছে) ইত্যাদি৷

উদাহরণস্বরূপ, কুবারনেটস পডের সিপিইউ এবং মেমরি ব্যবহারের উপর ভিত্তি করে পরিষেবাগুলিকে স্কেল করে (আমাদের প্রতিবেদন দেখুন"কুবারনেটসে অটোস্কেলিং এবং রিসোর্স ম্যানেজমেন্ট" - প্রায়. অনুবাদ।), কিন্তু আপনি যদি অন্য কোনো মেট্রিকের (আমাদের ক্ষেত্রে, ট্রাফিক সম্পর্কিত) উপর ভিত্তি করে স্কেল করার সিদ্ধান্ত নেন, তাহলে আপনার একটি বিশেষ মেট্রিক প্রয়োজন হবে। ব্যবস্থাপনা এটার মত দেখায় কিভাবে এটি করতে হয় দূত, ইসতিও и প্রমিথিউস, কিন্তু প্রক্রিয়া নিজেই বেশ জটিল. আমরা চাই যে পরিষেবা জাল আমাদেরকে "পরিষেবার দৃষ্টান্তের সংখ্যা বাড়ান" এর মতো শর্তগুলি সেট করার অনুমতি দিয়ে এটিকে সহজ করে তুলুক auth, যদি মুলতুবি থাকা অনুরোধের সংখ্যা এক মিনিটের মধ্যে থ্রেশহোল্ড অতিক্রম করে।"

7. ক্যানারি স্থাপনা

TL;DR: ব্যবহারকারীদের একটি উপসেটে নতুন বৈশিষ্ট্য বা পরিষেবা সংস্করণ পরীক্ষা করুন।

ধরা যাক আপনি একটি SaaS পণ্য তৈরি করছেন এবং এর একটি দুর্দান্ত নতুন সংস্করণ রোল আউট করতে চান৷ আপনি এটি মঞ্চায়নে পরীক্ষা করেছেন এবং এটি দুর্দান্ত কাজ করেছে। তবে বাস্তব পরিস্থিতিতে তার আচরণ সম্পর্কে এখনও কিছু উদ্বেগ রয়েছে। অন্য কথায়, ব্যবহারকারীর আস্থার ঝুঁকি না নিয়ে আপনাকে আসল সমস্যাগুলির উপর নতুন সংস্করণটি পরীক্ষা করতে হবে। ক্যানারি স্থাপনা এই জন্য মহান. তারা আপনাকে ব্যবহারকারীদের একটি উপসেটের কাছে একটি নতুন বৈশিষ্ট্য প্রদর্শন করার অনুমতি দেয়। এই উপসেটটিতে সবচেয়ে বিশ্বস্ত ব্যবহারকারী বা যারা পণ্যের বিনামূল্যের সংস্করণের সাথে কাজ করেন বা যারা "গিনিপিগ" হওয়ার ইচ্ছা প্রকাশ করেছেন তাদের নিয়ে গঠিত হতে পারে।

পরিষেবা মেশগুলি আপনাকে এমন মানদণ্ড নির্দিষ্ট করার অনুমতি দেয় যা নির্ধারণ করে যে কে অ্যাপ্লিকেশনটির কোন সংস্করণ দেখতে পাবে এবং সেই অনুযায়ী ট্র্যাফিক রাউটিং করে। যাইহোক, পরিষেবাগুলির জন্য কিছুই পরিবর্তন হয় না। পরিষেবাটির সংস্করণ 1.0 বিশ্বাস করে যে সমস্ত অনুরোধ ব্যবহারকারীদের কাছ থেকে আসে যাদের এটি দেখতে হবে এবং সংস্করণ 1.1 তার ব্যবহারকারীদের জন্য একই বিশ্বাস করে৷ ইতিমধ্যে, আপনি পুরানো এবং নতুন সংস্করণগুলির মধ্যে ট্র্যাফিকের শতাংশ পরিবর্তন করতে পারেন, ক্রমবর্ধমান ব্যবহারকারীদের নতুন সংস্করণে পুনঃনির্দেশিত করতে পারেন যদি এটি স্থিরভাবে কাজ করে এবং আপনার "গিনিপিগ" এগিয়ে যায়৷

8. নীল-সবুজ স্থাপনা

TL;DR: একটি দুর্দান্ত নতুন বৈশিষ্ট্য রোল আউট করুন, তবে অবিলম্বে সবকিছু ফিরিয়ে নেওয়ার জন্য প্রস্তুত থাকুন।

অর্থ নীল-সবুজ স্থাপনা একটি নতুন "নীল" পরিষেবা রোল আউট করতে হবে, এটিকে পুরানো, "সবুজ" পরিষেবার সমান্তরালে চালু করা হবে৷ যদি সবকিছু মসৃণভাবে চলে যায় এবং নতুন পরিষেবাটি ভালভাবে কাজ করে, তবে পুরানোটি ধীরে ধীরে অক্ষম করা যেতে পারে। (হায়, একদিন এই নতুন "নীল" পরিষেবা "সবুজ" এর ভাগ্যের পুনরাবৃত্তি করবে এবং অদৃশ্য হয়ে যাবে...) নীল-সবুজ স্থাপনাগুলি ক্যানারিগুলির থেকে আলাদা যে নতুন ফাংশনটি কভার করে সবাই একবারে ব্যবহারকারী (অংশ নয়); এখানে বিন্দু হল একটি "নিরাপদ বন্দর" প্রস্তুত থাকা যদি কিছু ভুল হয়ে যায়।

পরিষেবা মেশগুলি একটি "নীল" পরিষেবা পরীক্ষা করার জন্য একটি খুব সুবিধাজনক উপায় অফার করে এবং সমস্যার ক্ষেত্রে অবিলম্বে একটি কার্যকরী "সবুজ" পরিষেবাতে স্যুইচ করে৷ এই সত্যটি উল্লেখ করার মতো নয় যে তারা "নীল" এর কাজ সম্পর্কে প্রচুর তথ্য সরবরাহ করে (নীচে "টেলিমেট্রি" দেখুন), যা এটি সম্পূর্ণ অপারেশনের জন্য প্রস্তুত কিনা তা বুঝতে সহায়তা করে।

বিঃদ্রঃ. অনুবাদ: আপনি কুবারনেটসে (উল্লিখিত ক্যানারি, নীল/সবুজ এবং অন্যান্য সহ) বিভিন্ন স্থাপনার কৌশল সম্পর্কে আরও পড়তে পারেন এই নিবন্ধটি.

9. স্বাস্থ্য পরীক্ষা

TL;DR: কোন পরিষেবার দৃষ্টান্তগুলি কার্যকরী তা ট্র্যাক করুন এবং যেগুলি আর কার্যকর নয় সেগুলির প্রতিক্রিয়া জানান৷

স্বাস্থ্য পরীক্ষা (স্বাস্থ্য পরীক্ষা) পরিষেবার দৃষ্টান্তগুলি ট্রাফিক গ্রহণ এবং প্রক্রিয়া করার জন্য প্রস্তুত কিনা তা সিদ্ধান্ত নিতে সাহায্য করে৷ উদাহরণস্বরূপ, HTTP পরিষেবাগুলির ক্ষেত্রে, একটি স্বাস্থ্য পরীক্ষা শেষ পয়েন্টে একটি GET অনুরোধের মতো দেখতে পারে /health... উত্তর 200 OK দৃষ্টান্তটি স্বাস্থ্যকর, অন্য কোন - এর মানে হবে যে এটি ট্রাফিক গ্রহণের জন্য প্রস্তুত নয়। পরিষেবা মেশগুলি আপনাকে কার্যকারিতা পরীক্ষা করা হবে এবং এই চেকটি যে ফ্রিকোয়েন্সি দিয়ে করা হবে তা উভয়ই নির্দিষ্ট করতে দেয়। এই তথ্য তারপর অন্যান্য উদ্দেশ্যে ব্যবহার করা যেতে পারে - উদাহরণস্বরূপ, লোড ব্যালেন্সিং এবং সার্কিট ব্রেকিং এর জন্য।

সুতরাং, স্বাস্থ্য পরীক্ষা একটি স্বতন্ত্র ব্যবহারের ক্ষেত্রে নয়, তবে সাধারণত অন্যান্য লক্ষ্য অর্জনের জন্য ব্যবহৃত হয়। এছাড়াও, স্বাস্থ্য পরীক্ষার ফলাফলের উপর নির্ভর করে, অন্যান্য পরিষেবার জাল লক্ষ্যমাত্রার বাহ্যিক পদক্ষেপের প্রয়োজন হতে পারে: উদাহরণস্বরূপ, স্ট্যাটাস পৃষ্ঠা আপডেট করা, গিটহাবে একটি সমস্যা তৈরি করা, বা একটি JIRA টিকেট পূরণ করা। এবং পরিষেবা জাল এই সমস্ত স্বয়ংক্রিয় করার জন্য একটি সুবিধাজনক প্রক্রিয়া অফার করে।

10. লোডশেডিং

TL;DR: ব্যবহারের একটি অস্থায়ী স্পাইক প্রতিক্রিয়া হিসাবে ট্রাফিক পুনর্নির্দেশ.

যদি একটি নির্দিষ্ট পরিষেবা ট্র্যাফিকের সাথে ওভারলোড হয়, আপনি সাময়িকভাবে এই ট্র্যাফিকের কিছু অংশ অন্য অবস্থানে পুনঃনির্দেশ করতে পারেন (অর্থাৎ, "ডাম্প", "স্থানান্তর" (শেড) তিনি সেখানে)। উদাহরণস্বরূপ, একটি ব্যাকআপ পরিষেবা বা ডেটা সেন্টারে বা স্থায়ীভাবে পালসার বিষয় ফলস্বরূপ, পরিষেবাটি ক্র্যাশ হওয়ার পরিবর্তে এবং সবকিছু সম্পূর্ণভাবে প্রক্রিয়াকরণ বন্ধ করার পরিবর্তে কিছু অনুরোধ প্রক্রিয়া করতে থাকবে। সার্কিট ভাঙ্গার চেয়ে লোডশেডিং বাঞ্ছনীয়, তবে এটির অপব্যবহার করা এখনও যুক্তিযুক্ত নয়। এটি ক্যাসকেডিং ব্যর্থতা প্রতিরোধ করতে সাহায্য করে যা ডাউনস্ট্রিম পরিষেবাগুলিকে ক্র্যাশ করে।

11. ট্রাফিক সমান্তরালকরণ/মিররিং

TL;DR: একবারে একাধিক জায়গায় একটি অনুরোধ পাঠান।

কখনও কখনও একবারে একাধিক পরিষেবাতে একটি অনুরোধ (বা অনুরোধের একটি নির্দিষ্ট নির্বাচন) পাঠানোর প্রয়োজন হয়। একটি সাধারণ উদাহরণ হল প্রোডাকশন ট্র্যাফিকের অংশ একটি স্টেজিং পরিষেবাতে পাঠানো। প্রধান উৎপাদন ওয়েব সার্ভার ডাউনস্ট্রিম পরিষেবাতে একটি অনুরোধ পাঠায় products.production এবং শুধুমাত্র তার কাছে। এবং পরিষেবা জাল বুদ্ধিমানের সাথে এই অনুরোধটি অনুলিপি করে এবং এটি পাঠায় products.staging, যা ওয়েব সার্ভার এমনকি সচেতন নয়।

আরেকটি সম্পর্কিত পরিষেবা জাল ব্যবহারের ক্ষেত্রে যা ট্র্যাফিক সমান্তরালকরণের উপরে প্রয়োগ করা যেতে পারে রিগ্রেশন পরীক্ষা. এটি পরিষেবার বিভিন্ন সংস্করণে একই অনুরোধ পাঠানো এবং সমস্ত সংস্করণ একই আচরণ করে কিনা তা পরীক্ষা করে। আমি এখনও একটি সমন্বিত রিগ্রেশন টেস্টিং সিস্টেমের সাথে একটি পরিষেবা জাল বাস্তবায়ন জুড়ে আসিনি ডিফি, কিন্তু ধারণা নিজেই প্রতিশ্রুতিশীল বলে মনে হচ্ছে.

12. নিরোধক

TL;DR: মিনি-নেটওয়ার্কগুলিতে আপনার পরিষেবার জাল ভেঙে দিন।

এই নামেও পরিচিত বিভাজনবিচ্ছিন্নতা হল একটি পরিষেবা জালকে যৌক্তিকভাবে স্বতন্ত্র অংশে বিভক্ত করার শিল্প যা একে অপরের সম্পর্কে কিছুই জানে না। বিচ্ছিন্নতা কিছুটা ভার্চুয়াল প্রাইভেট নেটওয়ার্ক তৈরি করার মতো। মৌলিক পার্থক্য হল যে আপনি এখনও পরিষেবা জালের সমস্ত সুবিধা উপভোগ করতে পারেন (যেমন পরিষেবা আবিষ্কার), তবে অতিরিক্ত নিরাপত্তা সহ। উদাহরণস্বরূপ, যদি একজন আক্রমণকারী একটি সাবনেটে একটি পরিষেবা প্রবেশ করতে সক্ষম হয়, তবে সে অন্যান্য সাবনেটে কোন পরিষেবাগুলি চলছে তা দেখতে বা তাদের ট্র্যাফিক বাধা দিতে সক্ষম হবে না৷

এছাড়াও, সুবিধাগুলি সাংগঠনিকও হতে পারে। আপনি আপনার কোম্পানির কাঠামোর উপর ভিত্তি করে আপনার পরিষেবাগুলি সাবনেট করতে চাইতে পারেন এবং পুরো পরিষেবা জালটি মাথায় রাখার জ্ঞানীয় লোড থেকে বিকাশকারীদের মুক্তি দিতে পারেন৷

13. অনুরোধ হার সীমিত, পুনরায় চেষ্টা এবং সময়সীমা

TL;DR: আপনার কোডবেসে নিটি-রিটি রিকুয়েস্ট ম্যানেজমেন্ট টাস্কগুলিকে আর অন্তর্ভুক্ত করতে হবে না।

এই সমস্ত জিনিসগুলিকে পৃথক ব্যবহারের ক্ষেত্রে বিবেচনা করা যেতে পারে, তবে আমি একটি সাধারণ বৈশিষ্ট্যের কারণে সেগুলিকে একত্রিত করার সিদ্ধান্ত নিয়েছি: তারা সাধারণত অ্যাপ্লিকেশন লাইব্রেরি দ্বারা পরিচালিত অনুরোধের জীবনচক্র পরিচালনার কাজগুলি গ্রহণ করে। আপনি যদি রুবি অন রেলে একটি ওয়েব সার্ভার তৈরি করেন (একটি পরিষেবা জালের সাথে একত্রিত নয়) যা এর মাধ্যমে ব্যাকএন্ড পরিষেবাগুলির জন্য অনুরোধ করে gRPC, N অনুরোধ ব্যর্থ হলে কি করতে হবে তা আবেদনকে সিদ্ধান্ত নিতে হবে। আপনাকে এটিও খুঁজে বের করতে হবে যে এই পরিষেবাগুলি একটি বিশেষ লাইব্রেরি ব্যবহার করে এই প্যারামিটারগুলিকে কতটা ট্র্যাফিক প্রক্রিয়া করতে এবং হার্ডকোড করতে সক্ষম হবে। এছাড়াও, অ্যাপ্লিকেশনটিকে সিদ্ধান্ত নিতে হবে কখন হাল ছেড়ে দেওয়ার সময় হবে এবং অনুরোধটি শেষ হয়ে যেতে দিন (সময় শেষ হওয়ার উপর ভিত্তি করে)। এবং উপরের প্যারামিটারগুলির যে কোনও পরিবর্তন করার জন্য, ওয়েব সার্ভারটিকে বন্ধ করতে হবে, পুনরায় কনফিগার করতে হবে এবং আবার শুরু করতে হবে।

এই কাজগুলিকে একটি পরিষেবা জালে অফলোড করার অর্থ কেবল পরিষেবা বিকাশকারীদের সেগুলি সম্পর্কে ভাবতে হবে না, তবে সেগুলি আরও বিশ্বব্যাপী দেখা যেতে পারে। যদি পরিষেবার একটি জটিল চেইন ব্যবহার করা হয়, A -> B -> C -> D -> E বলুন, অনুরোধের সমগ্র জীবনচক্রকে অবশ্যই বিবেচনায় নিতে হবে। যদি কাজটি পরিষেবা C-তে সময়সীমা বাড়ানোর জন্য হয়, তবে এটি একবারে করা যৌক্তিক, এবং অংশে নয়: পরিষেবা কোড আপডেট করে এবং পুল অনুরোধ গ্রহণ না হওয়া পর্যন্ত অপেক্ষা করা এবং CI সিস্টেম আপডেট করা পরিষেবাটি স্থাপন করে।

14. টেলিমেট্রি

TL;DR: পরিষেবাগুলি থেকে সমস্ত প্রয়োজনীয় (এবং পুরোপুরি নয়) তথ্য সংগ্রহ করুন।

টেলিমেট্রি একটি সাধারণ শব্দ যা মেট্রিক্স, বিতরণ ট্রেসিং এবং লগ অন্তর্ভুক্ত করে। পরিষেবা মেশগুলি তিনটি ধরণের ডেটা সংগ্রহ এবং প্রক্রিয়াকরণের জন্য প্রক্রিয়া সরবরাহ করে। এখানেই জিনিসগুলি একটু ঝাপসা হয়ে যায় কারণ সম্ভাব্য বিকল্পের সংখ্যা খুব বেশি। মেট্রিক্স সংগ্রহ করার জন্য আছে প্রমিথিউস এবং অন্যান্য সরঞ্জাম যা লগ সংগ্রহ করতে ব্যবহার করা যেতে পারে সাবলীল, লোকি, ভেক্টর এবং অন্যদের (উদাহরণস্বরূপ ClickHouse সঙ্গে আমাদের লগ ঘর K8 এর জন্য - প্রায়। অনুবাদ।), বিতরণ ট্রেসিং জন্য আছে একধরনের বিশুদ্ধ পশমের কাপড় এবং তাই প্রতিটি পরিষেবা জাল কিছু সরঞ্জাম সমর্থন করতে পারে এবং অন্যদের নয়। এটি প্রকল্প করতে পারে কিনা তা দেখতে আকর্ষণীয় হবে টেলিমেট্রি খুলুন কিছু অভিন্নতা প্রদান.

এই ক্ষেত্রে, পরিষেবা জাল প্রযুক্তির সুবিধা হল যে সাইডকার কন্টেইনারগুলি নীতিগতভাবে, তাদের পরিষেবাগুলি থেকে উপরের সমস্ত ডেটা সংগ্রহ করতে পারে। অন্য কথায়, আপনার হাতে একটি একক টেলিমেট্রি সংগ্রহ ব্যবস্থা রয়েছে এবং পরিষেবা জাল এই সমস্ত তথ্য বিভিন্ন উপায়ে প্রক্রিয়া করতে পারে। উদাহরণ স্বরূপ:

• CLI-তে একটি নির্দিষ্ট পরিষেবা থেকে টেল লগ;
• পরিষেবা জাল ড্যাশবোর্ড থেকে অনুরোধের ভলিউম নিরীক্ষণ;
• বিতরণ করা ট্রেস সংগ্রহ করুন এবং সেগুলিকে জাইগারের মতো একটি সিস্টেমে ফরোয়ার্ড করুন।

মনোযোগ, বিষয়গত রায়: সাধারণভাবে বলতে গেলে, টেলিমেট্রি এমন একটি ক্ষেত্র যেখানে পরিষেবা জাল থেকে শক্তিশালী হস্তক্ষেপ অবাঞ্ছিত। প্রাথমিক তথ্য সংগ্রহ করা এবং ফ্লাইতে কিছু সুবর্ণ মেট্রিক্স যেমন অনুরোধের সাফল্যের হার এবং লেটেন্সি ট্র্যাক করা ঠিক আছে, তবে আসুন আমরা আশা করি যে আমরা ফ্রাঙ্কেনস্টাইন স্ট্যাকগুলি আবির্ভূত হতে দেখব না যা বিশেষ সিস্টেমগুলিকে প্রতিস্থাপন করার চেষ্টা করে, যার মধ্যে কিছু ইতিমধ্যে নিজেদের প্রমাণ করেছে এবং ভালভাবে অধ্যয়ন করেছে .

15. নিরীক্ষা

TL;DR: যারা ইতিহাসের পাঠ ভুলে যায় তারা তাদের পুনরাবৃত্তি করতে পারে।

অডিটিং হল একটি সিস্টেমে গুরুত্বপূর্ণ ঘটনা পর্যবেক্ষণের শিল্প। একটি পরিষেবা জালের ক্ষেত্রে, এর অর্থ হতে পারে ট্র্যাকিং কে নির্দিষ্ট পরিষেবার জন্য নির্দিষ্ট প্রান্তে অনুরোধ করেছে বা গত মাসে কতবার কিছু নিরাপত্তা-সম্পর্কিত ঘটনা ঘটেছে।

এটা স্পষ্ট যে অডিটিং টেলিমেট্রির সাথে খুব ঘনিষ্ঠভাবে সম্পর্কিত। পার্থক্য হল যে টেলিমেট্রি সাধারণত উত্পাদনশীলতা এবং প্রযুক্তিগত অখণ্ডতার মতো জিনিসগুলির সাথে যুক্ত থাকে, যখন অডিটিং আইনী এবং অন্যান্য বিষয়গুলির সাথে সম্পর্কিত হতে পারে যা কঠোরভাবে প্রযুক্তিগত ক্ষেত্রের বাইরে যায় (উদাহরণস্বরূপ, GDPR - ডেটা সুরক্ষা সম্পর্কিত EU সাধারণ প্রবিধানের সাথে সম্মতি)।

16. ভিজ্যুয়ালাইজেশন

TL;DR: লং লাইভ React.js - অভিনব ইন্টারফেসের একটি অক্ষয় উৎস।

একটি ভাল শব্দ হতে পারে, কিন্তু আমি এটা জানি না. আমি কেবল একটি পরিষেবা জাল বা এর কিছু উপাদানগুলির একটি গ্রাফিক্যাল উপস্থাপনা বোঝাতে চাই। এই ভিজ্যুয়ালাইজেশনগুলিতে গড় বিলম্ব, সাইডকার কনফিগারেশন তথ্য, স্বাস্থ্য পরীক্ষার ফলাফল এবং সতর্কতার মতো সূচক অন্তর্ভুক্ত থাকতে পারে।

একটি পরিষেবা-ভিত্তিক পরিবেশে কাজ করা মহামহিম দ্য মনোলিথের তুলনায় অনেক বেশি জ্ঞানীয় লোড জড়িত। অতএব, জ্ঞানীয় চাপ যে কোনও মূল্যে হ্রাস করা উচিত। একটি বোতামে ক্লিক করার এবং পছন্দসই ফলাফল পাওয়ার ক্ষমতা সহ একটি পরিষেবা জালের জন্য একটি সাধারণ গ্রাফিকাল ইন্টারফেস এই প্রযুক্তির জনপ্রিয়তা বৃদ্ধির জন্য নির্ণায়ক হতে পারে।

তালিকায় অন্তর্ভুক্ত করা হয়নি

আমি মূলত তালিকায় আরও কয়েকটি ব্যবহারের ক্ষেত্রে অন্তর্ভুক্ত করতে চেয়েছিলাম, কিন্তু তারপর না করার সিদ্ধান্ত নিয়েছি। আমার সিদ্ধান্তের কারণগুলি সহ এখানে সেগুলি রয়েছে:

• মাল্টি-ডেটা সেন্টার. আমার মতে, সার্ভিস মেশের প্রয়োগের সংকীর্ণ এবং নির্দিষ্ট ক্ষেত্র বা পরিষেবা আবিষ্কারের মতো কিছু ফাংশনের সেট হিসাবে এটি এতটা ব্যবহারের ক্ষেত্রে নয়।
• প্রবেশ এবং প্রস্থান. এটি একটি সম্পর্কিত এলাকা, কিন্তু আমি নিজেকে (সম্ভবত কৃত্রিমভাবে) "পূর্ব-পশ্চিম ট্র্যাফিক" ব্যবহারের ক্ষেত্রে সীমাবদ্ধ করেছি। প্রবেশ এবং প্রস্থান একটি পৃথক নিবন্ধ প্রাপ্য.

উপসংহার

এখন এ পর্যন্তই! আবার, এই তালিকাটি খুব স্বেচ্ছাচারী এবং সম্ভবত অসম্পূর্ণ। আপনি যদি মনে করেন আমি কিছু মিস করেছি বা কিছু ভুল করেছি, অনুগ্রহ করে আমার সাথে টুইটারে যোগাযোগ করুন (@লুকারকিন্স) দয়া করে শালীনতার নিয়ম মেনে চলুন।

অনুবাদক থেকে PS

নিবন্ধটির শিরোনাম চিত্রটি নিবন্ধের একটি চিত্রের উপর ভিত্তি করে "একটি পরিষেবা জাল কি (এবং কখন ব্যবহার করবেন)?"(গ্রেগরি ম্যাককিনন দ্বারা)। এটি দেখায় যে কীভাবে অ্যাপ্লিকেশনগুলি থেকে কিছু কার্যকারিতা (সবুজ রঙে) একটি পরিষেবা জালে স্থানান্তরিত হয়েছে যা তাদের মধ্যে আন্তঃসংযোগ প্রদান করে (নীল রঙে)।

আমাদের ব্লগেও পড়ুন:

• «পরিষেবা মেশ: প্রতিটি সফ্টওয়্যার প্রকৌশলীকে হটেস্ট প্রযুক্তি সম্পর্কে যা জানা দরকার";
• «একটি পরিষেবা জাল কি এবং কেন আমার এটি প্রয়োজন [মাইক্রোসার্ভিস সহ একটি ক্লাউড অ্যাপ্লিকেশনের জন্য]?";
• «Istio এর সাথে মাইক্রোসার্ভিসে ফিরে যান। অংশ 1».

উত্স: www.habr.com