কুবারনেটস অ্যাডভেঞ্চার ডেইলিমোশন: ক্লাউড + অন-প্রাঙ্গনে অবকাঠামো তৈরি করা

বিঃদ্রঃ. অনুবাদ: ডেইলিমোশন হল বিশ্বের বৃহত্তম ভিডিও হোস্টিং পরিষেবাগুলির মধ্যে একটি এবং সেইজন্য একটি উল্লেখযোগ্য কুবারনেটস ব্যবহারকারী৷ এই উপাদানটিতে, সিস্টেম আর্কিটেক্ট ডেভিড ডনচেজ K8s-এর উপর ভিত্তি করে কোম্পানির উৎপাদন প্ল্যাটফর্ম তৈরির ফলাফলগুলি শেয়ার করেন, যা GKE-তে একটি ক্লাউড ইনস্টলেশনের মাধ্যমে শুরু হয়েছিল এবং একটি হাইব্রিড সমাধান হিসাবে শেষ হয়েছিল, যা আরও ভাল প্রতিক্রিয়ার সময় এবং অবকাঠামোর খরচে সঞ্চয়ের অনুমতি দেয়৷

কোর API পুনর্নির্মাণের সিদ্ধান্ত নেওয়া প্রত্যুত্তর তিন বছর আগে, আমরা অ্যাপ্লিকেশনগুলি হোস্ট করার এবং এটিকে সহজ করার জন্য আরও কার্যকর উপায় বিকাশ করতে চেয়েছিলাম বিকাশ এবং উত্পাদন প্রক্রিয়া. এই উদ্দেশ্যে, আমরা একটি ধারক অর্কেস্ট্রেশন প্ল্যাটফর্ম ব্যবহার করার সিদ্ধান্ত নিয়েছি এবং স্বাভাবিকভাবেই কুবারনেটস বেছে নিয়েছি।

কুবারনেটসের উপর ভিত্তি করে আপনার নিজস্ব প্ল্যাটফর্ম তৈরি করা কেন মূল্যবান?

Google ক্লাউড ব্যবহার করে কোনো সময়ের মধ্যেই উৎপাদন-স্তরের API

গ্রীষ্ম 2016

তিন বছর আগে, অবিলম্বে Dailymotion দ্বারা ক্রয় করা হয় Vivendi, আমাদের ইঞ্জিনিয়ারিং দলগুলি একটি বিশ্বব্যাপী লক্ষ্যের উপর দৃষ্টি নিবদ্ধ করে: একটি সম্পূর্ণ নতুন ডেইলিমোশন পণ্য তৈরি করা৷

পাত্রে আমাদের বিশ্লেষণ, অর্কেস্ট্রেশন সমাধান এবং আমাদের অতীত অভিজ্ঞতার উপর ভিত্তি করে, আমরা নিশ্চিত যে Kubernetes সঠিক পছন্দ। কিছু বিকাশকারী ইতিমধ্যেই মৌলিক ধারণাগুলি বুঝতে পেরেছিলেন এবং এটি কীভাবে ব্যবহার করবেন তা জানত, যা অবকাঠামো রূপান্তরের জন্য একটি বিশাল সুবিধা ছিল।

অবকাঠামোগত দৃষ্টিকোণ থেকে, নতুন ধরনের ক্লাউড-নেটিভ অ্যাপ্লিকেশন হোস্ট করার জন্য একটি শক্তিশালী এবং নমনীয় সিস্টেমের প্রয়োজন ছিল। আমরা আমাদের যাত্রার শুরুতে ক্লাউডে থাকতে বেছে নিয়েছিলাম যাতে আমরা মানসিক শান্তির সাথে সম্ভব সবচেয়ে শক্তিশালী অন-প্রিমিস প্ল্যাটফর্ম তৈরি করতে পারি। আমরা Google Kubernetes ইঞ্জিন ব্যবহার করে আমাদের অ্যাপ্লিকেশনগুলি স্থাপন করার সিদ্ধান্ত নিয়েছি, যদিও আমরা জানতাম যে শীঘ্র বা পরে আমরা আমাদের নিজস্ব ডেটা সেন্টারে চলে যাব এবং একটি হাইব্রিড কৌশল প্রয়োগ করব৷

কেন আপনি GKE নির্বাচন করেছেন?

আমরা এই পছন্দটি মূলত প্রযুক্তিগত কারণে করেছি। উপরন্তু, কোম্পানির ব্যবসায়িক চাহিদা পূরণ করে এমন অবকাঠামো দ্রুত সরবরাহ করা প্রয়োজন ছিল। আমাদের হোস্টিং অ্যাপ্লিকেশনের জন্য কিছু প্রয়োজনীয়তা ছিল, যেমন ভৌগলিক বন্টন, মাপযোগ্যতা এবং ত্রুটি সহনশীলতা।

ডেইলিমোশনে GKE ক্লাস্টার

যেহেতু ডেইলিমোশন বিশ্বব্যাপী উপলব্ধ একটি ভিডিও প্ল্যাটফর্ম, আমরা সত্যিই অপেক্ষার সময় কমিয়ে পরিষেবার মান উন্নত করতে চেয়েছিলাম (বিলম্বতা)... পূর্বে আমাদের API শুধুমাত্র প্যারিসে উপলব্ধ ছিল, যা সাবঅপ্টিমাল ছিল। আমি কেবল ইউরোপেই নয়, এশিয়া এবং মার্কিন যুক্তরাষ্ট্রেও অ্যাপ্লিকেশন হোস্ট করতে সক্ষম হতে চেয়েছিলাম।

বিলম্বের প্রতি এই সংবেদনশীলতার অর্থ হল যে প্ল্যাটফর্মের নেটওয়ার্ক আর্কিটেকচারে গুরুতর কাজ করতে হবে। যদিও বেশিরভাগ ক্লাউড পরিষেবাগুলি আপনাকে প্রতিটি অঞ্চলে আপনার নিজস্ব নেটওয়ার্ক তৈরি করতে বাধ্য করে এবং তারপরে একটি VPN বা কোনও ধরণের পরিচালিত পরিষেবার মাধ্যমে সেগুলিকে সংযুক্ত করতে বাধ্য করে, Google ক্লাউড আপনাকে সমস্ত Google অঞ্চলকে কভার করে একটি সম্পূর্ণ রাউটেবল একক নেটওয়ার্ক তৈরি করার অনুমতি দেয়৷ সিস্টেমের অপারেশন এবং দক্ষতার দিক থেকে এটি একটি বড় প্লাস।

এছাড়াও, Google ক্লাউড থেকে নেটওয়ার্ক পরিষেবা এবং লোড ব্যালেন্সারগুলি একটি দুর্দান্ত কাজ করে৷ তারা আপনাকে প্রতিটি অঞ্চল থেকে নির্বিচারে সর্বজনীন আইপি ঠিকানাগুলি ব্যবহার করার অনুমতি দেয় এবং বিস্ময়কর BGP প্রোটোকল বাকিগুলির যত্ন নেয় (অর্থাৎ ব্যবহারকারীদের নিকটতম ক্লাস্টারে পুনঃনির্দেশ করে)। স্পষ্টতই, একটি ব্যর্থতার ক্ষেত্রে, ট্রাফিক স্বয়ংক্রিয়ভাবে অন্য কোনো অঞ্চলে মানব হস্তক্ষেপ ছাড়াই চলে যাবে।

গুগল লোড ব্যালেন্সিং নিরীক্ষণ

আমাদের প্ল্যাটফর্ম এছাড়াও GPUs এর ভারী ব্যবহার করে। Google ক্লাউড আপনাকে সরাসরি কুবারনেটস ক্লাস্টারে খুব কার্যকরভাবে ব্যবহার করতে দেয়।

সেই সময়ে, অবকাঠামো দলটি প্রাথমিকভাবে ফিজিক্যাল সার্ভারে স্থাপন করা উত্তরাধিকার স্ট্যাকের উপর দৃষ্টি নিবদ্ধ করেছিল। এই কারণেই একটি পরিচালিত পরিষেবা ব্যবহার করে (কুবারনেটস মাস্টার সহ) আমাদের প্রয়োজনীয়তাগুলি পূরণ করে এবং স্থানীয় ক্লাস্টারগুলির সাথে কাজ করার জন্য দলগুলিকে প্রশিক্ষণ দেওয়ার অনুমতি দেয়৷

ফলস্বরূপ, আমরা কাজ শুরুর মাত্র 6 মাস পরে Google ক্লাউড অবকাঠামোতে উত্পাদন ট্র্যাফিক পেতে শুরু করতে সক্ষম হয়েছি।

যাইহোক, অনেক সুবিধা থাকা সত্ত্বেও, ক্লাউড প্রদানকারীর সাথে কাজ করা নির্দিষ্ট খরচের সাথে যুক্ত, যা লোডের উপর নির্ভর করে বাড়তে পারে। এই কারণেই আমরা আমাদের ব্যবহার করা প্রতিটি পরিচালিত পরিষেবা যত্ন সহকারে বিশ্লেষণ করেছি, ভবিষ্যতে সেগুলিকে প্রাঙ্গনে প্রয়োগ করার আশায়। প্রকৃতপক্ষে, 2016 সালের শেষের দিকে স্থানীয় ক্লাস্টারগুলির বাস্তবায়ন শুরু হয়েছিল এবং একই সময়ে হাইব্রিড কৌশল শুরু হয়েছিল।

স্থানীয় কনটেইনার অর্কেস্ট্রেশন প্ল্যাটফর্ম ডেইলিমোশন চালু করুন

শরৎ 2016

এমন পরিস্থিতিতে যখন পুরো স্ট্যাকটি উত্পাদনের জন্য প্রস্তুত ছিল এবং এপিআইতে কাজ করে অব্যাহত, এটি আঞ্চলিক ক্লাস্টারগুলিতে মনোনিবেশ করার সময় ছিল।

সেই সময়ে, ব্যবহারকারীরা প্রতি মাসে 3 বিলিয়নের বেশি ভিডিও দেখছিলেন। অবশ্যই, আমাদের অনেক বছর ধরে আমাদের নিজস্ব বিস্তৃত বিষয়বস্তু বিতরণ নেটওয়ার্ক রয়েছে। আমরা এই পরিস্থিতির সুবিধা নিতে এবং বিদ্যমান ডেটা সেন্টারগুলিতে Kubernetes ক্লাস্টার স্থাপন করতে চেয়েছিলাম।

ডেইলিমোশনের অবকাঠামো ছয়টি ডেটা সেন্টারে 2,5 হাজারের বেশি সার্ভার নিয়ে গঠিত। তাদের সব সল্টস্ট্যাক ব্যবহার করে কনফিগার করা হয়. আমরা মাস্টার এবং ওয়ার্কার নোড, সেইসাথে একটি etcd ক্লাস্টার তৈরি করার জন্য সমস্ত প্রয়োজনীয় রেসিপি প্রস্তুত করতে শুরু করেছি।

নেটওয়ার্ক অংশ

আমাদের নেটওয়ার্ক সম্পূর্ণ রুটেড। প্রতিটি সার্ভার Exabgp ব্যবহার করে নেটওয়ার্কে তার IP এর বিজ্ঞাপন দেয়। আমরা বেশ কয়েকটি নেটওয়ার্ক প্লাগইন তুলনা করেছি এবং একমাত্র যেটি সমস্ত চাহিদা পূরণ করেছে (ব্যবহৃত L3 পদ্ধতির কারণে) বস্ত্রবিশেষ. এটি বিদ্যমান নেটওয়ার্ক অবকাঠামো মডেলের সাথে পুরোপুরি ফিট করে।

যেহেতু আমরা সমস্ত উপলব্ধ অবকাঠামো উপাদানগুলি ব্যবহার করতে চেয়েছিলাম, তাই প্রথমে আমাদের যা করতে হয়েছিল তা হল আমাদের বাড়িতে তৈরি নেটওয়ার্ক ইউটিলিটি (সমস্ত সার্ভারে ব্যবহৃত): এটিকে Kubernetes নোড সহ নেটওয়ার্কে IP ঠিকানা রেঞ্জের বিজ্ঞাপন দিতে ব্যবহার করুন৷ আমরা ক্যালিকোকে পডগুলিতে আইপি ঠিকানা বরাদ্দ করার অনুমতি দিয়েছি, কিন্তু নেটওয়ার্ক সরঞ্জামগুলিতে BGP সেশনের জন্য এটি ব্যবহার করিনি এবং এখনও করিনি। প্রকৃতপক্ষে, রাউটিং Exabgp দ্বারা পরিচালিত হয়, যা ক্যালিকো দ্বারা ব্যবহৃত সাবনেটগুলির বিজ্ঞাপন দেয়। এটি আমাদের অভ্যন্তরীণ নেটওয়ার্ক থেকে (এবং বিশেষ করে লোড ব্যালেন্সার থেকে) যে কোনও পডে পৌঁছানোর অনুমতি দেয়।

আমরা কিভাবে প্রবেশ ট্র্যাফিক পরিচালনা করি

আগত অনুরোধগুলিকে পছন্দসই পরিষেবাতে পুনঃনির্দেশিত করতে, কুবারনেটস ইনগ্রেস সংস্থানগুলির সাথে একীকরণের কারণে ইনগ্রেস কন্ট্রোলার ব্যবহার করার সিদ্ধান্ত নেওয়া হয়েছিল।

তিন বছর আগে, nginx-ingress-controller ছিল সবচেয়ে পরিপক্ক নিয়ামক: Nginx দীর্ঘকাল ধরে ছিল এবং তার স্থিতিশীলতা এবং কর্মক্ষমতার জন্য পরিচিত ছিল।

আমাদের সিস্টেমে, আমরা নিবেদিত 10-গিগাবিট ব্লেড সার্ভারে কন্ট্রোলার রাখার সিদ্ধান্ত নিয়েছি। প্রতিটি কন্ট্রোলার সংশ্লিষ্ট ক্লাস্টারের কুবে-এপিসার্ভার এন্ডপয়েন্টের সাথে সংযুক্ত ছিল। এই সার্ভারগুলি সর্বজনীন বা ব্যক্তিগত আইপি ঠিকানাগুলির বিজ্ঞাপন দেওয়ার জন্য Exabgp ব্যবহার করে। আমাদের নেটওয়ার্ক টপোলজি আমাদের এই কন্ট্রোলার থেকে BGP ব্যবহার করতে দেয় যাতে NodePort-এর মতো পরিষেবা ব্যবহার না করেই সরাসরি পডগুলিতে সমস্ত ট্র্যাফিক রুট করা যায়। এই পদ্ধতিটি নোডের মধ্যে অনুভূমিক ট্রাফিক এড়াতে সাহায্য করে এবং দক্ষতা উন্নত করে।

ইন্টারনেট থেকে পড পর্যন্ত ট্রাফিক চলাচল

এখন যেহেতু আমরা আমাদের হাইব্রিড প্ল্যাটফর্ম বুঝতে পেরেছি, আমরা নিজেই ট্রাফিক মাইগ্রেশন প্রক্রিয়ার আরও গভীরে যেতে পারি।

Google ক্লাউড থেকে ডেইলিমোশন পরিকাঠামোতে ট্রাফিকের স্থানান্তর

শরৎ 2018

বিল্ডিং, টেস্টিং এবং টিউনিংয়ের প্রায় দুই বছর পর, আমরা অবশেষে কিছু ট্রাফিক গ্রহণ করার জন্য একটি সম্পূর্ণ কুবারনেটস স্ট্যাক প্রস্তুত করেছি।

বর্তমান রাউটিং কৌশলটি বেশ সহজ, কিন্তু প্রয়োজন মেটাতে যথেষ্ট। পাবলিক আইপি ছাড়াও (Google ক্লাউড এবং ডেইলিমোশনে), AWS রুট 53 নীতি সেট করতে এবং ব্যবহারকারীদের আমাদের পছন্দের ক্লাস্টারে পুনঃনির্দেশ করতে ব্যবহার করা হয়।

রুট 53 ব্যবহার করে রাউটিং নীতির উদাহরণ

Google ক্লাউডের সাথে এটি সহজ কারণ আমরা সমস্ত ক্লাস্টার জুড়ে একটি একক আইপি শেয়ার করি এবং ব্যবহারকারীকে নিকটতম GKE ক্লাস্টারে পুনঃনির্দেশিত করা হয়। আমাদের ক্লাস্টারগুলির জন্য প্রযুক্তি আলাদা, যেহেতু তাদের আইপিগুলি আলাদা।

মাইগ্রেশনের সময়, আমরা উপযুক্ত ক্লাস্টারে আঞ্চলিক অনুরোধগুলি পুনঃনির্দেশ করার চেষ্টা করেছি এবং এই পদ্ধতির সুবিধাগুলি মূল্যায়ন করেছি।

যেহেতু আমাদের GKE ক্লাস্টারগুলি কাস্টম মেট্রিক্স ব্যবহার করে অটোস্কেল করার জন্য কনফিগার করা হয়েছে, সেগুলি আগত ট্র্যাফিকের উপর ভিত্তি করে স্কেল আপ/ডাউন করে।

স্বাভাবিক মোডে, সমস্ত আঞ্চলিক ট্র্যাফিক স্থানীয় ক্লাস্টারে নির্দেশিত হয়, এবং GKE সমস্যাগুলির ক্ষেত্রে একটি রিজার্ভ হিসাবে কাজ করে (স্বাস্থ্য পরীক্ষা রুট 53 দ্বারা বাহিত হয়)।

...

ভবিষ্যতে, আমরা একটি স্বায়ত্তশাসিত হাইব্রিড কৌশল অর্জনের জন্য রাউটিং নীতিগুলি সম্পূর্ণরূপে স্বয়ংক্রিয় করতে চাই যা ক্রমাগত ব্যবহারকারীদের জন্য অ্যাক্সেসযোগ্যতা উন্নত করে। প্লাস দিকে, ক্লাউড খরচ উল্লেখযোগ্যভাবে হ্রাস করা হয়েছে এবং API প্রতিক্রিয়া সময় এমনকি হ্রাস করা হয়েছে। আমরা ফলস্বরূপ ক্লাউড প্ল্যাটফর্মকে বিশ্বাস করি এবং প্রয়োজনে এটিতে আরও ট্রাফিক পুনঃনির্দেশ করতে প্রস্তুত।

অনুবাদক থেকে PS

আপনি কুবারনেটস সম্পর্কে সাম্প্রতিক আরেকটি ডেইলিমোশন পোস্টে আগ্রহী হতে পারেন। এটি অনেক কুবারনেটস ক্লাস্টারে হেলমের সাথে অ্যাপ্লিকেশন স্থাপনের জন্য উত্সর্গীকৃত এবং প্রকাশিত হয়েছে প্রায় একমাস আগে.

আমাদের ব্লগেও পড়ুন:

• «কুবারনেটসে টিন্ডারের রূপান্তর».
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 10: Reddit";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 9: CERN এবং 210 K8s ক্লাস্টার";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 8: হুয়াওয়ে";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 7: কালো শিলা";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 6: BlaBlaCar";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 5: ডিজিটাল ব্যাংক মনজো";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 4: সাউন্ডক্লাউড (প্রমিথিউস দ্বারা)";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 3: GitHub";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 2: একমত এবং SAP";
• «Kubernetes উৎপাদনে সাফল্যের গল্প। পার্ট 1: ইবে থেকে 4200 হার্ট এবং টেসমাস্টার».

উত্স: www.habr.com