Yandex.Cloud-এর জন্য Kubernetes-এ CSI ড্রাইভার তৈরি করার আমাদের অভিজ্ঞতা

আমরা ঘোষণা করতে পেরে আনন্দিত যে ফ্লান্ট কুবারনেটস-এর জন্য ওপেন সোর্স টুলে তার অবদান প্রসারিত করছে CSI ড্রাইভারের আলফা সংস্করণ (কন্টেইনার স্টোরেজ ইন্টারফেস) Yandex.Cloud এর জন্য।

তবে বাস্তবায়নের বিশদটিতে যাওয়ার আগে, ইয়ানডেক্সের ইতিমধ্যে একটি পরিষেবা থাকাকালীন এটি কেন প্রয়োজন সেই প্রশ্নের উত্তর দেওয়া যাক Kubernetes জন্য পরিচালিত পরিষেবা.

ভূমিকা

কেন?

আমাদের কোম্পানির মধ্যে, উৎপাদনে (অর্থাৎ এখন বেশ কয়েক বছর ধরে) কুবারনেটস ব্যবহার করার শুরু থেকেই, আমরা আমাদের নিজস্ব টুল (ডেকহাউস) তৈরি করছি, যেটি, আমরা শীঘ্রই একটি ওপেন সোর্স প্রকল্প হিসেবে উপলব্ধ করার পরিকল্পনা করছি। . এর সাহায্যে, আমরা আমাদের সমস্ত ক্লাস্টারকে একইভাবে কনফিগার এবং কনফিগার করি এবং বর্তমানে তাদের মধ্যে 100 টিরও বেশি রয়েছে, বিভিন্ন ধরণের হার্ডওয়্যার কনফিগারেশনে এবং সমস্ত উপলব্ধ ক্লাউড পরিষেবাগুলিতে।

ডেকহাউস ব্যবহার করে এমন ক্লাস্টারগুলিতে অপারেশনের জন্য প্রয়োজনীয় সমস্ত উপাদান রয়েছে: ব্যালেন্সার, সুবিধাজনক চার্টের সাথে পর্যবেক্ষণ, মেট্রিক্স এবং সতর্কতা, সমস্ত ড্যাশবোর্ডে অ্যাক্সেসের জন্য বহিরাগত সরবরাহকারীদের মাধ্যমে ব্যবহারকারীর প্রমাণীকরণ ইত্যাদি। একটি পরিচালিত সমাধানে এই জাতীয় "পাম্প আপ" ক্লাস্টার ইনস্টল করার কোন মানে নেই, যেহেতু এটি প্রায়শই অসম্ভব বা অর্ধেক উপাদান অক্ষম করার প্রয়োজনের দিকে নিয়ে যায়।

NB: এটি আমাদের অভিজ্ঞতা, এবং এটি বেশ নির্দিষ্ট। আমরা কোনোভাবেই পরামর্শ দিচ্ছি না যে প্রত্যেকেরই প্রস্তুত-তৈরি সমাধান ব্যবহার না করে নিজেরাই Kubernetes ক্লাস্টার স্থাপন করা উচিত। যাইহোক, আমাদের Yandex থেকে Kubernetes পরিচালনার কোন বাস্তব অভিজ্ঞতা নেই এবং আমরা এই নিবন্ধে এই পরিষেবাটির কোন মূল্যায়ন দেব না।

এটা কি এবং কার জন্য?

সুতরাং, আমরা ইতিমধ্যে কুবারনেটসে স্টোরেজের আধুনিক পদ্ধতি সম্পর্কে কথা বলেছি: কিভাবে CSI কাজ করে? и সম্প্রদায় কিভাবে এসেছিল এই পদ্ধতির জন্য।

বর্তমানে, অনেক বড় ক্লাউড পরিষেবা প্রদানকারী তাদের ক্লাউড ডিস্কগুলিকে কুবারনেটে স্থায়ী ভলিউম হিসাবে ব্যবহার করার জন্য ড্রাইভার তৈরি করেছে। যদি সরবরাহকারীর কাছে এই জাতীয় ড্রাইভার না থাকে তবে সমস্ত প্রয়োজনীয় ফাংশন API এর মাধ্যমে সরবরাহ করা হয়, তবে কিছুই আপনাকে নিজেই ড্রাইভার বাস্তবায়ন করতে বাধা দেয় না। ইয়ানডেক্স.ক্লাউডের সাথে এটি ঘটেছে।

আমরা উন্নয়নের ভিত্তি হিসেবে নিয়েছি DigitalOcean ক্লাউডের জন্য CSI ড্রাইভার এবং থেকে ধারণা একটি দম্পতি GCP এর জন্য ড্রাইভার, যেহেতু এই ক্লাউডগুলির API এর সাথে মিথস্ক্রিয়া (গুগল এবং ইয়ানডেক্স) এর অনেকগুলি মিল রয়েছে। বিশেষ করে, API এবং জিসিপি, এবং এ ইয়ানডেক্স একটি বস্তু ফেরত দিন Operation দীর্ঘস্থায়ী ক্রিয়াকলাপগুলির অবস্থা ট্র্যাক করতে (উদাহরণস্বরূপ, একটি নতুন ডিস্ক তৈরি করা)। Yandex.Cloud API এর সাথে ইন্টারঅ্যাক্ট করতে, ব্যবহার করুন Yandex.Cloud Go SDK.

কাজের ফল GitHub এ প্রকাশিত এবং তাদের জন্য উপযোগী হতে পারে যারা, কোন কারণে, Yandex.Cloud ভার্চুয়াল মেশিনে তাদের নিজস্ব Kubernetes ইনস্টলেশন ব্যবহার করে (কিন্তু একটি তৈরি-তৈরি পরিচালিত ক্লাস্টার নয়) এবং CSI-এর মাধ্যমে ডিস্কগুলি (অর্ডার) ব্যবহার করতে চান৷

বাস্তবায়ন

প্রধান বৈশিষ্ট্য

বর্তমানে ড্রাইভার নিম্নলিখিত ফাংশন সমর্থন করে:

• ক্লাস্টারের নোডগুলির টপোলজি অনুসারে ক্লাস্টারের সমস্ত অঞ্চলে ডিস্কগুলি অর্ডার করা;
• পূর্বে আদেশ করা ডিস্ক অপসারণ;
• ডিস্কের জন্য অফলাইন আকার পরিবর্তন করুন (Yandex.Cloud সমর্থন করবেন না ভার্চুয়াল মেশিনে মাউন্ট করা ডিস্ক বৃদ্ধি করা)। আকার পরিবর্তনকে যতটা সম্ভব ব্যথাহীন করতে ড্রাইভারকে কীভাবে পরিবর্তন করতে হয়েছিল সে সম্পর্কে তথ্যের জন্য, নীচে দেখুন।

ভবিষ্যতে, আমরা ডিস্ক স্ন্যাপশট তৈরি এবং মুছে ফেলার জন্য সমর্থন বাস্তবায়নের পরিকল্পনা করছি।

প্রধান অসুবিধা এবং কিভাবে এটি অতিক্রম করতে হবে

Yandex.Cloud API-এ রিয়েল টাইমে ডিস্ক বাড়ানোর ক্ষমতার অভাব হল একটি সীমাবদ্ধতা যা PV (পারসিস্টেন্ট ভলিউম) এর জন্য রিসাইজ অপারেশনকে জটিল করে তোলে: এই ক্ষেত্রে, ডিস্ক ব্যবহার করে এমন অ্যাপ্লিকেশন পড বন্ধ করা প্রয়োজন, এবং এটি ডাউনটাইম অ্যাপ্লিকেশনের কারণ হতে পারে।

অনুযায়ী CSI স্পেসিফিকেশন, যদি CSI কন্ট্রোলার রিপোর্ট করে যে এটি শুধুমাত্র "অফলাইন" ডিস্কের আকার পরিবর্তন করতে পারে (VolumeExpansion.OFFLINE), তারপর ডিস্ক বাড়ানোর প্রক্রিয়াটি এইরকম হওয়া উচিত:

যদি প্লাগইন থাকে তবেই VolumeExpansion.OFFLINE সম্প্রসারণ ক্ষমতা এবং ভলিউম বর্তমানে একটি নোডে প্রকাশিত বা উপলব্ধ ControllerExpandVolume যেকোনো একটির পরেই কল করতে হবে:

• প্লাগইনটিতে নিয়ামক রয়েছে PUBLISH_UNPUBLISH_VOLUME ক্ষমতা এবং ControllerUnpublishVolume সফলভাবে আহ্বান করা হয়েছে।

অথবা

• প্লাগইনটিতে নিয়ামক নেই PUBLISH_UNPUBLISH_VOLUME ক্ষমতা, প্লাগইন নোড আছে STAGE_UNSTAGE_VOLUME ক্ষমতা, এবং NodeUnstageVolume সফলভাবে সম্পন্ন হয়েছে।

অথবা

• প্লাগইনটিতে নিয়ামক নেই PUBLISH_UNPUBLISH_VOLUME ক্ষমতা, না নোড STAGE_UNSTAGE_VOLUME ক্ষমতা, এবং NodeUnpublishVolume সফলভাবে সম্পন্ন হয়েছে।

এর অর্থ হল ভার্চুয়াল মেশিন থেকে ডিস্কটি প্রসারিত করার আগে আপনাকে আলাদা করতে হবে।

যাইহোক, দুর্ভাগ্যবশত বাস্তবায়ন সাইডকারের মাধ্যমে CSI স্পেসিফিকেশন এই প্রয়োজনীয়তাগুলি পূরণ করে না:

• সাইডকারের পাত্রে csi-attacher, যা মাউন্টগুলির মধ্যে প্রয়োজনীয় ব্যবধানের উপস্থিতির জন্য দায়ী হওয়া উচিত, এই কার্যকারিতাটি কেবল অফলাইন আকার পরিবর্তনে প্রয়োগ করা হয় না। এ নিয়ে আলোচনা শুরু হয়েছে এখানে.
• এই প্রসঙ্গে একটি সাইডকার কন্টেইনার ঠিক কি? CSI প্লাগইন নিজেই Kubernetes API এর সাথে ইন্টারঅ্যাক্ট করে না, কিন্তু শুধুমাত্র সাইডকার কন্টেইনার দ্বারা পাঠানো gRPC কলগুলিতে সাড়া দেয়। সর্বশেষ বিকশিত হচ্ছে কুবারনেটস সম্প্রদায়ের দ্বারা।

আমাদের ক্ষেত্রে (সিএসআই প্লাগইন), ডিস্ক বাড়ানোর কাজটি এইরকম দেখায়:

1. আমরা একটি জিআরপিসি কল পাই ControllerExpandVolume;
2. আমরা এপিআই-তে ডিস্ক বাড়ানোর চেষ্টা করছি, কিন্তু ডিস্কটি মাউন্ট করার কারণে আমরা অপারেশন সম্পাদনের অসম্ভবতা সম্পর্কে একটি ত্রুটি পেয়েছি;
3. আমরা ম্যাপে ডিস্ক শনাক্তকারী সঞ্চয় করি, এতে ডিস্কগুলি রয়েছে যার জন্য বৃদ্ধির অপারেশন করা দরকার। নীচে, সংক্ষিপ্ততার জন্য, আমরা এই মানচিত্রটিকে কল করব volumeResizeRequired;
4. ম্যানুয়ালি ডিস্ক ব্যবহার করা পড অপসারণ. কুবারনেটস এটি পুনরায় চালু করবে। যাতে ডিস্কটি মাউন্ট করার সময় না থাকে (ControllerPublishVolume) মাউন্ট করার চেষ্টা করার সময় বৃদ্ধি অপারেশন সম্পূর্ণ করার আগে, আমরা পরীক্ষা করে দেখি যে প্রদত্ত ডিস্ক এখনও আছে volumeResizeRequired এবং একটি ত্রুটি ফেরত;
5. CSI ড্রাইভার পুনরায় আকার পরিবর্তন করার চেষ্টা করে। অপারেশন সফল হলে, তারপর থেকে ডিস্ক সরান volumeResizeRequired;
6. কারণ ডিস্ক আইডি থেকে অনুপস্থিত volumeResizeRequired, ControllerPublishVolume সফলভাবে পাস হয়, ডিস্ক মাউন্ট করা হয়, পড শুরু হয়।

সবকিছু যথেষ্ট সহজ দেখায়, কিন্তু সবসময় হিসাবে ক্ষতি আছে. ডিস্ক বড় করে এক্সটার্নাল-রিসাইজার, যা অপারেশনের সময় ত্রুটির ক্ষেত্রে একটি সারি ব্যবহার করে 1000 সেকেন্ড পর্যন্ত টাইমআউট সময়ের একটি সূচকীয় বৃদ্ধি সহ:

func DefaultControllerRateLimiter() RateLimiter {
  return NewMaxOfRateLimiter(
  NewItemExponentialFailureRateLimiter(5*time.Millisecond, 1000*time.Second),
  // 10 qps, 100 bucket size.  This is only for retry speed and its only the overall factor (not per item)
  &BucketRateLimiter{Limiter: rate.NewLimiter(rate.Limit(10), 100)},
  )
}

এটি পর্যায়ক্রমে ডিস্ক সম্প্রসারণ অপারেশন 15+ মিনিটের জন্য প্রসারিত হতে পারে এবং এইভাবে, সংশ্লিষ্ট পড অনুপলব্ধ হতে পারে।

একমাত্র বিকল্প যা খুব সহজে এবং ব্যথাহীনভাবে আমাদের সম্ভাব্য ডাউনটাইম হ্রাস করার অনুমতি দেয় তা হল সর্বাধিক সময়সীমা সীমা সহ বাহ্যিক-রিসাইজারের আমাদের সংস্করণ ব্যবহার 5 সেকেন্ডের মধ্যে:

workqueue.NewItemExponentialFailureRateLimiter(5*time.Millisecond, 5*time.Second)

আমরা জরুরীভাবে আলোচনা শুরু করা এবং বাহ্যিক-রিসাইজার প্যাচ করা প্রয়োজন বলে মনে করিনি, কারণ ডিস্কের অফলাইন আকার পরিবর্তন একটি থ্রোব্যাক যা শীঘ্রই সমস্ত ক্লাউড প্রদানকারী থেকে অদৃশ্য হয়ে যাবে।

কিভাবে ব্যবহার শুরু করবেন?

ড্রাইভারটি Kubernetes সংস্করণ 1.15 এবং উচ্চতর সংস্করণে সমর্থিত। ড্রাইভার কাজ করার জন্য, নিম্নলিখিত প্রয়োজনীয়তা পূরণ করা আবশ্যক:

• পতাকা --allow-privileged মান সেট করুন true API সার্ভার এবং কুবেলেটের জন্য;
• অন্তর্ভুক্ত --feature-gates=VolumeSnapshotDataSource=true,KubeletPluginsWatcher=true,CSINodeInfo=true,CSIDriverRegistry=true API সার্ভার এবং কুবেলেটের জন্য;
• মাউন্ট প্রচার (মাউন্ট প্রচার) ক্লাস্টারে সক্রিয় করা আবশ্যক। ডকার ব্যবহার করার সময়, ভাগ করা মাউন্টের অনুমতি দেওয়ার জন্য ডেমনকে কনফিগার করা আবশ্যক।

ইনস্টলেশন নিজেই জন্য সমস্ত প্রয়োজনীয় পদক্ষেপ README এ বর্ণিত. ইনস্টলেশনের সাথে ম্যানিফেস্ট থেকে Kubernetes-এ বস্তু তৈরি করা জড়িত।

ড্রাইভার কাজ করার জন্য আপনার নিম্নলিখিত প্রয়োজন হবে:

• ম্যানিফেস্টে ডিরেক্টরি শনাক্তকারী নির্দিষ্ট করুন (folder-id) Yandex.Cloud (ডকুমেন্টেশন দেখুন);
• Yandex.Cloud API এর সাথে ইন্টারঅ্যাক্ট করতে, CSI ড্রাইভার একটি পরিষেবা অ্যাকাউন্ট ব্যবহার করে। ম্যানিফেস্টে, সিক্রেট অবশ্যই পাস করতে হবে অনুমোদিত কী পরিষেবা অ্যাকাউন্ট থেকে। ডকুমেন্টেশনে বর্ণিত, কিভাবে একটি পরিষেবা অ্যাকাউন্ট তৈরি করতে হয় এবং কী পেতে হয়।

সর্বেসর্বা - চেষ্টা, এবং আমরা প্রতিক্রিয়া পেয়ে খুশি হব এবং নতুন সমস্যাআপনি কোন সমস্যা সম্মুখীন হলে!

আরও সমর্থন

ফলস্বরূপ, আমরা লক্ষ্য করতে চাই যে আমরা এই CSI ড্রাইভারটি Go-তে মজাদার অ্যাপ্লিকেশন লেখার প্রবল ইচ্ছার জন্য নয়, কিন্তু কোম্পানির মধ্যে একটি জরুরি প্রয়োজনের কারণে প্রয়োগ করেছি। আমাদের নিজস্ব বাস্তবায়ন বজায় রাখা আমাদের কাছে ব্যবহারিক বলে মনে হয় না, তাই যদি ইয়ানডেক্স আগ্রহ দেখায় এবং ড্রাইভারকে সমর্থন করা চালিয়ে যাওয়ার সিদ্ধান্ত নেয়, আমরা তাদের কাছে সংগ্রহস্থল স্থানান্তর করতে পেরে খুশি হব।

উপরন্তু, ইয়ানডেক্সের সম্ভবত তার পরিচালিত কুবারনেটস ক্লাস্টারে CSI ড্রাইভারের নিজস্ব বাস্তবায়ন রয়েছে, যা ওপেন সোর্সে প্রকাশ করা যেতে পারে। আমরা এই উন্নয়ন বিকল্পটিকে অনুকূল হিসাবেও দেখি - সম্প্রদায়টি একটি পরিষেবা প্রদানকারীর কাছ থেকে প্রমাণিত ড্রাইভার ব্যবহার করতে সক্ষম হবে, এবং তৃতীয় পক্ষের কোম্পানি থেকে নয়।

দ্রষ্টব্য

আমাদের ব্লগেও পড়ুন:

• «Kubernetes স্টোরেজের জন্য ভলিউম প্লাগইন: Flexvolume থেকে CSI পর্যন্ত";
• «আমরা কন্টেইনার স্টোরেজ ইন্টারফেস বুঝি (কুবারনেটে এবং শুধু নয়)";
• «একটি Kubernetes ক্লাস্টার প্রস্তুত করা কি সহজ এবং সুবিধাজনক? অ্যাডঅন-অপারেটর ঘোষণা করা হচ্ছে";
• «Kubernetes সম্প্রসারণ এবং পরিপূরক (ওভারভিউ এবং ভিডিও রিপোর্ট)».

উত্স: www.habr.com