🥇 হেলমের সাথে একাধিক কুবারনেটস ক্লাস্টার জুড়ে অ্যাপ্লিকেশন স্থাপন করা হচ্ছে

ডেইলিমোশন কীভাবে কুবারনেটস ব্যবহার করে: অ্যাপ্লিকেশন স্থাপনা

আমরা ডেইলিমোশনে 3 বছর আগে উৎপাদনে কুবারনেটস ব্যবহার শুরু করেছি। কিন্তু একাধিক ক্লাস্টার জুড়ে অ্যাপ্লিকেশন স্থাপন করা মজাদার, তাই গত কয়েক বছর ধরে আমরা আমাদের সরঞ্জাম এবং কর্মপ্রবাহ উন্নত করার চেষ্টা করছি।

কোথা থেকে শুরু হলো

এখানে আমরা কভার করব কিভাবে আমরা সারা বিশ্বের একাধিক কুবারনেটস ক্লাস্টার জুড়ে আমাদের অ্যাপ্লিকেশনগুলি স্থাপন করি।

একসাথে একাধিক Kubernetes অবজেক্ট স্থাপন করতে, আমরা ব্যবহার করি হাল, এবং আমাদের সমস্ত চার্ট একটি গিট সংগ্রহস্থলে সংরক্ষণ করা হয়। বিভিন্ন পরিষেবা থেকে একটি সম্পূর্ণ অ্যাপ্লিকেশন স্ট্যাক স্থাপন করতে, আমরা তথাকথিত সারাংশ চার্ট ব্যবহার করি। মূলত, এটি একটি চার্ট যা নির্ভরতা ঘোষণা করে এবং আপনাকে একটি কমান্ড দিয়ে API এবং এর পরিষেবাগুলি শুরু করতে দেয়।

আমরা চেক করতে, চার্ট তৈরি করতে, গোপনীয়তা যোগ করতে এবং অ্যাপ্লিকেশন স্থাপন করতে হেলমের উপরে একটি ছোট পাইথন স্ক্রিপ্ট লিখেছিলাম। এই সমস্ত কাজ একটি ডকার ইমেজ ব্যবহার করে একটি কেন্দ্রীয় CI প্ল্যাটফর্মে সঞ্চালিত হয়।

চলুন পয়েন্ট পেতে.

বিঃদ্রঃ. আপনি এটি পড়ার সাথে সাথে হেলম 3-এর জন্য প্রথম রিলিজ প্রার্থী ইতিমধ্যেই ঘোষণা করা হয়েছে। আমরা অতীতে যে সমস্যার সম্মুখীন হয়েছি তার কিছু সমাধান করার জন্য মূল সংস্করণে অনেক উন্নতি রয়েছে।

চার্ট উন্নয়ন কর্মপ্রবাহ

আমরা অ্যাপ্লিকেশনের জন্য শাখা ব্যবহার করি, এবং আমরা চার্টে একই পদ্ধতি প্রয়োগ করার সিদ্ধান্ত নিয়েছি।

শাখা দেব চার্ট তৈরি করতে ব্যবহৃত হয় যা ডেভেলপমেন্ট ক্লাস্টারে পরীক্ষা করা হবে।
যখন একটি টান অনুরোধ জমা দেওয়া হয় মালিক, তারা স্টেজিং চেক করা হয়.
অবশেষে, আমরা শাখায় পরিবর্তনগুলি কমিট করার জন্য একটি টান অনুরোধ তৈরি করি শঙ্কু এবং তাদের উৎপাদনে প্রয়োগ করুন।

প্রতিটি পরিবেশের নিজস্ব ব্যক্তিগত সংগ্রহস্থল রয়েছে যা আমাদের চার্ট সংরক্ষণ করে এবং আমরা ব্যবহার করি চার্ট মিউজিয়াম খুব দরকারী API সহ। এইভাবে আমরা পরিবেশের মধ্যে কঠোর বিচ্ছিন্নতা নিশ্চিত করি এবং চার্টগুলি উৎপাদনে ব্যবহার করার আগে বাস্তব-বিশ্বের পরীক্ষা করি।

বিভিন্ন পরিবেশে চার্ট সংগ্রহস্থল

এটা লক্ষণীয় যে ডেভেলপাররা যখন একটি dev শাখায় ধাক্কা দেয়, তাদের চার্টের একটি সংস্করণ স্বয়ংক্রিয়ভাবে dev Chartmuseum-এ পুশ করা হয়। এইভাবে, সমস্ত বিকাশকারী একই ডেভ রিপোজিটরি ব্যবহার করে, এবং আপনাকে সাবধানে চার্টের আপনার সংস্করণটি নির্দিষ্ট করতে হবে যাতে ভুলবশত অন্য কারও পরিবর্তনগুলি ব্যবহার না হয়।

তাছাড়া, আমাদের ছোট্ট পাইথন স্ক্রিপ্ট কুবারনেটস ওপেনএপিআই স্পেসিফিকেশনের বিপরীতে কুবারনেটস অবজেক্টকে বৈধ করে কুবেবল, Chartmusem এ তাদের প্রকাশ করার আগে.

চার্ট উন্নয়ন কর্মপ্রবাহের সাধারণ বর্ণনা

স্পেসিফিকেশন অনুযায়ী পাইপলাইনের কাজ সেট আপ করা gazr.io মান নিয়ন্ত্রণের জন্য (লিন্ট, ইউনিট-পরীক্ষা)।
পাইথন সরঞ্জামগুলির সাথে একটি ডকার ইমেজ পুশ করা যা আমাদের অ্যাপ্লিকেশনগুলিকে স্থাপন করে।
শাখার নাম অনুসারে পরিবেশ স্থাপন করা।
Kubeval ব্যবহার করে Kubernetes yaml ফাইল যাচাই করা হচ্ছে।
একটি চার্ট এবং এর মূল চার্টের সংস্করণ স্বয়ংক্রিয়ভাবে বৃদ্ধি করুন (চার্টগুলি পরিবর্তন করা হচ্ছে তার উপর নির্ভর করে)।
চার্ট মিউজিয়ামে একটি চার্ট জমা দেওয়া যা এর পরিবেশের সাথে মেলে

ক্লাস্টার জুড়ে পার্থক্য পরিচালনা

ক্লাস্টার ফেডারেশন

একটা সময় ছিল যখন আমরা ব্যবহার করতাম কুবারনেটস ক্লাস্টারের ফেডারেশন, যেখানে Kubernetes অবজেক্ট একটি একক API শেষ পয়েন্ট থেকে ঘোষণা করা যেতে পারে। কিন্তু সমস্যা দেখা দিয়েছে। উদাহরণস্বরূপ, কিছু Kubernetes অবজেক্ট ফেডারেশন এন্ডপয়েন্টে তৈরি করা যায়নি, যার ফলে পৃথক ক্লাস্টারের জন্য ফেডারেশনযুক্ত বস্তু এবং অন্যান্য বস্তু বজায় রাখা কঠিন হয়ে পড়ে।

সমস্যা সমাধানের জন্য, আমরা স্বাধীনভাবে ক্লাস্টারগুলি পরিচালনা করতে শুরু করেছি, যা প্রক্রিয়াটিকে ব্যাপকভাবে সরল করেছে (আমরা ফেডারেশনের প্রথম সংস্করণ ব্যবহার করেছি; দ্বিতীয়টিতে কিছু পরিবর্তন হতে পারে)।

জিও-ডিস্ট্রিবিউটেড প্ল্যাটফর্ম

আমাদের প্ল্যাটফর্মটি বর্তমানে 6টি অঞ্চল জুড়ে বিতরণ করা হয়েছে - 3টি স্থানীয়ভাবে এবং 3টি ক্লাউডে৷

ডিস্ট্রিবিউটেড ডিপ্লয়মেন্ট

গ্লোবাল হেলম মান

4 গ্লোবাল হেলম মান আপনাকে ক্লাস্টারগুলির মধ্যে পার্থক্য সনাক্ত করতে দেয়। আমাদের সমস্ত চার্টের ডিফল্ট ন্যূনতম মান রয়েছে।

global:
  cloud: True
  env: staging
  region: us-central1
  clusterName: staging-us-central1

বৈশ্বিক মূল্যবোধ

এই মানগুলি আমাদের অ্যাপ্লিকেশনগুলির জন্য প্রসঙ্গ সংজ্ঞায়িত করতে সহায়তা করে এবং বিভিন্ন উদ্দেশ্যে ব্যবহার করা হয়: পর্যবেক্ষণ, ট্রেসিং, লগিং, বাহ্যিক কল করা, স্কেলিং ইত্যাদি।

"ক্লাউড": আমাদের একটি হাইব্রিড কুবারনেটস প্ল্যাটফর্ম আছে। উদাহরণস্বরূপ, আমাদের এপিআই জিসিপি জোন এবং আমাদের ডেটা সেন্টারে স্থাপন করা হয়েছে।
"env": কিছু মান অ-উৎপাদন পরিবেশের জন্য পরিবর্তিত হতে পারে। উদাহরণস্বরূপ, সম্পদ সংজ্ঞা এবং অটোস্কেলিং কনফিগারেশন।
"অঞ্চল": এই তথ্য ক্লাস্টারের অবস্থান নির্ণয় করতে সাহায্য করে এবং বহিরাগত পরিষেবাগুলির জন্য কাছাকাছি শেষ পয়েন্টগুলি নির্ধারণ করতে ব্যবহার করা যেতে পারে৷
"clusterName": যদি এবং কখন আমরা একটি পৃথক ক্লাস্টারের জন্য একটি মান নির্ধারণ করতে চাই।

এখানে একটি নির্দিষ্ট উদাহরণ:

{{/* Returns Horizontal Pod Autoscaler replicas for GraphQL*/}}
{{- define "graphql.hpaReplicas" -}}
{{- if eq .Values.global.env "prod" }}
{{- if eq .Values.global.region "europe-west1" }}
minReplicas: 40
{{- else }}
minReplicas: 150
{{- end }}
maxReplicas: 1400
{{- else }}
minReplicas: 4
maxReplicas: 20
{{- end }}
{{- end -}}

হেলম টেমপ্লেট উদাহরণ

Kubernetes YAML-এ বিশৃঙ্খলা এড়াতে এই যুক্তিটিকে একটি সহায়ক টেমপ্লেটে সংজ্ঞায়িত করা হয়েছে।

আবেদনের ঘোষণা

আমাদের স্থাপনার সরঞ্জামগুলি একাধিক YAML ফাইলের উপর ভিত্তি করে। আমরা কীভাবে একটি ক্লাস্টারে একটি পরিষেবা এবং এর স্কেলিং টপোলজি (প্রতিলিপিগুলির সংখ্যা) ঘোষণা করি তার একটি উদাহরণ নীচে দেওয়া হল।

releases:
  - foo.world

foo.world:                # Release name
  services:               # List of dailymotion's apps/projects
    foobar:
      chart_name: foo-foobar
      repo: [email protected]:dailymotion/foobar
      contexts:
        prod-europe-west1:
          deployments:
            - name: foo-bar-baz
              replicas: 18
            - name: another-deployment
              replicas: 3

পরিষেবা সংজ্ঞা

এটি আমাদের স্থাপনার কর্মপ্রবাহকে সংজ্ঞায়িত করে এমন সমস্ত পদক্ষেপের একটি রূপরেখা। শেষ ধাপটি একই সাথে একাধিক কর্মী ক্লাস্টারে অ্যাপ্লিকেশনটি স্থাপন করে।

জেনকিন্স স্থাপনার পদক্ষেপ

গোপন সম্পর্কে কি?

নিরাপত্তার বিষয়ে, আমরা বিভিন্ন স্থান থেকে সমস্ত গোপনীয়তা ট্র্যাক করি এবং একটি অনন্য ভল্টে সংরক্ষণ করি খিলান প্যারিসে.

আমাদের স্থাপনার সরঞ্জামগুলি ভল্ট থেকে গোপন মানগুলি বের করে এবং যখন স্থাপনার সময় আসে, তখন সেগুলিকে হেলমে ঢোকান৷

এটি করার জন্য, আমরা ভল্টের গোপনীয়তা এবং আমাদের অ্যাপ্লিকেশনগুলির জন্য প্রয়োজনীয় গোপনীয়তার মধ্যে একটি ম্যাপিং সংজ্ঞায়িত করেছি:

secrets:                                                                                                                                                                                                        
     - secret_id: "stack1-app1-password"                                                                                                                                                                                  
       contexts:                                                                                                                                                                                                   
         - name: "default"                                                                                                                                                                                         
           vaultPath: "/kv/dev/stack1/app1/test"                                                                                                                                                               
           vaultKey: "password"                                                                                                                                                                                    
         - name: "cluster1"                                                                                                                                                                           
           vaultPath: "/kv/dev/stack1/app1/test"                                                                                                                                                               
           vaultKey: "password"

আমরা ভল্টে গোপনীয়তা রেকর্ড করার সময় অনুসরণ করার জন্য সাধারণ নিয়মগুলি সংজ্ঞায়িত করেছি৷
গোপন যদি প্রযোজ্য একটি নির্দিষ্ট প্রেক্ষাপট বা ক্লাস্টারে, আপনাকে একটি নির্দিষ্ট এন্ট্রি যোগ করতে হবে। (এখানে গোপন স্ট্যাক-অ্যাপ1-পাসওয়ার্ডের জন্য প্রসঙ্গ ক্লাস্টার1 এর নিজস্ব মান রয়েছে)।
অন্যথায় মান ব্যবহার করা হয় ডিফল্টরূপে.
এই তালিকার প্রতিটি আইটেমের জন্য কুবারনেটেস গোপন একটি কী-মান জোড়া ঢোকানো হয়। অতএব, আমাদের চার্টে গোপন টেমপ্লেটটি খুবই সহজ।

apiVersion: v1
data:
{{- range $key,$value := .Values.secrets }}
  {{ $key }}: {{ $value | b64enc | quote }}
{{ end }}
kind: Secret
metadata:
  name: "{{ .Chart.Name }}"
  labels:
    chartVersion: "{{ .Chart.Version }}"
    tillerVersion: "{{ .Capabilities.TillerVersion.SemVer }}"
type: Opaque

সমস্যা এবং সীমাবদ্ধতা

একাধিক সংগ্রহস্থলের সাথে কাজ করা

এখন আমরা চার্ট এবং অ্যাপ্লিকেশনের বিকাশকে আলাদা করি। এর মানে হল যে ডেভেলপারদের দুটি গিট রিপোজিটরিতে কাজ করতে হবে: একটি অ্যাপ্লিকেশনের জন্য, এবং একটি কুবারনেটসে এর স্থাপনার সংজ্ঞায়িত করার জন্য। 2 গিট রিপোজিটরি মানে 2টি ওয়ার্কফ্লো, এবং একজন নতুনের পক্ষে বিভ্রান্ত হওয়া সহজ।

সাধারণ চার্ট পরিচালনা করা একটি ঝামেলা

আমরা আগেই বলেছি, জেনেরিক চার্ট নির্ভরতা শনাক্ত করতে এবং একাধিক অ্যাপ্লিকেশন দ্রুত স্থাপনের জন্য খুবই উপযোগী। কিন্তু আমরা ব্যবহার করি --reuse-valuesআমরা এই সাধারণ চার্টের অংশ এমন একটি অ্যাপ্লিকেশন স্থাপন করার সময় প্রতিবার সমস্ত মান পাস করা এড়াতে।

একটি অবিচ্ছিন্ন ডেলিভারি ওয়ার্কফ্লোতে, আমাদের কাছে শুধুমাত্র দুটি মান রয়েছে যা নিয়মিত পরিবর্তিত হয়: প্রতিলিপির সংখ্যা এবং চিত্র ট্যাগ (সংস্করণ)। অন্যান্য, আরও স্থিতিশীল মানগুলি ম্যানুয়ালি পরিবর্তিত হয় এবং এটি বেশ কঠিন। অধিকন্তু, একটি সাধারণ চার্ট স্থাপনে একটি ভুল গুরুতর ব্যর্থতার কারণ হতে পারে, যেমনটি আমরা আমাদের নিজের অভিজ্ঞতা থেকে দেখেছি।

একাধিক কনফিগারেশন ফাইল আপডেট করা হচ্ছে

যখন একজন বিকাশকারী একটি নতুন অ্যাপ্লিকেশন যুক্ত করেন, তখন তাকে বেশ কয়েকটি ফাইল পরিবর্তন করতে হয়: অ্যাপ্লিকেশন ঘোষণা, গোপনীয়তার তালিকা, অ্যাপ্লিকেশনটিকে নির্ভরতা হিসাবে যুক্ত করা যদি এটি সাধারণ চার্টে অন্তর্ভুক্ত থাকে।

ভল্টে জেনকিন্সের অনুমতিগুলি খুব বাড়ানো হয়েছে

আমরা এখন একটি আছে AppRole, যা ভল্ট থেকে সমস্ত গোপনীয়তা পড়ে।

রোলব্যাক প্রক্রিয়া স্বয়ংক্রিয় নয়

রোলব্যাক করতে, আপনাকে কয়েকটি ক্লাস্টারে কমান্ডটি চালাতে হবে এবং এটি ত্রুটিপূর্ণ। সঠিক সংস্করণ আইডি নির্দিষ্ট করা হয়েছে তা নিশ্চিত করতে আমরা ম্যানুয়ালি এই অপারেশনটি সম্পাদন করি।

আমরা GitOps এর দিকে এগিয়ে যাচ্ছি

আমাদের উদ্দেশ্য

আমরা চার্টটি যে অ্যাপ্লিকেশনটি স্থাপন করে তার সংগ্রহস্থলে ফেরত দিতে চাই।

কর্মপ্রবাহ উন্নয়নের মতোই হবে। উদাহরণস্বরূপ, যখন একটি শাখাকে মাস্টারের দিকে ঠেলে দেওয়া হয়, তখন স্থাপনা স্বয়ংক্রিয়ভাবে ট্রিগার হবে। এই পদ্ধতি এবং বর্তমান কর্মপ্রবাহ মধ্যে প্রধান পার্থক্য যে হবে সবকিছু git এ পরিচালিত হবে (অ্যাপ্লিকেশন নিজেই এবং যেভাবে এটি কুবারনেটে স্থাপন করা হয়েছে)।

বেশ কিছু সুবিধা আছে:

অনেক পরিষ্কার বিকাশকারীর জন্য। স্থানীয় চার্টে পরিবর্তনগুলি কীভাবে প্রয়োগ করতে হয় তা শিখতে সহজ।
পরিষেবা স্থাপনার সংজ্ঞা নির্দিষ্ট করা যেতে পারে কোড হিসাবে একই জায়গা সেবা
সাধারণীকৃত চার্ট অপসারণ পরিচালনা. পরিষেবাটির নিজস্ব হেলম রিলিজ থাকবে। এটি আপনাকে ক্ষুদ্রতম স্তরে অ্যাপ্লিকেশন লাইফসাইকেল (রোলব্যাক, আপগ্রেড) পরিচালনা করার অনুমতি দেবে, যাতে অন্যান্য পরিষেবাগুলি প্রভাবিত না হয়।
গিটের উপকারিতা চার্ট পরিচালনার জন্য: পরিবর্তনগুলি পূর্বাবস্থায় ফেরান, অডিট লগ, ইত্যাদি। আপনার যদি চার্টে একটি পরিবর্তন পূর্বাবস্থায় ফেরাতে হয়, আপনি গিট ব্যবহার করে এটি করতে পারেন। স্থাপনা স্বয়ংক্রিয়ভাবে শুরু হয়.
আপনি যেমন সরঞ্জামগুলির সাথে আপনার উন্নয়ন কর্মপ্রবাহ উন্নত করার কথা বিবেচনা করতে পারেন স্ক্যাফোল্ড, যার সাহায্যে ডেভেলপাররা উৎপাদনের কাছাকাছি কোনো প্রসঙ্গে পরিবর্তন পরীক্ষা করতে পারে।

দ্বি-পদক্ষেপ স্থানান্তর

আমাদের ডেভেলপাররা এখন 2 বছর ধরে এই ওয়ার্কফ্লো ব্যবহার করছেন, তাই আমরা চাই যে মাইগ্রেশন যতটা সম্ভব ব্যথাহীন হোক। অতএব, আমরা লক্ষ্যের পথে একটি মধ্যবর্তী পদক্ষেপ যোগ করার সিদ্ধান্ত নিয়েছি।
প্রথম পর্যায়ে সহজ:

আমরা অ্যাপ্লিকেশন স্থাপনার সেট আপ করার জন্য একটি অনুরূপ কাঠামো রাখি, তবে ডেইলিমোশন রিলিজ নামে একটি একক বস্তুতে।

apiVersion: "v1"
kind: "DailymotionRelease"
metadata:
  name: "app1.ns1"
  environment: "dev"
  branch: "mybranch"
spec:
  slack_channel: "#admin"
  chart_name: "app1"
  scaling:
    - context: "dev-us-central1-0"
      replicas:
        - name: "hermes"
          count: 2
    - context: "dev-europe-west1-0"
      replicas:
        - name: "app1-deploy"
          count: 2
  secrets:
    - secret_id: "app1"
      contexts:
        - name: "default"
          vaultPath: "/kv/dev/ns1/app1/test"
          vaultKey: "password"
        - name: "dev-europe-west1-0"
          vaultPath: "/kv/dev/ns1/app1/test"
          vaultKey: "password"

প্রতি আবেদন 1 রিলিজ (সাধারণকৃত চার্ট ছাড়া)।
অ্যাপ্লিকেশনের গিট সংগ্রহস্থলের চার্ট।

আমরা সব ডেভেলপারদের সাথে কথা বলেছি, তাই মাইগ্রেশন প্রক্রিয়া ইতিমধ্যেই শুরু হয়ে গেছে। প্রথম পর্যায়ে এখনও CI প্ল্যাটফর্ম ব্যবহার করে নিয়ন্ত্রিত হয়. আমি দ্বিতীয় পর্ব সম্পর্কে শীঘ্রই আরেকটি পোস্ট লিখব: কীভাবে আমরা একটি GitOps ওয়ার্কফ্লোতে চলে এসেছি প্রবাহ. আমি আপনাকে বলব কিভাবে আমরা সবকিছু সেট আপ করেছি এবং আমরা কোন অসুবিধার সম্মুখীন হয়েছি (একাধিক সংগ্রহস্থল, গোপনীয়তা, ইত্যাদি)। খবর অনুসরণ করুন.

এখানে আমরা গত বছরগুলিতে অ্যাপ্লিকেশন স্থাপনার কর্মপ্রবাহে আমাদের অগ্রগতি বর্ণনা করার চেষ্টা করেছি, যা GitOps পদ্ধতির বিষয়ে চিন্তাভাবনা করেছে। আমরা এখনও লক্ষ্যে পৌঁছাতে পারিনি এবং ফলাফলের বিষয়ে রিপোর্ট করব, কিন্তু এখন আমরা নিশ্চিত যে আমরা যখন সবকিছু সহজ করার সিদ্ধান্ত নিয়েছি এবং বিকাশকারীদের অভ্যাসের কাছাকাছি নিয়ে এসেছি তখন আমরা সঠিক কাজটি করেছি।

উত্স: www.habr.com

হেলমের সাথে একাধিক কুবারনেটস ক্লাস্টারে অ্যাপ্লিকেশন স্থাপন করা হচ্ছে