Kubecost-ის მიმოხილვა ღრუბლებში Kubernetes-ზე ფულის დაზოგვისთვის

ამჟამად, უფრო და უფრო მეტი კომპანია გადასცემს თავის ინფრასტრუქტურას ტექნიკის სერვერებიდან და საკუთარი ვირტუალური მანქანებიდან ღრუბელში. ეს გამოსავალი მარტივი ასახსნელია: არ არის საჭირო აპარატურაზე ფიქრი, კლასტერი ადვილად კონფიგურირებულია სხვადასხვა გზით... და რაც მთავარია, არსებული ტექნოლოგიები (როგორიცაა Kubernetes) შესაძლებელს ხდის გამოთვლითი სიმძლავრის უბრალოდ მასშტაბირებას დატვირთვის მიხედვით. .

ფინანსური ასპექტი ყოველთვის მნიშვნელოვანია. ამ სტატიაში განხილული ხელსაწყო შექმნილია იმისთვის, რომ დაეხმაროს ბიუჯეტის შემცირებას Kubernetes-ით ღრუბლოვანი ინფრასტრუქტურის გამოყენებისას.

შესავალი

კუბეკოსტი არის კალიფორნიული სტარტაპი Google-ისგან, რომელიც ქმნის გამოსავალს ღრუბლოვან სერვისებში ინფრასტრუქტურის ხარჯების გამოსათვლელად (Kubernetes კლასტერში + გაზიარებული რესურსების ფარგლებში), კლასტერების პარამეტრებში შეფერხებების ძიება და Slack-ისთვის შესაბამისი შეტყობინებების გაგზავნა.

ჩვენ გვყავს კლიენტები Kubernetes-თან, როგორც ნაცნობ AWS და GCP ღრუბლებში და, უფრო იშვიათად, Linux-ის საზოგადოებისთვის, Azure - ზოგადად, Kubecost-ის მიერ მხარდაჭერილ ყველა პლატფორმაზე. ზოგიერთი მათგანისთვის ჩვენ თვითონ ვიანგარიშებთ შიდა კლასტერული სერვისების ხარჯებს (კუბეკოსტის მსგავსი მეთოდის გამოყენებით), ასევე ვაკვირდებით ინფრასტრუქტურის ხარჯებს და ვცდილობთ მათ ოპტიმიზაციას. ამიტომ, ლოგიკურია, რომ ჩვენ დაინტერესებული ვიყავით ასეთი ამოცანების ავტომატიზაციის შესაძლებლობით.

Kubecost-ის ძირითადი მოდულის წყაროს კოდი ღიაა ღია წყაროს ლიცენზიის პირობებით (Apache License 2.0). მისი გამოყენება თავისუფლად შეიძლება და ხელმისაწვდომი ფუნქციები საკმარისი უნდა იყოს მცირე პროექტებისთვის. თუმცა, ბიზნესი ბიზნესია: დანარჩენი პროდუქტი დახურულია, მისი გამოყენება შესაძლებელია ფასიანი ხელმოწერები, რაც ასევე გულისხმობს კომერციულ მხარდაჭერას. გარდა ამისა, ავტორები გვთავაზობენ უფასო ლიცენზიას მცირე კლასტერებისთვის (1 კლასტერი 10 კვანძით - ამ სტატიის წერის დროს ეს ლიმიტი გაფართოვდა 20 კვანძამდე) ან საცდელ პერიოდს სრული შესაძლებლობებით 1 თვის განმავლობაში.

როგორ მუშაობს ყველაფერი

ასე რომ, Kubecost-ის ძირითადი ნაწილი არის აპლიკაცია ხარჯ-მოდელიGo-ში დაწერილი. Helm სქემა, რომელიც აღწერს მთელ სისტემას ეწოდება ხარჯების ანალიზატორი და მის ბირთვში არის ასამბლეა ღირებულების მოდელისგან პრომეთეს, გრაფანასა და რამდენიმე დაფთან ერთად.

ზოგადად, ღირებულება-მოდელს აქვს საკუთარი ვებ ინტერფეისი, რომელიც აჩვენებს გრაფიკებს და დეტალურ სტატისტიკას ხარჯების შესახებ ცხრილის სახით, ასევე, რა თქმა უნდა, რჩევებს ხარჯების ოპტიმიზაციისთვის. Grafana-ში წარმოდგენილი დაფები წარმოადგენს Kubecost-ის განვითარების უფრო ადრეულ ეტაპს და შეიცავს იგივე მონაცემებს, როგორც ღირებულების მოდელი, ავსებს მათ კლასტერში CPU/მეხსიერების/ქსელის/დისკის სივრცის მოხმარების ჩვეულებრივ სტატისტიკას და მის კომპონენტებს. .

როგორ მუშაობს Kubecost?

• Cost-model იღებს მომსახურების ფასებს ღრუბლოვანი პროვაიდერების API-ის მეშვეობით.
• გარდა ამისა, კვანძის რკინის ტიპისა და რეგიონის მიხედვით, გამოითვლება თითო კვანძის ღირებულება.
• გაშვებული კვანძების ღირებულებიდან გამომდინარე, თითოეული ფოთლის პოდი იღებს ღირებულებას CPU-ის გამოყენების საათზე, მოხმარებული მეხსიერების თითო გიგაბაიტზე და შენახული მონაცემების თითო გიგაბაიტზე - დამოკიდებულია კვანძზე, რომელზეც მუშაობდა ან შენახვის კლასზე.
• ინდივიდუალური პოდების ფუნქციონირების ღირებულებიდან გამომდინარე, გადახდა გამოითვლება სახელთა სივრცის, სერვისების, განლაგების, StatefulSets-ებისთვის.
• სტატისტიკა გამოითვლება kube-state-metrics-ისა და node-exporter-ის მიერ მოწოდებული მეტრიკის გამოყენებით.

მნიშვნელოვანია გავითვალისწინოთ, რომ Kubecost ნაგულისხმევად ითვლის მხოლოდ Kubernetes-ში ხელმისაწვდომ რესურსებს. გარე მონაცემთა ბაზები, GitLab სერვერები, S3 საცავი და სხვა სერვისები, რომლებიც არ არიან კლასტერში (თუნდაც იმავე ღრუბელში მდებარეობენ) არ ჩანს მისთვის. მიუხედავად იმისა, რომ GCP და AWS-სთვის შეგიძლიათ დაამატოთ თქვენი სერვისის ანგარიშების გასაღებები და ერთად გამოთვალოთ ყველაფერი.

დაყენების

Kubecost მოითხოვს:

• Kubernetes ვერსია 1.8 და უფრო მაღალი;
• kube-state-metrics;
• პრომეთე;
• კვანძ-ექსპორტიორი.

მოხდა ისე, რომ ჩვენს კლასტერებში ყველა ეს პირობა წინასწარ იყო დაკმაყოფილებული, ამიტომ აღმოჩნდა, რომ საკმარისი იყო მხოლოდ პრომეთეს წვდომისთვის სწორი საბოლოო წერტილის დაზუსტება. თუმცა, ოფიციალური kubecost Helm სქემა შეიცავს ყველაფერს, რაც გჭირდებათ შიშველ კლასტერზე გასაშვებად.

Kubecost-ის დაყენების რამდენიმე გზა არსებობს:

1. ინსტალაციის სტანდარტული მეთოდი აღწერილია ინსტრუქციები დეველოპერის ვებსაიტზე. აუცილებელია დაამატეთ ხარჯების ანალიზატორის საცავი Helm-ში და შემდეგ დააინსტალირეთ სქემა. რჩება მხოლოდ თქვენი პორტის გადაგზავნა და პარამეტრების სასურველ მდგომარეობაზე ხელით (kubectl-ის საშუალებით) და/ან ვებ-ინტერფეისის ღირებულების მოდელის გამოყენებით.

   ჩვენ არც კი გამოგვიცდია ეს მეთოდი, რადგან ჩვენ არ ვიყენებთ მესამე მხარის მზა კონფიგურაციებს, მაგრამ როგორც ჩანს, კარგი ვარიანტია „უბრალოდ სცადე შენთვის“. თუ თქვენ უკვე გაქვთ დაინსტალირებული სისტემის ზოგიერთი კომპონენტი ან გსურთ მეტი დაზუსტება, უმჯობესია განიხილოთ მეორე გზა.

2. გამოიყენეთ არსებითად იგივე სქემა, მაგრამ თავად დააკონფიგურირეთ და დააინსტალირეთ ნებისმიერი მოსახერხებელი გზით.

   როგორც უკვე აღვნიშნეთ, კუბეკოსტის გარდა, ეს სქემა შეიცავს Grafana-ს და Prometheus-ის ჩარტებს, რომელთა მორგებაც შესაძლებელია სურვილისამებრ.

   ხელმისაწვდომია გრაფიკზე values.yaml ხარჯების ანალიზატორისთვის საშუალებას გაძლევთ დააკონფიგურიროთ:

   • ხარჯების ანალიზატორის კომპონენტების სია, რომლებიც უნდა განთავსდეს;
   • თქვენი საბოლოო წერტილი პრომეთესთვის (თუ უკვე გაქვთ ერთი);
   • დომენები და სხვა შემოსვლის პარამეტრები ღირებულების მოდელისა და Grafana-სთვის;
   • ანოტაციები პოდებისთვის;
   • მუდმივი შენახვის საჭიროება და მისი ზომა.

   ხელმისაწვდომი კონფიგურაციის ვარიანტების სრული სია აღწერილობებით ხელმისაწვდომია დოკუმენტაცია.

   იმის გამო, რომ kubecost-ს თავის ძირითად ვერსიაში არ შეუძლია შეზღუდოს წვდომა, თქვენ დაუყოვნებლივ უნდა დააკონფიგურიროთ ძირითადი-auth ვებ პანელისთვის.

3. ინსტალაცია მხოლოდ სისტემის ბირთვი - ღირებულება-მოდელი. ამისათვის თქვენ უნდა გქონდეთ პრომეთე დაინსტალირებული კლასტერში და მიუთითოთ მისი მისამართის შესაბამისი მნიშვნელობა ცვლადში. prometheusEndpoint ჰელმისთვის. ამის შემდეგ - მიმართეთ YAML კონფიგურაციების ნაკრები კლასტერში.

   ისევ, თქვენ მოგიწევთ ხელით დაამატოთ Ingress ძირითადი-auth-ით. და ბოლოს, თქვენ უნდა დაამატოთ განყოფილება ხარჯების მოდელის მეტრიკის შესაგროვებლად extraScrapeConfigs პრომეთეს კონფიგურაციაში:

   - job_name: kubecost
     honor_labels: true
     scrape_interval: 1m
     scrape_timeout: 10s
     metrics_path: /metrics
     scheme: http
     dns_sd_configs:
     - names:
       - <адрес вашего сервиса kubecost>
       type: 'A'
       port: 9003

რას ვიღებთ?

სრული ინსტალაციით, ჩვენს განკარგულებაშია kubecost და Grafana ვებ პანელი დაფების ნაკრებით.

Საერთო ღირებულება, რომელიც ნაჩვენებია მთავარ ეკრანზე, რეალურად აჩვენებს რესურსების სავარაუდო ღირებულებას თვისთვის. ეს დაპროექტებული ფასი, რომელიც ასახავს კლასტერის გამოყენების ღირებულებას (თვეში) რესურსების მოხმარების მიმდინარე დონეზე.

ეს მეტრიკა უფრო განკუთვნილია ხარჯების ანალიზისა და მათი ოპტიმიზაციისთვის. კუბეკოსტში აბსტრაქტული ივლისის ჯამური ხარჯების ნახვა არც ისე მოსახერხებელია: ამის გაკეთება მოგიწევთ გადადით ბილინგიზე. მაგრამ თქვენ შეგიძლიათ იხილოთ ხარჯები დაყოფილი სახელების სივრცის, ეტიკეტების, განყოფილებების მიხედვით 1/2/7/30/90 დღის განმავლობაში, რომლებსაც ბილინგი არასოდეს გაჩვენებთ.

საუბრისას ეტიკეტები. თქვენ დაუყოვნებლივ უნდა გადახვიდეთ პარამეტრებზე და დააყენოთ ეტიკეტების სახელები, რომლებიც გამოყენებული იქნება დამატებით კატეგორიებად ხარჯების დაჯგუფებისთვის:

თქვენ შეგიძლიათ დაკიდოთ ნებისმიერი ეტიკეტები მათზე - მოსახერხებელია, თუ უკვე გაქვთ საკუთარი მარკირების სისტემა.

ასევე შეგიძლიათ შეცვალოთ API-ის ბოლო წერტილის მისამართი, რომელსაც უკავშირდება ხარჯების მოდელი, დაარეგულიროთ ფასდაკლების ზომა GCP-ში და დააყენოთ საკუთარი ფასები რესურსებზე და ვალუტაზე მათი გაზომვისთვის (რატომღაც ეს ფუნქცია არ მოქმედებს მთლიან ღირებულებაზე).

Kubecost-ს შეუძლია აჩვენოს სხვადასხვა პრობლემები კლასტერში (და საფრთხის შემთხვევაშიც კი გაფრთხილება). სამწუხაროდ, ვარიანტი არ არის კონფიგურირებადი და, შესაბამისად, თუ თქვენ გაქვთ გარემო დეველოპერებისთვის და იყენებთ მათ, მუდმივად ნახავთ მსგავს რაღაცას:

მნიშვნელოვანი ინსტრუმენტი - კლასტერული დანაზოგი. ის ზომავს პოდების აქტივობას (რესურსების მოხმარებას, მათ შორის ქსელურს) და ასევე ითვლის რა თანხას და რაზე შეგიძლიათ დაზოგოთ.

შეიძლება ჩანდეს, რომ ოპტიმიზაციის რჩევები საკმაოდ აშკარაა, მაგრამ გამოცდილება გვთავაზობს, რომ ჯერ კიდევ არის რაღაც გასათვალისწინებელი. კერძოდ, ხდება პოდების ქსელის აქტივობის მონიტორინგი (Kubecost გვთავაზობს ყურადღება მიაქციოთ არააქტიურებს), შედარებულია მოთხოვნილი და რეალური მეხსიერების და CPU მოხმარება, ასევე CPU, რომელსაც იყენებენ კლასტერული კვანძები (ვარაუდობს რამდენიმე კვანძის ერთში დაშლას), დისკი. დატვირთვა და კიდევ რამდენიმე ათეული პარამეტრი.

როგორც ოპტიმიზაციის ნებისმიერი საკითხი, Kubecost-ის მონაცემებზე დაფუძნებული რესურსების ოპტიმიზაცია მოითხოვს: მკურნალობა სიფრთხილით. მაგალითად, Cluster Savings გვთავაზობს კვანძების წაშლას, ამტკიცებს, რომ ეს უსაფრთხოა, მაგრამ არ ითვალისწინებს კვანძების სელექტორების და ლაქების არსებობას მათზე განლაგებულ კვანძებში, რომლებიც მიუწვდომელია სხვა კვანძებზე. და საერთოდ, პროდუქტის ავტორებიც კი მათში ბოლო სტატია (სხვათა შორის, ეს შეიძლება იყოს ძალიან სასარგებლო მათთვის, ვისაც აინტერესებს პროექტის თემა) მიზანშეწონილია არ იჩქაროთ ხარჯების ოპტიმიზაციაში, არამედ საკითხს გააზრებულად მიუდგეთ.

შედეგები

რამდენიმე პროექტზე kubecost-ის ერთი თვის გამოყენების შემდეგ, შეგვიძლია დავასკვნათ, რომ ეს არის საინტერესო (და ასევე ადვილი შესასწავლი და ინსტალაციის) ინსტრუმენტი კუბერნეტის კლასტერებისთვის გამოყენებული ღრუბლოვანი პროვაიდერების სერვისების ხარჯების ანალიზისა და ოპტიმიზაციისთვის. გამოთვლები ძალიან ზუსტი აღმოჩნდა: ჩვენს ექსპერიმენტებში ისინი დაემთხვა იმას, რასაც რეალურად მოითხოვდნენ პროვაიდერები.

ასევე არის გარკვეული უარყოფითი მხარეები: არის არაკრიტიკული შეცდომები და ზოგან ფუნქციონალობა არ ფარავს ზოგიერთი პროექტის სპეციფიკურ საჭიროებებს. თუმცა, თუ თქვენ გჭირდებათ სწრაფად გაიგოთ, სად მიდის ფული და რა შეიძლება "მოიჭრას", რათა თანმიმდევრულად შეამციროთ ღრუბლოვანი სერვისების გადასახადი 5-30% -ით (ეს არის ის, რაც მოხდა ჩვენს შემთხვევაში), ეს შესანიშნავი ვარიანტია. .

PS

ასევე წაიკითხეთ ჩვენს ბლოგზე:

• «ავტომატური მასშტაბირება და რესურსების მართვა Kubernetes-ში (მიმოხილვა და ვიდეო ანგარიში)";
• «Kubernetes სათავგადასავლო Dailymotion: ინფრასტრუქტურის შექმნა ღრუბლებში + შიდა შენობაში";
• «Kubernetes-ის რჩევები და ხრიკები: კვანძების განაწილებისა და ვებ აპლიკაციების დატვირთვის შესახებ".

წყარო: www.habr.com