MLOps: DevOps მანქანათმცოდნეობის სამყაროში

2018 წელს MLOps-ის კონცეფცია გამოჩნდა პროფესიულ წრეებში და AI-სადმი მიძღვნილ თემატურ კონფერენციებზე, რომელიც სწრაფად დაიმკვიდრა ინდუსტრიაში და ახლა ვითარდება, როგორც დამოუკიდებელი მიმართულება. მომავალში, MLOps შეიძლება გახდეს ერთ-ერთი ყველაზე პოპულარული სფერო IT-ში. რა არის და რითი მიირთმევენ, ქვემოთ გავიგებთ.

რა არის MLOps

MLOps (მანქანური სწავლების ტექნოლოგიებისა და პროცესების გაერთიანება და განვითარებული მოდელების ბიზნეს პროცესებში დანერგვის მიდგომები) არის თანამშრომლობის ახალი გზა ბიზნესის წარმომადგენლებს, მეცნიერებს, მათემატიკოსებს, მანქანათმცოდნეობის სპეციალისტებსა და IT ინჟინერებს შორის ხელოვნური ინტელექტის სისტემების შექმნისას.

სხვა სიტყვებით რომ ვთქვათ, ეს არის გზა მანქანური სწავლების მეთოდებისა და ტექნოლოგიების გადაქცევის სასარგებლო ინსტრუმენტად ბიზნეს პრობლემების გადასაჭრელად. 

აუცილებელია გვესმოდეს, რომ პროდუქტიულობის ჯაჭვი მოდელის შემუშავებამდე დიდი ხნით ადრე იწყება. მისი პირველი ნაბიჯი არის ბიზნეს პრობლემის განსაზღვრა, ჰიპოთეზა ღირებულების შესახებ, რომელიც შეიძლება იყოს ამოღებული მონაცემებიდან და ბიზნეს იდეა მისი გამოყენებისთვის. 

MLOps-ის კონცეფცია წარმოიშვა, როგორც DevOps-ის კონცეფციის ანალოგია მანქანური სწავლების მოდელებთან და ტექნოლოგიებთან დაკავშირებით. DevOps არის პროგრამული უზრუნველყოფის შემუშავების მიდგომა, რომელიც საშუალებას გაძლევთ გაზარდოთ ინდივიდუალური ცვლილებების განხორციელების სიჩქარე და შეინარჩუნოთ მოქნილობა და საიმედოობა მრავალი მიდგომის გამოყენებით, მათ შორის უწყვეტი განვითარება, ფუნქციების დაყოფა რიგ დამოუკიდებელ მიკროსერვისებად, ავტომატური ტესტირება და ინდივიდუალური განლაგება. ცვლილებები, გლობალური ჯანმრთელობის მონიტორინგი, სწრაფი რეაგირების სისტემა გამოვლენილ წარუმატებლობებზე და ა.შ. 

DevOps-მა განსაზღვრა პროგრამული უზრუნველყოფის სასიცოცხლო ციკლი და საზოგადოებამ მოიფიქრა იგივე მეთოდოლოგიის დიდი მონაცემების გამოყენების იდეა. DataOps არის მეთოდოლოგიის ადაპტირებისა და გაფართოების მცდელობა, მრავალფეროვან და თავსებად პლატფორმებში დიდი რაოდენობით მონაცემთა შენახვის, გადაცემის და დამუშავების მახასიათებლების გათვალისწინებით.
  
საწარმოების ბიზნეს პროცესებში დანერგილი მანქანური სწავლების მოდელების გარკვეული კრიტიკული მასის მოსვლასთან ერთად, შეინიშნება ძლიერი მსგავსება მათემატიკური მანქანათმცოდნეობის მოდელების სასიცოცხლო ციკლსა და პროგრამული უზრუნველყოფის სასიცოცხლო ციკლს შორის. ერთადერთი განსხვავება ისაა, რომ მოდელის ალგორითმები იქმნება მანქანათმცოდნეობის ინსტრუმენტებისა და მეთოდების გამოყენებით. ამიტომ, ბუნებრივად გაჩნდა იდეა, რომ გამოეყენებინათ და მოერგოთ უკვე ცნობილი მიდგომები პროგრამული უზრუნველყოფის შემუშავებაში მანქანური სწავლის მოდელებისთვის. ამრიგად, მანქანათმცოდნეობის მოდელების სასიცოცხლო ციკლში შეიძლება განვასხვავოთ შემდეგი ძირითადი ეტაპები:

• ბიზნეს იდეის განსაზღვრა;
• მოდელის ტრენინგი;
• მოდელის ტესტირება და დანერგვა ბიზნეს პროცესში;
• მოდელის მოქმედება.

როდესაც ექსპლუატაციის დროს საჭიროა მოდელის შეცვლა ან გადამზადება ახალ მონაცემებზე, ციკლი თავიდან იწყება - მოდელი დახვეწილია, ტესტირება და ახალი ვერსია განლაგებულია.

უკან დახევა. რატომ გადამზადება და არა გადამზადება? ტერმინს "მოდელის გადამზადება" ორმაგი მნიშვნელობა აქვს: ექსპერტებს შორის ეს ნიშნავს მოდელის დეფექტს, როდესაც მოდელი კარგად პროგნოზირებს, რეალურად იმეორებს ნაწინასწარმეტყველურ პარამეტრს სავარჯიშო კომპლექტზე, მაგრამ ბევრად უარესად მოქმედებს გარე მონაცემების ნიმუშზე. ბუნებრივია, ასეთი მოდელი დეფექტია, ვინაიდან ეს დეფექტი არ იძლევა მის გამოყენებას.

ამ სასიცოცხლო ციკლში, როგორც ჩანს, ლოგიკურია DevOps ინსტრუმენტების გამოყენება: ავტომატური ტესტირება, განლაგება და მონიტორინგი, მოდელის გამოთვლების შემუშავება ცალკეული მიკროსერვისების სახით. მაგრამ ასევე არსებობს მთელი რიგი ფუნქციები, რომლებიც ხელს უშლის ამ ხელსაწყოების პირდაპირ გამოყენებას დამატებითი ML სავალდებულო გარეშე.

როგორ გავხადოთ მოდელები იმუშაოს და იყოს მომგებიანი

როგორც მაგალითი, რომელშიც ჩვენ ვაჩვენებთ MLOps-ის მიდგომის გამოყენებას, ჩვენ ავიღებთ კლასიკურ ამოცანას ჩეთის მხარდაჭერის რობოტიზაციას საბანკო (ან ნებისმიერი სხვა) პროდუქტისთვის. როგორც წესი, ჩატის მხარდაჭერის ბიზნეს პროცესი ასე გამოიყურება: კლიენტი შეაქვს შეტყობინებას კითხვით ჩატში და იღებს პასუხს სპეციალისტისგან წინასწარ განსაზღვრული დიალოგის ხის ფარგლებში. ასეთი ჩატის ავტომატიზაციის ამოცანა, როგორც წესი, წყდება ექსპერტულად განსაზღვრული წესების გამოყენებით, რომელთა განვითარება და შენარჩუნება ძალიან შრომატევადია. ასეთი ავტომატიზაციის ეფექტურობა, ამოცანის სირთულის დონიდან გამომდინარე, შეიძლება იყოს 20-30%. ბუნებრივია, ჩნდება იდეა, რომ უფრო მომგებიანია ხელოვნური ინტელექტის მოდულის დანერგვა - მანქანური სწავლების გამოყენებით შემუშავებული მოდელი, რომელიც:

• შეუძლია ოპერატორის მონაწილეობის გარეშე მოთხოვნის უფრო დიდი რაოდენობის დამუშავება (თემადან გამომდინარე, ზოგიერთ შემთხვევაში ეფექტურობამ შეიძლება მიაღწიოს 70-80%);
• უკეთ ეგუება არასტანდარტულ ფორმულირებას დიალოგში - შეუძლია განსაზღვროს მომხმარებლის განზრახვა, რეალური სურვილი არა მკაფიოდ ჩამოყალიბებული მოთხოვნის საფუძველზე;
• იცის, თუ როგორ უნდა დაადგინოს, როდის არის მოდელის პასუხი ადეკვატური და როდესაც არსებობს ეჭვი ამ პასუხის „ინფორმირებულობაში“ და თქვენ გჭირდებათ დამატებითი დამაზუსტებელი კითხვის დასმა ან ოპერატორზე გადასვლა;
• შესაძლებელია დამატებით ტრენინგები ავტომატურად (იმის ნაცვლად, რომ დეველოპერების ჯგუფი მუდმივად ადაპტირებს და ასწორებს პასუხების სკრიპტებს, მოდელი დამატებით ტრენინგს ატარებს მონაცემთა მეცნიერების სპეციალისტის მიერ, შესაბამისი მანქანათმცოდნეობის ბიბლიოთეკების გამოყენებით). 

როგორ გავაუმჯობესოთ ასეთი მოწინავე მოდელი? 

როგორც ნებისმიერი სხვა პრობლემის გადაჭრისას, ასეთი მოდულის შემუშავებამდე აუცილებელია განვსაზღვროთ ბიზნეს პროცესი და ფორმალურად აღვწეროთ კონკრეტული ამოცანა, რომელსაც მოვაგვარებთ მანქანური სწავლის მეთოდის გამოყენებით. ამ ეტაპზე იწყება ოპერაციონალიზაციის პროცესი, რომელიც მითითებულია შემოკლებით Ops. 

შემდეგი ნაბიჯი არის ის, რომ მონაცემთა მეცნიერი მონაცემთა ინჟინერთან თანამშრომლობით ამოწმებს მონაცემთა ხელმისაწვდომობას და საკმარისობას და ბიზნეს ჰიპოთეზას ბიზნეს იდეის სიცოცხლისუნარიანობის შესახებ, შეიმუშავებს პროტოტიპის მოდელს და ამოწმებს მის რეალურ ეფექტურობას. მხოლოდ ბიზნესის მიერ დადასტურების შემდეგ შეიძლება დაიწყოს გადასვლა მოდელის შემუშავებიდან მის ინტეგრირებაზე კონკრეტულ ბიზნეს პროცესზე. დასრულებიდან ბოლომდე განხორციელების დაგეგმვა, თითოეულ ეტაპზე ღრმად გააზრება, თუ როგორ იქნება გამოყენებული მოდელი და რა ეკონომიკურ ეფექტს მოიტანს იგი, არის ფუნდამენტური წერტილი კომპანიის ტექნოლოგიურ ლანდშაფტში MLOps მიდგომების დანერგვის პროცესებში.

ხელოვნური ინტელექტის ტექნოლოგიების განვითარებით, პრობლემების რაოდენობა და მრავალფეროვნება, რომელთა გადაჭრა შესაძლებელია მანქანური სწავლის გამოყენებით, ექსპონენტურად იზრდება. თითოეული ასეთი ბიზნეს პროცესი კომპანიისთვის დანაზოგია მასობრივი თანამშრომლების შრომის ავტომატიზაციის გამო (სატელეფონო ცენტრი, დოკუმენტების შემოწმება და დახარისხება და ა.შ.), ეს არის კლიენტების ბაზის გაფართოება ახალი მიმზიდველი და მოსახერხებელი ფუნქციების დამატებით. არის ფულის დაზოგვა მათი ოპტიმალური გამოყენებისა და რესურსების გადანაწილების გამო და მრავალი სხვა. საბოლოო ჯამში, ნებისმიერი პროცესი ორიენტირებულია ღირებულების შექმნაზე და, შედეგად, გარკვეული ეკონომიკური ეფექტი უნდა მოიტანოს. აქ ძალიან მნიშვნელოვანია ბიზნეს იდეის მკაფიოდ ჩამოყალიბება და კომპანიის მთლიანი ღირებულების შექმნის სტრუქტურაში მოდელის დანერგვით მოსალოდნელი მოგების გამოთვლა. არის სიტუაციები, როდესაც მოდელის დანერგვა თავს არ ამართლებს და მანქანათმცოდნეების მიერ დახარჯული დრო გაცილებით ძვირია, ვიდრე ამ დავალების შემსრულებელი ოპერატორის სამუშაო ადგილი. სწორედ ამიტომ აუცილებელია AI სისტემების შექმნის ადრეულ ეტაპებზე მსგავსი შემთხვევების გამოვლენის მცდელობა.

შესაბამისად, მოდელები იწყებენ მოგების გამომუშავებას მხოლოდ მაშინ, როდესაც MLOps-ის პროცესში ბიზნეს პრობლემა სწორად არის ჩამოყალიბებული, პრიორიტეტები დადგინდება და მოდელის სისტემაში დანერგვის პროცესი ჩამოყალიბებულია განვითარების ადრეულ ეტაპებზე.

ახალი პროცესი - ახალი გამოწვევები

ყოვლისმომცველი პასუხი ბიზნესის ფუნდამენტურ კითხვაზე იმის შესახებ, თუ რამდენად გამოსადეგია ML მოდელები პრობლემების გადასაჭრელად, AI-სადმი ნდობის ზოგადი საკითხი ერთ-ერთი მთავარი გამოწვევაა MLOps მიდგომების შემუშავებისა და დანერგვის პროცესში. თავდაპირველად, ბიზნესი სკეპტიკურად უყურებს მანქანური სწავლების პროცესებში დანერგვას - ძნელია დაეყრდნო მოდელებს ისეთ ადგილებში, სადაც ადრე, როგორც წესი, ხალხი მუშაობდა. ბიზნესისთვის პროგრამები „შავ ყუთად“ გვევლინება, რომლის აქტუალობა ჯერ კიდევ დასამტკიცებელია. გარდა ამისა, საბანკო საქმეში, ტელეკომის ოპერატორების ბიზნესში და სხვა, მკაცრი მოთხოვნებია სახელმწიფო მარეგულირებლების მხრიდან. აუდიტს ექვემდებარება ყველა სისტემა და ალგორითმი, რომელიც დანერგილია საბანკო პროცესებში. ამ პრობლემის გადასაჭრელად, ბიზნესისთვის და მარეგულირებელებისთვის ხელოვნური ინტელექტის პასუხების მართებულობისა და სისწორის დასამტკიცებლად, მოდელთან ერთად დაინერგება მონიტორინგის ინსტრუმენტები. გარდა ამისა, არსებობს დამოუკიდებელი ვალიდაციის პროცედურა, სავალდებულო მარეგულირებელი მოდელებისთვის, რომელიც აკმაყოფილებს ცენტრალური ბანკის მოთხოვნებს. დამოუკიდებელი ექსპერტთა ჯგუფი ახორციელებს მოდელის მიერ მიღებულ შედეგებს შეყვანილი მონაცემების გათვალისწინებით.

მეორე გამოწვევა არის მოდელის რისკების შეფასება და გათვალისწინება მანქანური სწავლების მოდელის დანერგვისას. მაშინაც კი, თუ ადამიანს არ შეუძლია უპასუხოს კითხვაზე ასი პროცენტით დარწმუნებით, იგივე კაბა თეთრი იყო თუ ლურჯი, მაშინ ხელოვნურ ინტელექტს ასევე აქვს შეცდომის დაშვების უფლება. ასევე გასათვალისწინებელია, რომ მონაცემები შეიძლება შეიცვალოს დროთა განმავლობაში და მოდელების გადამზადება საჭიროა საკმარისად ზუსტი შედეგის მისაღებად. იმისათვის, რომ ბიზნეს პროცესი არ დაზარალდეს, აუცილებელია მოდელის რისკების მართვა და მოდელის მუშაობის მონიტორინგი, რეგულარულად გადამზადება ახალ მონაცემებზე.

მაგრამ უნდობლობის პირველი ეტაპის შემდეგ საპირისპირო ეფექტი იწყება. რაც უფრო მეტი მოდელი წარმატებულად დაინერგება პროცესებში, მით უფრო იზრდება ბიზნესის მადა ხელოვნური ინტელექტის გამოყენების მიმართ - ჩნდება ახალი და ახალი პრობლემები, რომელთა გადაჭრა შესაძლებელია მანქანური სწავლის მეთოდების გამოყენებით. თითოეული დავალება იწვევს მთელ პროცესს, რომელიც მოითხოვს გარკვეულ კომპეტენციებს:

• მონაცემთა ინჟინრები ამზადებენ და ამუშავებენ მონაცემებს;
• მონაცემთა მეცნიერები იყენებენ მანქანათმცოდნეობის ინსტრუმენტებს და შეიმუშავებენ მოდელს;
• IT ახორციელებს მოდელს სისტემაში;
• ML ინჟინერი განსაზღვრავს, თუ როგორ სწორად მოახდინოს ამ მოდელის ინტეგრირება პროცესში, რომელი IT ინსტრუმენტები გამოიყენოს, მოდელის გამოყენების რეჟიმის მოთხოვნების მიხედვით, მოთხოვნების ნაკადის, პასუხის დროის და ა.შ. 
• ML არქიტექტორი ადგენს, თუ როგორ შეიძლება პროგრამული პროდუქტის ფიზიკურად დანერგვა ინდუსტრიულ სისტემაში.

მთელი ციკლი მოითხოვს მაღალკვალიფიციური სპეციალისტების დიდ რაოდენობას. ბიზნეს პროცესებში ML მოდელების შემუშავებისა და შეღწევის გარკვეულ მომენტში, აღმოჩნდება, რომ სპეციალისტების რაოდენობის წრფივი მასშტაბირება ამოცანების რაოდენობის ზრდის პროპორციულად ხდება ძვირი და არაეფექტური. აქედან გამომდინარე, ჩნდება კითხვა MLOps პროცესის ავტომატიზაციის შესახებ - მანქანური სწავლების პრობლემების რამდენიმე სტანდარტული კლასის განსაზღვრა, მონაცემთა დამუშავების სტანდარტული მილსადენების შემუშავება და მოდელების დამატებითი ტრენინგი. იდეალურ სურათში, ასეთი პრობლემების გადაჭრა მოითხოვს პროფესიონალებს, რომლებიც თანაბრად ფლობენ კომპეტენციებს Big Data, Data Science, DevOps და IT-ის კვეთაზე. აქედან გამომდინარე, მონაცემთა მეცნიერების ინდუსტრიაში ყველაზე დიდი პრობლემა და MLOps პროცესების ორგანიზების ყველაზე დიდი გამოწვევა არის ასეთი კომპეტენციის ნაკლებობა არსებულ ტრენინგ ბაზარზე. სპეციალისტები, რომლებიც აკმაყოფილებენ ამ მოთხოვნებს, ამჟამად შრომის ბაზარზე იშვიათია და მათი წონა ოქროთი ღირს.

კომპეტენციების საკითხზე

თეორიულად, ყველა MLOps ამოცანის გადაჭრა შესაძლებელია კლასიკური DevOps ინსტრუმენტების გამოყენებით და როლური მოდელის სპეციალიზებული გაფართოების გარეშე. შემდეგ, როგორც ზემოთ აღვნიშნეთ, მონაცემთა მეცნიერი უნდა იყოს არა მხოლოდ მათემატიკოსი და მონაცემთა ანალიტიკოსი, არამედ მთელი მილსადენის გურუ - ის პასუხისმგებელია არქიტექტურის შემუშავებაზე, მოდელების დაპროგრამებაზე რამდენიმე ენაზე, არქიტექტურიდან გამომდინარე, მომზადებაზე. მონაცემთა მარტი და თავად განაცხადის განლაგება. თუმცა, MLOps-ის პროცესში განხორციელებული ტექნოლოგიური ჩარჩოს შექმნა შრომის ხარჯების 80%-მდე იღებს, რაც ნიშნავს, რომ კვალიფიციური მათემატიკოსი, რომელიც არის მონაცემთა ხარისხიანი მეცნიერი, თავისი დროის მხოლოდ 20%-ს დაუთმობს თავის სპეციალობას. . ამიტომ, მანქანური სწავლების მოდელების დანერგვის პროცესში ჩართული სპეციალისტების როლების განსაზღვრა სასიცოცხლოდ მნიშვნელოვანია. 

რამდენად დეტალურად უნდა გამოიკვეთოს როლები, დამოკიდებულია საწარმოს ზომაზე. ერთია, როცა სტარტაპს ჰყავს ერთი სპეციალისტი, ენერგეტიკული რეზერვის შრომისმოყვარე, რომელიც არის მისი საკუთარი ინჟინერი, არქიტექტორი და DevOps. სრულიად განსხვავებული საკითხია, როდესაც მსხვილ საწარმოში მოდელის განვითარების ყველა პროცესი კონცენტრირებულია მონაცემთა მეცნიერების რამდენიმე მაღალი დონის სპეციალისტზე, ხოლო პროგრამისტს ან მონაცემთა ბაზის სპეციალისტს - უფრო გავრცელებული და ნაკლებად ძვირი კომპეტენცია შრომის ბაზარზე - შეუძლია მიიღოს. სამუშაოს უმეტესობაზე.რუტინული ამოცანები.

ამრიგად, შემუშავებული მოდელების სიჩქარე და ხარისხი, გუნდის პროდუქტიულობა და მასში არსებული მიკროკლიმატი პირდაპირ დამოკიდებულია იმაზე, თუ სად არის საზღვარი MLOps პროცესის მხარდასაჭერად სპეციალისტების შერჩევაში და როგორ არის ორგანიზებული შემუშავებული მოდელების ოპერაციული პროცესი. .

რაც ჩვენმა გუნდმა უკვე გააკეთა

ჩვენ ახლახან დავიწყეთ კომპეტენციების სტრუქტურისა და MLOps პროცესების შექმნა. მაგრამ ჩვენი პროექტები მოდელის სასიცოცხლო ციკლის მართვისა და მოდელების სერვისად გამოყენების შესახებ უკვე MVP ტესტირების ეტაპზეა.

ჩვენ ასევე დავადგინეთ კომპეტენციის ოპტიმალური სტრუქტურა დიდი საწარმოსთვის და პროცესის ყველა მონაწილეს შორის ურთიერთქმედების ორგანიზაციული სტრუქტურა. Agile გუნდები მოეწყო ბიზნეს მომხმარებელთა მთელი დიაპაზონის პრობლემების გადასაჭრელად და შეიქმნა პროექტის გუნდებთან ურთიერთქმედების პროცესი პლატფორმებისა და ინფრასტრუქტურის შესაქმნელად, რაც მშენებარე MLOps შენობის საფუძველია.

კითხვები მომავლისთვის

MLOps მზარდი სფეროა, რომელიც კომპეტენციების დეფიციტს განიცდის და მომავალში იმპულსს მოიპოვებს. იმავდროულად, უმჯობესია დაეყრდნოთ DevOps-ის განვითარებასა და პრაქტიკას. MLOps-ის მთავარი მიზანია ML მოდელების უფრო ეფექტურად გამოყენება ბიზნეს პრობლემების გადასაჭრელად. მაგრამ ეს ბევრ კითხვას ბადებს:

• როგორ შევამციროთ მოდელების წარმოებაში გაშვების დრო?
• როგორ შევამციროთ ბიუროკრატიული უთანხმოება სხვადასხვა კომპეტენციის გუნდებს შორის და გავზარდოთ აქცენტი თანამშრომლობაზე?
• როგორ თვალყური ადევნოთ მოდელებს, მართოთ ვერსიები და მოაწყოთ ეფექტური მონიტორინგი?
• როგორ შევქმნათ ჭეშმარიტად წრიული სასიცოცხლო ციკლი თანამედროვე ML მოდელისთვის?
• როგორ მოვახდინოთ მანქანური სწავლების პროცესის სტანდარტიზაცია?

ამ კითხვებზე პასუხები დიდწილად განსაზღვრავს, თუ რამდენად სწრაფად მიაღწევს MLOps სრულ პოტენციალს.

წყარო: www.habr.com