MLOps: DevOps во светот на машинско учење

Во 2018 година, концептот на MLOps се појави во професионалните кругови и на тематски конференции посветени на вештачката интелигенција, која брзо се зафати во индустријата и сега се развива како независна насока. Во иднина, MLOps може да станат една од најпопуларните области во ИТ. Што е тоа и со што се јаде? Ајде да дознаеме подолу.

Што е MLOps

MLOps (комбинирање на технологии и процеси за машинско учење и пристапи за имплементирање развиени модели во деловните процеси) е нов начин на соработка помеѓу претставниците на бизнисот, научниците, математичарите, специјалистите за машинско учење и ИТ инженерите при креирање системи за вештачка интелигенција.

Со други зборови, тоа е начин да се претворат методите и технологиите за машинско учење во корисна алатка за решавање на деловните проблеми. 

Неопходно е да се разбере дека синџирот на продуктивност започнува долго пред развојот на моделот. Нејзиниот прв чекор е да дефинира деловен проблем, хипотеза за вредноста што може да се извлече од податоците и деловна идеја за нејзина примена. 

Самиот концепт на MLOps настана како аналогија на концептот на DevOps во однос на моделите и технологиите за машинско учење. DevOps е пристап за развој на софтвер кој ви овозможува да ја зголемите брзината на имплементација на поединечни промени додека ја одржувате флексибилноста и доверливоста користејќи голем број пристапи, вклучително и континуиран развој, поделба на функциите на голем број независни микросервиси, автоматско тестирање и распоредување на поединечни промени, глобален мониторинг на здравјето, систем за брз одговор за откриени неуспеси итн. 

DevOps го дефинираше животниот циклус на софтверот, а заедницата дојде до идеја да ја примени истата методологија на големите податоци. DataOps е обид за прилагодување и проширување на методологијата земајќи ги предвид карактеристиките на складирање, пренос и обработка на големи количини на податоци во различни и интероперабилни платформи.
  
Со доаѓањето на одредена критична маса на модели за машинско учење имплементирани во деловните процеси на претпријатијата, беше забележана силна сличност помеѓу животниот циклус на моделите за математичко машинско учење и животниот циклус на софтверот. Единствената разлика е во тоа што алгоритмите на моделот се креирани со помош на алатки и методи за машинско учење. Затоа, природно се појави идејата да се применат и прилагодат веќе познатите пристапи за развој на софтвер за моделите за машинско учење. Така, следните клучни фази може да се разликуваат во животниот циклус на моделите за машинско учење:

• дефинирање на бизнис идеја;
• обука за модели;
• тестирање и имплементација на моделот во деловниот процес;
• функционирање на моделот.

Кога за време на работата има потреба да се промени или преквалификува моделот на нови податоци, циклусот започнува повторно - моделот се рафинира, тестира и се распоредува нова верзија.

Повлекување. Зошто да се преквалификува, а не да се преквалификува? Терминот „преквалификација на моделот“ има двојно значење: меѓу експертите тоа значи дефект на моделот, кога моделот добро предвидува, всушност го повторува предвидениот параметар на комплетот за обука, но има многу полошо на примерокот од надворешни податоци. Секако, таков модел е дефект, бидејќи овој дефект не дозволува негова употреба.

Во овој животен циклус, се чини логично да се користат алатките DevOps: автоматско тестирање, распоредување и следење, дизајнирање на пресметки на моделот во форма на посебни микросервиси. Но, има и голем број функции кои ја спречуваат директната употреба на овие алатки без дополнително врзување за ML.

Како да направите моделите да работат и да профитираат

Како пример во кој ќе ја демонстрираме употребата на пристапот MLOps, ќе ја земеме класичната задача да ја роботизираме поддршката за разговор за банкарски (или кој било друг) производ. Вообичаено, деловниот процес за поддршка на разговор изгледа вака: клиентот внесува порака со прашање во разговорот и добива одговор од специјалист во рамките на претходно дефинирано дрво за дијалог. Задачата за автоматизирање на таков разговор обично се решава со помош на стручно дефинирани групи правила, чие развивање и одржување е многу трудоинтензивно. Ефикасноста на таквата автоматизација, во зависност од нивото на сложеност на задачата, може да биде 20-30%. Секако, се појавува идејата дека е попрофитабилно да се воведе модул за вештачка интелигенција - модел развиен со користење на машинско учење, кој:

• може да обработи поголем број барања без учество на операторот (во зависност од темата, во некои случаи ефикасноста може да достигне 70-80%);
• подобро се прилагодува на нестандардни формулации во дијалог - може да ја одреди намерата, вистинската желба на корисникот врз основа на нејасно формулирано барање;
• знае како да одреди кога одговорот на моделот е соодветен и кога има сомнежи за „свесноста“ за овој одговор и треба да поставите дополнително појаснувачко прашање или да се префрлите на операторот;
• може дополнително да се обучи автоматски (наместо група програмери постојано да ги прилагодуваат и коригираат скриптите за одговор, моделот дополнително го обучува специјалист за наука за податоци користејќи соодветни библиотеки за машинско учење). 

Како да направите таков напреден модел да работи? 

Како и при решавање на кој било друг проблем, пред да се развие таков модул, неопходно е да се дефинира деловен процес и формално да се опише конкретната задача што ќе ја решиме користејќи го методот на машинско учење. Во овој момент започнува процесот на операционализација, означен со акронимот Ops. 

Следниот чекор е дека Data Scientist, во соработка со Data Engineer, ја проверува достапноста и доволноста на податоците и бизнис хипотезата за одржливоста на бизнис идејата, развивајќи прототип на моделот и тестирајќи ја неговата вистинска ефективност. Само по потврда од страна на бизнисот може да започне транзицијата од развивање модел кон негово интегрирање во системи кои вршат специфичен деловен процес. Планирањето на имплементацијата од крај до крај, длабокото разбирање во секоја фаза за тоа како моделот ќе се користи и каков економски ефект ќе донесе, е фундаментална точка во процесите на воведување MLOps пристапи во технолошкиот пејзаж на компанијата.

Со развојот на технологиите за вештачка интелигенција, бројот и разновидноста на проблемите што можат да се решат со користење на машинското учење се зголемуваат експоненцијално. Секој таков деловен процес е заштеда за компанијата поради автоматизацијата на трудот на масовните вработени (повикувачки центар, проверка и сортирање документи итн.), тоа е проширување на базата на клиенти со додавање нови атрактивни и удобни функции. е заштеда на пари поради оптимално користење и прераспределба на ресурсите и многу повеќе. На крајот на краиштата, секој процес е фокусиран на создавање вредност и, како резултат на тоа, мора да донесе одреден економски ефект. Овде е многу важно јасно да се формулира деловната идеја и да се пресмета очекуваниот профит од имплементацијата на моделот во севкупната структура на создавање вредност на компанијата. Има ситуации кога имплементацијата на модел не се оправдува, а времето поминато од специјалисти за машинско учење е многу поскапо од работното место на операторот што ја извршува оваа задача. Затоа е неопходно да се обидеме да ги идентификуваме ваквите случаи во раните фази на создавање системи за вештачка интелигенција.

Следствено, моделите почнуваат да генерираат профит само кога деловниот проблем е правилно формулиран во процесот на MLOps, кога се поставени приоритетите и процесот на воведување на моделот во системот е формулиран во раните фази на развојот.

Нов процес - нови предизвици

Сеопфатен одговор на фундаменталното деловно прашање за тоа колку моделите на ML се применливи за решавање на проблемите, општото прашање на доверба во вештачката интелигенција е еден од клучните предизвици во процесот на развивање и имплементација на MLOps пристапи. Првично, бизнисите се скептични за воведувањето на машинското учење во процесите - тешко е да се потпрете на модели на места каде што порано, како по правило, луѓето работеа. За бизнисот, програмите се чини дека се „црна кутија“, чија релевантност сè уште треба да се докаже. Покрај тоа, во банкарството, во бизнисот на телекомуникациските оператори и други, постојат строги барања на владините регулатори. Сите системи и алгоритми кои се имплементирани во банкарските процеси се предмет на ревизија. За да се реши овој проблем, за да им се докаже на бизнисот и на регулаторите валидноста и исправноста на одговорите на вештачката интелигенција, заедно со моделот се воведуваат и алатки за следење. Дополнително, постои независна процедура за валидација, задолжителна за регулаторните модели, која ги исполнува барањата на Централната банка. Независна експертска група врши ревизија на резултатите добиени од моделот земајќи ги предвид влезните податоци.

Вториот предизвик е проценка и земање предвид на ризиците од моделот при имплементирање на модел за машинско учење. Дури и ако човек не може со стопроцентна сигурност да одговори на прашањето дали истиот фустан бил бел или син, тогаш и вештачката интелигенција има право на грешка. Исто така, вреди да се земе предвид дека податоците може да се менуваат со текот на времето, а моделите треба да се преквалификуваат за да се добие доволно точен резултат. За да се осигура дека деловниот процес нема да трпи, неопходно е да се управуваат со ризиците на моделот и да се следат перформансите на моделот, редовно да се преквалификува за нови податоци.

Но, по првата фаза на недоверба, почнува да се појавува спротивен ефект. Колку повеќе модели се успешно имплементирани во процесите, толку повеќе расте апетитот на бизнисот за употреба на вештачка интелигенција - се наоѓаат нови и нови проблеми кои можат да се решат со помош на методи за машинско учење. Секоја задача предизвикува цел процес кој бара одредени компетенции:

• инженерите за податоци подготвуваат и обработуваат податоци;
• научниците за податоци користат алатки за машинско учење и развиваат модел;
• ИТ го имплементира моделот во системот;
• Инженерот за ML одредува како правилно да го интегрира овој модел во процесот, кои ИТ алатки да ги користи, во зависност од барањата за начинот на примена на моделот, земајќи го предвид протокот на барања, времето на одговор итн. 
• ML архитект дизајнира како софтверски производ може физички да се имплементира во индустриски систем.

Целиот циклус бара голем број висококвалификувани специјалисти. Во одреден момент во развојот и степенот на пенетрација на ML моделите во деловните процеси, излегува дека линеарното скалирање на бројот на специјалисти пропорционално на зголемувањето на бројот на задачи станува скапо и неефикасно. Затоа, се поставува прашањето за автоматизирање на процесот MLOps - дефинирање на неколку стандардни класи на проблеми со машинско учење, развој на стандардни цевководи за обработка на податоци и дополнителна обука на модели. Во идеална слика, за решавање на ваквите проблеми потребни се професионалци кои се подеднакво умешни во компетенциите на пресекот на Big Data, Data Science, DevOps и IT. Затоа, најголемиот проблем во индустријата на Data Science и најголемиот предизвик во организирањето на MLOps процесите е недостатокот на таква компетентност на постоечкиот пазар за обука. Специјалисти кои ги исполнуваат овие барања во моментов се ретки на пазарот на трудот и вредат злато.

По прашањето на надлежностите

Теоретски, сите задачи на MLOps може да се решат со користење на класични алатки DevOps и без прибегнување кон специјализирано проширување на моделот за улоги. Потоа, како што забележавме погоре, научникот за податоци мора да биде не само математичар и аналитичар на податоци, туку и гуру на целиот гасовод - тој е одговорен за развој на архитектурата, програмирање модели на неколку јазици во зависност од архитектурата, подготовка мартирање на податоци и распоредување на самата апликација. Сепак, создавањето технолошка рамка имплементирана во процесот на MLOps од крај до крај одзема до 80% од трошоците за работна сила, што значи дека квалификуван математичар, кој е квалитетен научник за податоци, ќе посвети само 20% од своето време на својата специјалност. . Затоа, разграничувањето на улогите на специјалистите вклучени во процесот на имплементација на моделите за машинско учење станува од витално значење. 

Колку детално треба да се разграничат улогите зависи од големината на претпријатието. Едно е кога стартап има еден специјалист, вреден работник во енергетскиот резерват, кој е негов сопствен инженер, архитект и DevOps. Сосема поинаква работа е кога, во едно големо претпријатие, сите процеси на развој на модели се концентрирани на неколку специјалисти за податоци на високо ниво, додека програмер или специјалист за бази на податоци - почеста и поевтина компетентност на пазарот на трудот - може да потрае на поголемиот дел од работата.рутински задачи.

Така, брзината и квалитетот на развиените модели, продуктивноста на тимот и микроклимата во него директно зависат од тоа каде е границата во изборот на специјалисти за поддршка на процесот MLOps и како се организира процесот на операционализација на развиените модели. .

Она што нашиот тим веќе го направи

Неодамна почнавме да градиме структура на компетентност и процеси на MLOps. Но, нашите проекти за управување со животниот циклус на моделите и за користење модели како услуга се веќе во фаза на тестирање на MVP.

Ја утврдивме и оптималната структура на компетентност за големо претпријатие и организациската структура на интеракција помеѓу сите учесници во процесот. Беа организирани агилни тимови за да ги решат проблемите за целиот опсег на деловни клиенти и беше воспоставен процес на интеракција со проектните тимови за создавање платформи и инфраструктура, што е основата на зградата MLOps во изградба.

Прашања за иднината

MLOps е растечка област која доживува недостиг на компетенции и ќе добие замав во иднина. Во меѓувреме, најдобро е да се надоврзете на развојот и практиките на DevOps. Главната цел на MLOps е поефективно користење на ML моделите за решавање на деловните проблеми. Но, ова покренува многу прашања:

• Како да се намали времето за лансирање модели во производство?
• Како да се намали бирократското триење меѓу тимовите со различни компетенции и да се зголеми фокусот на соработката?
• Како да ги следите моделите, да управувате со верзии и да организирате ефективно следење?
• Како да се создаде вистински кружен животен циклус за модерен ML модел?
• Како да се стандардизира процесот на машинско учење?

Одговорите на овие прашања во голема мера ќе одредат колку брзо MLOps ќе го достигнат својот целосен потенцијал.

Извор: www.habr.com