🥇MLOps: DevOps në botën e Machine Learning

Në vitin 2018, në qarqet profesionale dhe në konferencat tematike të dedikuara AI, u shfaq koncepti i MLOps, i cili u përqafua shpejt në industrinë dhe tani po zhvillohet si një drejtim i pavarur. Në perspektivë, MLOps mund të bëhet një nga fushat më të kërkuara në IT. Çfarë është kjo dhe si e përdorim, e shqyrtojmë më poshtë.

Çfarë është MLOps

MLOps (bashkimi i teknologjive dhe proceseve të mësimit makinë dhe qasjeve për integrimin e modeleve të zhvilluara në proceset biznesore) është një mënyrë e re bashkëpunimi midis përfaqësuesve të biznesit, shkencëtarëve, matematicienëve, specialistëve të mësimit makinë dhe inxhinierëve IT për krijimin e sistemeve të inteligjencës artificiale.

Në fjalë të tjera, kjo është një mënyrë për të kthyer metodat dhe teknologjitë e mësimit makinë në një mjet të dobishëm për zgjidhjen e problemeve biznesore.

Duhet të kuptojmë se zinxhiri i produktivizimit fillon shumë përpara zhvillimit të modelit. Hapi i parë është përcaktimi i gjithë kërkesës së biznesit, hipotezat për vlerën që mund të nxirret nga të dhënat dhe ideja e biznesit për aplikimin e saj.

Vetë koncepti i MLOps u shfaq si një analogji me konceptin DevOps në lidhje me modelet dhe teknologjitë e mësimit makinë. DevOps është një qasje për zhvillimin e softuerit, që lejon rritjen e shpejtësisë së implementimit të ndryshimeve të veçanta duke mbajtur fleksibilitetin dhe besueshmërinë me anë të disa qasjeve, mes të cilave zhvillimi të vazhduar, ndarja e funksioneve në një sërë mikro-shërbimesh të pavarura, testim të automatizuar dhe implementim të ndryshimeve të veçanta, monitorim global të funksionimit, sistem për reagimin e shpejtë ndaj dështimeve të identifikuara, etj.

DevOps përcaktoi ciklin e jetës së softuerit dhe në komunitetin e specialistëve erdhi ideja që të përdoret e njëjta metodologji në lidhje me të dhënat e mëdha. DataOps është përpjekja për të përshtatur dhe zgjeruar metodologjinë, duke pasur parasysh veçantitë e ruajtjes, transferimit dhe përpunimit të masave të mëdha të të dhënave në platforma të ndryshme dhe që ndërveprojnë me njëra-tjetrën.

Me shfaqjen e një mase kritike të modeleve të mësimit të makinerisë, të implementuara në proceset e biznesit të ndërmarrjeve, është vënë re një ngjashmëri e fortë midis ciklit të jetës së modeleve matematikore të mësimit të makinerisë dhe ciklit të jetës së softuerit. Diferenca është vetëm se algoritmet e modeleve krijohen me anë të mjeteve dhe metodave të mësimit të makinerisë. Prandaj, natyrshëm lindi ideja për të aplikuar dhe adaptuar për modelet e mësimit të makinerisë qasjet e njohura për zhvillimin e softuerit. Kështu, në ciklin e jetës së modeleve të mësimit të makinerisë mund të veçohen këto etapa kyçe:

definimi i ideve të biznesit;
trajnim i modelit;
testimi dhe implementimi i modelit në procesin e biznesit;
shfrytëzimi i modelit.

Kur gjatë shfrytëzimit lind nevoja për të ndryshuar ose për të trajnuar sërish modelin me të dhëna të reja, cikli rinis — modeli ripunohët, testohet, dhe një version i ri shpërndahet.

Shkëputje. Pse ripërfshirje dhe jo ripërshkrim? Termi "ripërfshirje e modelit" ka kuptime të dyfishta: mes specialistëve ai nënkupton një defekt të modelit, kur modeli parashikon mirë, faktikisht përsërit parametrin e parashikuar në mostrën e trajnuar, por punon shumë më keq në mostrën e dhënave të jashtme. Natyrshëm, një model i tillë është defekt, pasi ky problem nuk e lejon atë të përdoret.

Në këtë cikël të jetës, duket e arsyeshme të përdoren mjetet e DevOps: testimi automatizuar, shpërndarja dhe monitorimi, formësimi i llogaritjeve të modeleve në formën e mikroshërbimeve të veçanta. Por ka edhe disa veçori që pengojnë përdorimin e drejtpërdrejtë të këtyre mjeteve pa një mbështetje shtesë të ML.

Si të bëjmë që modelet të punojnë dhe të sjellin fitim

Si e mori që ne do ta ilustrojmë përdorimin e qasjes MLOps, do të marrim detyrën e klasës klasike për robotizimin e bisedave mbështetëse të produkteve bankare (ose çdo produkti tjetër). Në përgjithësi, procesi i mbështetjes me anë të bisedave duket si më poshtë: klienti shkruan një mesazh me një pyetje në bisedë dhe merr një përgjigje nga një specialist brenda një strukture të paracaktuar dialogu. Detyra e automatizimit të këtij bisedimi zakonisht zgjidhet me anë të grupeve të rregullave të përcaktuara nga ekspertë, të cilat janë shumë të lodhshme për të zhvilluar dhe mbajtur. Efektiviteti i kësaj automatizimi, në varësi të nivelit të vështirësisë së detyrës, mund të arrijë 20–30%. Natyrisht, lind ideja se është më e leverdishme të implementohet një moduli inteligjencës artificiale — një model i dizenjuar përmes mësimit të makinerive, i cili:

është në gjendje të përpunojë një numër më të madh kërkesash pa ndihmën e operatorit (në varësi të temës, në disa raste efektiviteti mund të arrijë deri në 70–80%);
adaptosh më mirë në formulime jo standarde në bisedë — di të përcaktojë intencën, dëshirën reale të përdoruesit për një kërkesë që nuk është formuluar qartë;
di të përcaktojë se kur përgjigjja e modelit është adekuate dhe kur ndodhen dyshime në lidhje me 'ndërgjegjshmërinë' e kësaj përgjigjeje dhe duhet të bëhet një pyetje e sqarimit ose të kalojë te operatori;
mund të rishkruhet automatikisht (në vend të një grupi zhvilluesish që vazhdimisht adaptojnë dhe korrigjojnë skenarët e përgjigjeve, modeli rishkruhet nga një specialist i Shkencës së të Dhënave duke aplikuar bibliotekat përkatëse të mësimit të makinerive).

Si ta bëjmë të funksionojë një model të tillë të avancuar?

Ashtu si me zgjidhjen e çdo detyre tjetër, përpara se të zhvillojmë një modul të tillë, është e nevojshme të përcaktohet procesi i biznesit dhe të përshkruhet formalisht detyra specifike që do të zgjidhim duke përdorur metodën e mësimit të makinerive. Në këtë pikë fillon procesi i operacionalizimit, i cili shenjohen në akronimin Ops.

Hapi tjetër, specialisti i Data Science në bashkëpunim me inxhinierin e të dhënave kontrollon disponueshmërinë dhe mjaftueshmërinë e të dhënave dhe hipotezës së biznesit për funksionalitetin e idesë biznesore, duke zhvilluar një prototip të modelit dhe duke e testuar efektivitetin e tij të vërtetë. Vetëm pasi që biznesi ta konfirmojë këtë, mund të fillojë kalimi nga zhvillimi i modelit në integrimin e tij në sisteme që realizojnë një proces konkret biznesi. Planifikimi i gjithanshëm i zbatimit, kuptimi i thellë në çdo etapë se si do të përdoret modeli dhe çfarë ndikimi ekonomik do të sjellë, është një moment thelbësor në proceset e integrimit të qasjeve MLOps në peizazhin teknologjik të kompanisë.

Me zhvillimin e teknologjive të Inteligjencës Artificiale, numri dhe diversiteti i detyrave që mund të zgjidhen përmes mësimit të makinerive rritet me një ritëm të shpejtë. Çdo proces biznesi i tillë është një kursim për kompaninë për shkak të automatizimit të punës së stafit të pozita masive (qendra e thirrjeve, verifikimi dhe renditja e dokumenteve etj.), kjo është zgjerimi i bazës së klientëve përmes shtimit të funksioneve të reja tërheqëse dhe të përshtatshme, kursimi i fondeve për shkak të përdorimit optimal të tyre dhe ribashkimit të burimeve dhe shumë më tepër. Në fund të fundit, çdo proces është i orientuar drejt krijimit të vlerës dhe, si pasojë, duhet të sjellë një efekt ekonomik të caktuar. Këtu është shumë e rëndësishme të formulosh qartë idenë e biznesit dhe të llogarisësh fitimin e pritur nga implementimi i modelit në strukturen e përgjithshme të krijimit të vlerës për kompaninë. Ka raste kur implementimi i modelit nuk justifikon vetveten, dhe koha e shpenzuar nga specialistët e mësimit të makinave e kalon qëndrim shumë më të shtrenjtë se sa vendi i punës i operatorit që realizon këtë detyrë. Prandaj, këto raste duhet të identifikohen sa më herët gjatë krijimit të sistemeve të Inteligjencës Artificiale.

Prandaj, fitimi nga modeli fillon të sjellë përfitime vetëm kur në procesin e MLOps është formuluar saktë detyra e biznesit, janë vendosur prioritetet dhe në fazat fillestare të zhvillimit është formuluar procesi i integrimit të modelit në sistem.

Procesi i ri – sfida të reja

Një përgjigje e plotë mbi pyetjen kryesore të biznesit se sa të aplikueshme janë modelet ML për zgjidhjen e problemeve, pyetja e përgjithshme e besimit në AI është një nga sfidat kyçe në procesin e zhvillimit dhe implementimit të qasjeve MLOps. Fillimisht, biznesi e sheh me skepticizëm implementimin e mësimit të makinerive në procese — është e vështirë të mbështetesh në modele në ato vende ku më parë, zakonisht, punonin njerëzit. Për biznesin, programet paraqiten si një "kut i zi", relevanca e përgjigjeve të të cilave ende duhet të provohet. Për më tepër, në veprimtarinë bankare, në biznesin e operatorëve të komunikimit dhe në të tjera, ekzistojnë kërkesa të rrepta nga rregullatorët shtetërorë. Të gjitha sistemet dhe algoritmet që janë implementuar në proceset bankare iu nënshtrohen auditeve. Për të zgjidhur këtë problem, për të provuar biznesit dhe rregullatorëve arsyeshmërinë dhe saktësinë e përgjigjeve të inteligjencës artificiale, së bashku me modelin implementohen mjete monitorimi. Për më tepër, ekziston një procedurë e vlefshmërisë së pavarur, e cila është e detyrueshme për modelet rregullatore dhe përputhet me kërkesat e Bankës Qendrore. Një grup ekspertësh të pavarur kryen auditimin e rezultateve të marra nga modeli duke marrë parasysh të dhënat hyrëse.

Sfida e dytë është vlerësimi dhe llogaritja e riskut të modeleve gjatë implementimit të modelit të mësimit të makinerive. Nëse edhe njeriu nuk mund të përgjigjet me një siguri të njëqind për qind në pyetje, nëse ajo fustani ishte i bardhë apo blu, atëherë edhe inteligjenca artificiale ka të drejtë të bëjë gabime. Po ashtu, duhet marrë parasysh se me kalimin e kohës të dhënat mund të ndryshojnë dhe modelet duhet të ri-trajnohen për të dhënë rezultate sa më të sakta. Për të mos dëmtuar procesin e biznesit, është e nevojshme të menaxhohen risqet e modeleve dhe të monitorohet puna e modelit, duke e ri-trajnuar rregullisht atë me të dhëna të reja.

Por pas fazës fillestare të mosbesimit fillon të shihet efekti i kundërt. Sa më shumë modele të implementuara me sukses në procese, aq më shumë rritet apetiti i biznesit për të përdorur inteligjencën artificiale — gjenden gjithnjë e më shumë detyra që mund të zgjidhen përmes metodave të mësimit të makinerive. Çdo detyrë nisi një proces të tërë që kërkon aftësi të ndryshme:

inxhinerët e të dhënave përgatitin dhe përpunojnë të dhënat;
shkencëtarët e të dhënave përdorin mjetet e mësimit të makinerive dhe zhvillojnë modelin;
IT integret modelin në sistem;
Inxhinieri i ML përcakton se si të integrohet saktësisht ky model në proces, cilat mjete IT duhet të përdoren në përputhje me kërkesat për mënyrën e përdorimit të modelit duke marrë parasysh fluksin e kërkesave, kohën e përgjigjes etj.
Arkitekt i ML projekton se si mund të realizohet fizikisht produkte software në sistemin industrial.

Cikli i tërë kërkon një numër të madh specialistësh të kualifikuar. Në një moment të caktuar të zhvillimit dhe shkallës së depërtimit të modeleve ML në proceset e biznesit, rezulton se të rritësh në mënyrë lineare numrin e specialistëve në përputhje me rritjen e numrit të detyrave bëhet e shtrenjtë dhe e papërballshem. Prandaj, lind pyetja e automatizimit të procesit MLOps - përcaktimi i disa klasave standarde të detyrave të mësimit të makinës, zhvillimi i pipelineve tipike për përpunimin e të dhënave dhe përmirësimin e modeleve. Në pamjen ideale për të zgjidhur këto detyra kërkohen profesionistë që zotërojnë në mënyrë të barabartë kompetencat në ndërveprimin e Big Data, Shkencës së Të Dhënave, DevOps dhe IT. Prandaj, problemi më i madh në industrinë e Shkencës së Të Dhënave dhe sfida më e madhe në organizimin e proceseve MLOps është mungesa e kësaj kompetence në tregun aktual të përgatitjes së kuadrove. Specialistët që plotësojnë këto kërkesa aktualisht janë të pakët në tregun e punës dhe janë të çmuar si ari.

Në lidhje me kompetencat

Në teori, të gjitha detyrat e MLOps mund të zgjidhën me mjete klasike DevOps dhe pa iu drejtuar zgjerimit të specializuar të modelit të rolit. Siç e përmendëm më parë, data scientist duhet të jetë jo vetëm matematicien dhe specialist në analizën e të dhënave, por edhe guru i të gjithë pipeline-it - ai është përgjegjës për zhvillimin e arkitekturës, programimin e modeleve në disa gjuhë varësisht nga arkitektura, përgatitjen e vitrinës së të dhënave dhe deploymin e aplikacionit vetë. Megjithatë, krijimi i infrastrukturës teknologjike, e cila realizohet në procesin e plotë MLOps, zë deri në 80% të punës, që do të thotë se një matematicien i kualifikuar, i cili është një Data Scientist i kualifikuar, do t'i kushtojë vetëm 20% të kohës së tij specialitetit të tij. Prandaj, ndarja e rolit të specialistëve, që realizojnë procesin e integrimit të modeleve të mësimit të makinës, bëhet jetike.

Sa sa e detajuar roli, varet nga shkalla e ndërmarrjes. Një gjë është kur në një startup ka një specialist, punëtor i gatshëm për të gjitha, vetë inxhinier, arkitekt dhe DevOps. Krejt ndryshe është kur në një ndërmarrje të madhe, të gjitha proceset e zhvillimit të modeleve përqendrohen tek disa specialistë të nivelit të lartë në Data Science, ndërsa programuesi apo specialisti i menaxhimit të bazave të dhënave — është një kompetencë më e përdorur dhe më e lirë në tregun e punës — që mund të merr pjesën më të madhe të detyrave rutinë.

Kështu, ku kalon kufiri në zgjedhjen e specialistëve për të siguruar procesin e MLOps dhe si është organizuar procesi i operacionalizimit të modeleve të zhvilluara, ndikon drejtpërdrejt në shpejtësinë dhe cilësinë e modeleve të zhvilluara, performancën e ekipit dhe mikroklimën aty.

Çfarë është bërë tashmë nga ekipi ynë

Pak kohë më parë, filluam të ndërtojmë strukturën e kompetencave dhe proceset e MLOps. Por tashmë, në fazën e testimit të MVP-së janë projektet tona për menaxhimin e ciklit të jetës së modeleve dhe përdorimin e modeleve si shërbim.

Gjithashtu, ne identifikuam strukturën optimale të kompetencave për një ndërmarrje të madhe dhe strukturën organizative të bashkëpunimit mes të gjithë pjesëmarrësve të procesit. U organizuan ekipe Agile që zgjidhin detyra për të gjithë spektrin e kërkesave të biznesit, si dhe u vendos një proces i bashkëpunimit me ekipet e projektit për ndërtimin e platformave dhe infrastrukturës, që është baza e ndërtesës së MLOps.

Pyetje për të ardhmen

MLOps është një fushë në zhvillim, e cila përjeton mungesë kompetencash dhe në të ardhmen do të merr drejtim. Deri tani, është më mirë të fillojmë nga praktikat dhe përvojat e DevOps. Qëllimi kryesor i MLOps është përdorimi më efektiv i modeleve ML për zgjidhjen e detyrave të biznesit. Por, këtë situatë shoqërojnë shumë pyetje:

Si të shkurtosh kohën për të nxjerrë modelet në prodhim?
Si të zvogëloni fërkimet burokratike mes ekipeve të ndryshme dhe të rritni fokusimin në bashkëpunim?
Si të monitoroni modelet, menaxhoni versionet dhe organizoni një monitorim efektiv?
Si të krijoni një cikël të vërtetë jetësor për një model ML bashkëkohor?
Si të standardizoni procesin e mësimit të makinave?

Përgjigjet e këtyre pyetjeve do të ndikojnë shumë në shkallën në të cilën MLOps do të zbulojë plotësisht potencialin e tij.

Burimi: habr.com