NĂ« vitin 2018, nĂ« qarqet profesionale dhe nĂ« konferencat tematike qĂ« trajtonin AI, u shfaq termi MLOps, i cili shpejt u konsolidua nĂ« industri dhe tani po zhvillohet si njĂ« drejtim i pavarur. NĂ« perspektivĂ«, MLOps mund tĂ« bĂ«het njĂ« nga fushat mĂ« tĂ« kĂ«rkuara nĂ« IT. ĂfarĂ« Ă«shtĂ« kjo dhe si funksionon, e kuptojmĂ« mĂ« poshtĂ«.
ĂfarĂ« Ă«shtĂ« MLOps
MLOps (bashkimi i teknologjive dhe proceseve tĂ« mĂ«simit tĂ« avtomatizuar dhe qasjet pĂ«r implementimin e modeleve tĂ« zhvilluara nĂ« proceset biznesore) Ă«shtĂ« njĂ« mĂ«nyrĂ« e re bashkĂ«punimi mes pĂ«rfaqĂ«suesve tĂ« biznesit, shkencĂ«tarĂ«ve,æ°ćŠikĂ«ve, specialistĂ«ve nĂ« fushĂ«n e mĂ«simit tĂ« automatik dhe inxhinierĂ«ve tĂ« IT-sĂ« pĂ«r krijimin e sistemeve tĂ« inteligjencĂ«s artificiale.
Me fjalĂ« tĂ« tjera, kjo Ă«shtĂ« njĂ« mĂ«nyrĂ« pĂ«r tĂ« transformuar metodat dhe teknologjitĂ« e mĂ«simit tĂ« automatik nĂ« njĂ« instrument tĂ« dobishĂ«m pĂ«r zgjidhjen e problemeve tĂ« biznesit.Â
Duhet kuptuar se zinxhiri i produktivizimit fillon shumĂ« pĂ«rpara zhvillimit tĂ« modelit. Hapi i parĂ« Ă«shtĂ« pĂ«rcaktimi i problemit tĂ« biznesit, hipoteza pĂ«r vlerĂ«n qĂ« mund tĂ« nxirret nga tĂ« dhĂ«nat dhe ideja e biznesit pĂ«r aplikimin e saj.Â
VetĂ« termi MLOps ka lindur si njĂ« analogji e termit DevOps nĂ« lidhje me modelet dhe teknologjitĂ« e mĂ«simit tĂ« automatik. DevOps Ă«shtĂ« njĂ« qasje pĂ«r zhvillimin e softuerit qĂ« lejon tĂ« rritet shpejtĂ«sia e implementimit tĂ« ndryshimeve tĂ« veçanta ndĂ«rsa ruan fleksibilitetin dhe besueshmĂ«rinĂ« falĂ« njĂ« serie qasjesh, mes tĂ« cilave zhvillimi i pandĂ«rprerĂ«, ndarja e funksioneve nĂ« njĂ« sĂ«rĂ« mikrosherbimesh tĂ« pavarura, testimi automatizuar dhe implementimi i ndryshimeve tĂ« veçanta, monitorimi global i operativitetit, sistemi pĂ«r pĂ«rgjigjen e shpejtĂ« ndaj çrregullimeve tĂ« identifikuara etj.Â
DevOps përcaktoi ciklin e jetës së softuerit dhe në komunitetin e specialistëve u shfaq ideja për të përdorur të njëjtën metodikë në lidhje me të dhënat e mëdha. DataOps është një përpjekje për të adaptohet dhe zgjeruar metodikën duke marrë parasysh karakteristikat e ruajtjes, transmetimit dhe përpunimit të masave të mëdha të të dhënave në platforma të ndryshme dhe që ndërveprojnë me njëra-tjetrën.
 Â
Me shumë modele të mësimit të makinerive të implementuara në proceset biznesore, është vënë re një ngjashmëri e fortë midis ciklit të jetës së modeleve të mësimit të makinerive dhe ciklit të jetës së softuerit. Diferenca është vetëm në atë që algoritmet e modeleve krijohen me mjete dhe metoda të mësimit të makinerive. Prandaj, është shfaqur natyrshëm ideja për të aplikuar dhe përshtatur qasjet e njohura për zhvillimin e softuerit për modele të mësimit të makinerive. Kështu, në ciklin e jetës së modeleve të mësimit të makinerive, mund të veçojmë këto hapa kyç:
- definimi i idesë së biznesit;
- trajnim i modelit;
- testimi dhe implementimi i modelit në procesin e biznesit;
- eksplorimi i modelit.
Kur gjatĂ« pĂ«rdorimit shfaqet nevoja pĂ«r tĂ« ndryshuar ose pĂ«r tĂ« trajnuar pĂ«rsĂ«ri modelin mbi tĂ« dhĂ«na tĂ« reja, cikli nis nga e para â modeli pĂ«rmirĂ«sohet, testohet dhe versioni i ri implementohet.
ShtesĂ«. Pse tĂ« trajnohet pĂ«rsĂ«ri dhe jo tĂ« tĂ«rhiqet? Termi âtĂ«rheqja e modelitâ ka dykuptimĂ«si: pĂ«r specialistĂ«t ai do tĂ« thotĂ« njĂ« defekt tĂ« modelit, kur modeli parashikon mirĂ«, nĂ« fakt pĂ«rsĂ«rit parametrin e parashikuar nĂ« grupin e tĂ« dhĂ«nave tĂ« trajnuara, por punon shumĂ« mĂ« keq nĂ« grupin e tĂ« dhĂ«nave tĂ« jashtme. Natyrisht, njĂ« model i tillĂ« Ă«shtĂ« njĂ« defekt, pasi ky problem nuk lejon pĂ«rdorimin e tij.
Në këtë cikël të jetës, duket logjike përdorimi i mjeteve DevOps: testim automatizuar, implementim dhe monitorim, formalizimi i llogaritjeve të modeleve si mikroshërbime të veçanta. Por ka edhe disa veçori që pengojnë aplikimin e drejtpërdrejtë të këtyre mjeteve pa një lidhje të mëtejshme të ML.
Si t'i bëjmë modelet të funksionojnë dhe të sjellin fitim
Si shembull, me tĂ« cilin do tĂ« demonstrojmĂ« zbatimin e qasjes MLOps, do tĂ« marrim detyrĂ«n klasike tĂ« robotizimit tĂ« bisedave mbĂ«shtetĂ«se pĂ«r produktet bankare (ose ndonjĂ« produkt tjetĂ«r). Zakonisht procesi i biznesit pĂ«r mbĂ«shtetje pĂ«rmes bisedave duket si mĂ« poshtĂ«: klienti shkruan njĂ« mesazh me pyetje nĂ« bisedĂ« dhe merr pĂ«rgjigjen e specialistit brenda njĂ« strukture tĂ« caktuar dialogu. Detyra e automatizimit tĂ« njĂ« bisedĂ« tĂ« tillĂ« zakonisht zgjidhet me grupe rregullash tĂ« pĂ«rcaktuara nga ekspertĂ«t, tĂ« cilat janĂ« shumĂ« tĂ« punshme nĂ« zhvillim dhe mbĂ«shtetje. Eficienca e kĂ«saj automatizimi, nĂ« varĂ«si tĂ« nivelit tĂ« kompleksitetit tĂ« detyrĂ«s, mund tĂ« arrijĂ« 20â30%. Natyrisht, lind ideja qĂ« Ă«shtĂ« mĂ« e dobishme tĂ« implementohet njĂ« moduli i inteligjencĂ«s artificiale â njĂ« model i zhvilluar me ndihmĂ«n e mĂ«simit tĂ« makinerisĂ«, i cili:
- Ă«shtĂ« nĂ« gjendje tĂ« procesojĂ« pa ndihmĂ«n e operatorit njĂ« numĂ«r mĂ« tĂ« madh kĂ«rkesash (varĂ«sisht nga tema, nĂ« disa raste efikasiteti mund tĂ« arrijĂ« 70â80%);
- pĂ«rtypihet mĂ« mirĂ« me formulime jo standarde nĂ« bisedĂ« â di tĂ« pĂ«rcaktojĂ« qĂ«llimin, dĂ«shirĂ«n reale tĂ« pĂ«rdoruesit pĂ«rmes njĂ« kĂ«rkese tĂ« paqartĂ«;
- di tĂ« pĂ«rcaktojĂ« kur pĂ«rgjigjja e modelit Ă«shtĂ« adekuate, dhe kur si âvetĂ«dijshmĂ«riâ pĂ«r kĂ«tĂ« pĂ«rgjigje ka dyshime dhe nevojitet tĂ« bĂ«het njĂ« pyetje sqaruese ose tĂ« kalojmĂ« te operatori;
- mund tĂ« rihape automatikisht (nĂ« vend tĂ« njĂ« grupi zhvilluesish qĂ« vazhdimisht adaptojnĂ« dhe korrigjojnĂ« skenarĂ«t e pĂ«rgjigjeve, modeli rihapet nga njĂ« specialist nĂ« ShkencĂ«n e tĂ« DhĂ«nave, duke pĂ«rdorur bibliotekat pĂ«rkatĂ«se tĂ« mĂ«simit tĂ« makinerisĂ«).Â
Si ta bĂ«jmĂ« tĂ« funksionojĂ« njĂ« model kaq tĂ« avancuar?Â
Siç ndodh me zgjidhjen e çdo detyre tjetĂ«r, pĂ«rpara se tĂ« zhvillohet njĂ« modul i tillĂ«, Ă«shtĂ« e nevojshme tĂ« pĂ«rcaktohet procesi i biznesit dhe tĂ« pĂ«rshkruhet formalisht detyra specifike qĂ« do tĂ« zgjidhim me ndihmĂ«n e metodĂ«s sĂ« mĂ«simit tĂ« makinerisĂ«. NĂ« kĂ«tĂ« pikĂ« fillon procesi i operacionalizimit, i shĂ«nuar me akronimin Ops.Â
Hapi tjetër është që specialisti i Data science, në bashkëpunim me inxhinierin e të dhënave, kontrollon disponueshmërinë dhe mjaftueshmërinë e të dhënave dhe hipotezën e biznesit për efektshmërinë e ideve të biznesit, duke zhvilluar një prototip të modelit dhe duke kontrolluar efektshmërinë e tij të vërtetë. Vetëm pasi që kjo të konfirmohet nga biznesi, mund të fillojë kalimi nga zhvillimi i modelit në integrimin e tij në sistemet që realizojnë një proces të caktuar biznesi. Planifikimi i plotë i integrimit, një kuptim i thellë në çdo hap se si do të përdoret modeli dhe çfarë efekti ekonomik do të sjellë, është një moment thelbësor në proceset e integrimit të qasjeve MLOps në peizazhin teknologjik të kompanisë.
Me zhvillimin e teknologjive tĂ« AI-sĂ«, numri dhe llojet e njĂ« gamĂ« tĂ« gjerĂ« detyrash qĂ« mund tĂ« zgjidhen pĂ«rmes mĂ«simit tĂ« makinerive po rriten me shpejtĂ«si. Ădo proces biznesi i tillĂ« pĂ«rfaqĂ«son njĂ« kursim pĂ«r kompaninĂ« pĂ«rmes automatizimit tĂ« punĂ«s pĂ«r pozita masive (qendrat telefonike, kontrolli dhe renditja e dokumenteve, etj.), zgjerimin e bazĂ«s sĂ« klientĂ«ve pĂ«rmes shtimit tĂ« funksioneve tĂ« reja tĂ«rheqĂ«se dhe tĂ« pĂ«rshtatshme, kursimi i mjeteve pĂ«rmes pĂ«rdorimit optimal tĂ« tyre dhe ri-ndarjes sĂ« burimeve dhe shumĂ« tĂ« tjera. NĂ« fund tĂ« fundit, çdo proces Ă«shtĂ« me orientim ndaj krijimit tĂ« vlerĂ«s dhe, si rezultat, duhet tĂ« sjellĂ« njĂ« efekt ekonomik tĂ« caktuar. KĂ«tu Ă«shtĂ« shumĂ« e rĂ«ndĂ«sishme tĂ« formuloni saktĂ« idenĂ« e biznesit dhe tĂ« llogaritni fitimin e pritur nga implementimi i modelit nĂ« strukturĂ«n e krijimit tĂ« vlerĂ«s sĂ« kompanisĂ«. Ka raste kur implementimi i modelit nuk justifikohet dhe koha e shpenzuar nga specialistĂ«t e mĂ«simit tĂ« makinerive Ă«shtĂ« mĂ« e shtrenjtĂ« se sa vendi i punĂ«s tĂ« operatorit qĂ« e realizon kĂ«tĂ« detyrĂ«. Prandaj, Ă«shtĂ« thelbĂ«sore tĂ« pĂ«rpiqemi tĂ« identifikojmĂ« tĂ« tilla raste nĂ« fazat e hershme tĂ« krijimit tĂ« sistemeve tĂ« AI.
Prandaj, fitimi nga modeli fillon të mbërrijë vetëm kur në procesin e MLOps është formuluar saktë detyra biznesore, janë vendosur prioritetet dhe në fazat e hershme të zhvillimit është formuluar procesi i implementimit të modelit në sistem.
Procesi i ri â sfida tĂ« reja
Një përgjigje gjithëpërfshirëse në pyetjen themelore të biznesit se sa të aplikueshme janë modelet ML për zgjidhjen e problemeve, si dhe çështja e përgjithshme e besimit në AI - është një nga sfidat kryesore në procesin e zhvillimit dhe zbatimit të qasjeve MLOps. Fillimisht, biznesi e percepton me skeptikizëm zbatimin e mësimit të makinerive në procese - është e vështirë të mbështetesh në modele në ato vende ku më parë zakonisht punonin njerëzit. Për biznesin, programet paraqiten si
Sfidë e dytë është vlerësimi dhe llogaritja e rreziqeve të modelit gjatë zbatimit të modelit të mësimit të makinerive. Nëse edhe një njeri nuk mund të përgjigjet me 100% siguri në pyetjen nëse ajo fustan ishte e bardhë apo e kaltër, atëherë edhe inteligjenca artificiale ka të drejtë të gabojë. Gjithashtu, duhet marrë parasysh se për shembuj, të dhënat mund të ndryshojnë me kalimin e kohës dhe modelet duhet të mësohen më tej për të dhënë rezultate mjaft të sakta. Për të mos dëmtuar procesin e biznesit, është e nevojshme të menaxhohen rreziqet e modelit dhe të monitorohet puna e modelit, duke e mësuar atë rregullisht me të dhëna të reja.
Por pas fazĂ«s sĂ« parĂ« tĂ« mosbesimit fillon tĂ« shfaqet efekti i kundĂ«rt. Sa mĂ« shumĂ« modele tĂ« zbatohen me sukses nĂ« procese, aq mĂ« shumĂ« rritet apetiti i biznesit pĂ«r pĂ«rdorimin e inteligjencĂ«s artificiale - gjenden vazhdimisht detyra tĂ« reja qĂ« mund tĂ« zgjidhen me metodat e mĂ«simit tĂ« makinerive. Ădo detyrĂ« nis njĂ« proces tĂ« tĂ«rĂ«, qĂ« kĂ«rkon kompetenca tĂ« ndryshme:
- inxhinierët e të dhënave përgatisin dhe përpunojnë të dhënat;
- shkencëtarët e të dhënave aplikojnë mjetet e mësimit të makinerive dhe zhvillojnë modelin;
- IT implementon modelin në sistem;
- Inxhinieri ML pĂ«rcakton se si ta integrojmĂ« kĂ«tĂ« model nĂ« procesin, cilat mjete IT tĂ« pĂ«rdorin nĂ« varĂ«si tĂ« kĂ«rkesave pĂ«r mĂ«nyrĂ«n e aplikimit tĂ« modelit duke marrĂ« parasysh fluksin e kĂ«rkesave, kohĂ«n e reagimit, etj.Â
- Arkitekti ML projekton se si mund të realizohet fizikisht produkti softuerik në sistemin industrial.
Cikli i tĂ«rĂ« kĂ«rkon njĂ« numĂ«r tĂ« madh specialistĂ«sh tĂ« kualifikuar. NĂ« njĂ« pikĂ« tĂ« caktuar tĂ« zhvillimit dhe tĂ« depĂ«rtimit tĂ« modeleve ML nĂ« proceset e biznesit, ndodh qĂ« tĂ« rritet numri i specialistĂ«ve proporcionalisht me rritjen e numrit tĂ« detyrave bĂ«het e shtrenjtĂ« dhe e paefektshme. Prandaj, lind nevoja pĂ«r automatizimin e procesit MLOps â pĂ«rcaktimi i disa klasave standarde tĂ« detyrave tĂ« mĂ«simit tĂ« makinerisĂ«, zhvillimi i pipeline-ve tipike tĂ« pĂ«rpunimit tĂ« tĂ« dhĂ«nave dhe rinovimi i modeleve. NĂ« njĂ« portret ideal pĂ«r zgjidhjen e kĂ«tyre detyrave kĂ«rkohen profesionistĂ« qĂ« zotĂ«rojnĂ« njĂ«soj mirĂ« kompetencat nĂ« kryqĂ«zimin e BigData, Data Science, DevOps dhe IT. Prandaj, problemi mĂ« i madh nĂ« industrinĂ« e Data Science dhe sfida mĂ« e madhe nĂ« organizimin e proceseve MLOps Ă«shtĂ« mungesa e kĂ«saj kompetence nĂ« tregun aktual tĂ« fuqisĂ« punĂ«tore. SpecialistĂ«t qĂ« plotĂ«sojnĂ« kĂ«to kĂ«rkesa aktualisht janĂ« tĂ« rrallĂ« nĂ« tregun e punĂ«s dhe vlerĂ«sohen si arin.
Përsa i përket kompetencave
Teoria thotĂ« se tĂ« gjitha detyrat e MLOps mund tĂ« zgjidhen me mjetet klasike DevOps dhe pa u mbĂ«shtetur nĂ« zgjerimin e modelit tĂ« rolit tĂ« specializuar. Siç e theksuam mĂ« sipĂ«r, data scientist nuk duhet tĂ« jetĂ« vetĂ«m njĂ« matematicien dhe specialist i analizĂ«s sĂ« tĂ« dhĂ«nave, por gjithashtu njĂ« guru i tĂ«rĂ« pipeline-it â ai merret me zhvillimin e arkitekturĂ«s, programimin e modeleve nĂ« disa gjuhĂ« nĂ« varĂ«si tĂ« arkitekturĂ«s, pĂ«rgatitjen e vitrinĂ«s sĂ« tĂ« dhĂ«nave dhe shpĂ«rndarjen e aplikacionit. MegjithatĂ«, krijimi i infrastrukturĂ«s teknologjike qĂ« realizohet nĂ« procesin e vazhdueshĂ«m MLOps zĂ« deri nĂ« 80% tĂ« kohĂ«s sĂ« punĂ«s, qĂ« do tĂ« thotĂ« se njĂ« matematicien i kualifikuar, i cili Ă«shtĂ« njĂ« Data Scientist i mirĂ«, do t'i kushtonte vetĂ«m 20% tĂ« kohĂ«s profesionit tĂ« tij. Prandaj, ndarja e rolit tĂ« specialistĂ«ve qĂ« kryejnĂ« procesin e integrimit tĂ« modeleve tĂ« mĂ«simit tĂ« makinerisĂ« bĂ«het jetike.Â
Sa sa e qartĂ« se sa detajisht duhet tĂ« ndahen rolet varet nga shkalla e ndĂ«rmarrjes. ĂshtĂ« njĂ« gjĂ« kur nĂ« njĂ« startup ka njĂ« specialist, punĂ«tor i energjisĂ«, qĂ« Ă«shtĂ« vetĂ« inxhinier, arkitekt dhe DevOps. ĂshtĂ« krejtĂ«sisht diçka tjetĂ«r kur nĂ« njĂ« kompani tĂ« madhe tĂ« gjitha proceset e zhvillimit tĂ« modeleve janĂ« pĂ«rqendruar te disa specialistĂ« tĂ« Data Science tĂ« nivelit tĂ« lartĂ«, ndĂ«rsa programi apo specialisti i bazĂ«s sĂ« tĂ« dhĂ«nave â Ă«shtĂ« njĂ« kompetencĂ« mĂ« e zakonshme dhe mĂ« pak e shtrenjtĂ« nĂ« tregun e punĂ«s â mund tĂ« marrĂ« pĂ«rsipĂ«r pjesĂ«n mĂ« tĂ« madhe tĂ« detyrave rutinĂ«.
Prandaj, nga vendi ku kalon kufiri në zgjedhjen e specialistëve për të siguruar procesin MLOps dhe si është organizuar procesi i operacionalizimit të modeleve të zhvilluara, varet drejtpërdrejt shpejtësia dhe cilësia e modeleve të zhvilluara, produktiviteti i ekipit dhe mikroklima brenda tij.
ĂfarĂ« Ă«shtĂ« bĂ«rĂ« deri tani nga ekipi ynĂ«
Pak kohë më parë filluam të ndërtojmë strukturën e kompetencave dhe proceset MLOps. Por tashmë është në fazën e testimit MVP projektet tona për menaxhimin e ciklit të jetës së modeleve dhe për përdorimin e modeleve si shërbim.
Po ashtu, ne kemi përcaktuar strukturën optimale për një kompani të madhe dhe strukturën organizative të bashkëveprimit midis të gjithë pjesëmarrësve të procesit. Janë organizuar ekipet Agile, që zgjidhin detyra për të gjithë spektrin e bizneseve, si dhe është përmirësuar procesi i bashkëveprimit me ekipet projektuale për krijimin e platformave, infrastrukturës që është themeli i ndërtesës MLOps që po ndërtohet.
Pyetjet për të ardhmen
MLOps është një drejtim në zhvillim, i cili përjeton mungesë kompetencash dhe në të ardhmen do të marrë përmasa. Deri atëherë, është më e mira të mbështetemi në përvojat dhe praktikat DevOps. Qëllimi kryesor i MLOps është përdorimi më efektiv i modeleve ML për zgjidhjen e problemeve të biznesit. Por me këtë lindin shumë pyetje:
- Si të reduktojmë kohën për të lançuar modelet në prodhim?
- Si të ulin frictionet burokratike midis ekipeve me kompetenca të ndryshme dhe të rrisin fokusin në bashkëpunim?
- Si të monitorojmë modelet, të menaxhojmë versionet dhe të organizojmë një monitorim efektiv?
- Si të krijojmë vërtet një cikël të ciklik të jetës për një model të modern ML?
- Si të standardizojmë procesin e mësimit të makinës?
Përgjigjet e këtyre pyetjeve do të përcaktojnë shumë nga sa shpejt MLOps do të zbulojë potencialin e saj plotësisht.
Burimi: habr.com
