Fl-2018, il-kunċett ta 'MLOps deher f'ċrieki professjonali u f'konferenzi tematiċi ddedikati għall-AI, li malajr ħadu s-seħħ fl-industrija u issa qed jiżviluppa bħala direzzjoni indipendenti. Fil-futur, MLOps jistgħu jsiru wieħed mill-aktar oqsma popolari fl-IT. X'inhu u ma' xiex jittiekel? Ejja nsiru nafu hawn taħt.
X'inhu MLOps
MLOps (li jgħaqqdu teknoloġiji u proċessi ta' tagħlim tal-magni u approċċi għall-implimentazzjoni ta' mudelli żviluppati fi proċessi tan-negozju) huwa mod ġdid ta' kollaborazzjoni bejn rappreżentanti tan-negozju, xjenzati, matematiċi, speċjalisti tat-tagħlim tal-magni u inġiniera tal-IT meta joħolqu sistemi ta' intelliġenza artifiċjali.
Fi kliem ieħor, huwa mod kif il-metodi u t-teknoloġiji tat-tagħlim tal-magni jinbidel f'għodda utli għas-soluzzjoni tal-problemi tan-negozju.
Huwa meħtieġ li wieħed jifhem li l-katina tal-produttività tibda ħafna qabel l-iżvilupp tal-mudell. L-ewwel pass tiegħu huwa li tiddefinixxi problema ta 'negozju, ipoteżi dwar il-valur li jista' jiġi estratt mid-dejta, u idea ta 'negozju għall-applikazzjoni tagħha.
Il-kunċett stess ta 'MLOps tfaċċa bħala analoġija għall-kunċett ta' DevOps fir-rigward ta 'mudelli u teknoloġiji ta' tagħlim bil-magni. DevOps huwa approċċ għall-iżvilupp tas-softwer li jippermettilek iżżid il-veloċità tal-implimentazzjoni ta’ bidliet individwali filwaqt li żżomm il-flessibbiltà u l-affidabbiltà bl-użu ta’ għadd ta’ approċċi, inkluż żvilupp kontinwu, diviżjoni tal-funzjonijiet f’numru ta’ mikroservizzi indipendenti, ittestjar awtomatizzat u skjerament ta’ individwali. bidliet, monitoraġġ tas-saħħa globali, sistema ta’ rispons rapidu għal fallimenti misjuba, eċċ.
DevOps iddefinixxa ċ-ċiklu tal-ħajja tas-softwer, u l-komunità ħarġet bl-idea li tapplika l-istess metodoloġija għall-big data. DataOps huwa tentattiv biex tadatta u tespandi l-metodoloġija b'kont meħud tal-karatteristiċi tal-ħażna, it-trażmissjoni u l-ipproċessar ta' ammonti kbar ta' data fi pjattaformi diversi u interoperabbli.
Bil-miġja ta 'ċerta massa kritika ta' mudelli ta 'tagħlim tal-magni implimentati fil-proċessi tan-negozju tal-intrapriżi, kien innutat xebh qawwi bejn iċ-ċiklu tal-ħajja ta' mudelli ta 'tagħlim tal-magni matematiċi u ċ-ċiklu tal-ħajja tas-softwer. L-unika differenza hija li l-algoritmi tal-mudell huma maħluqa bl-użu ta 'għodod u metodi ta' tagħlim tal-magni. Għalhekk, naturalment ħarġet l-idea li jiġu applikati u adattati approċċi diġà magħrufa għall-iżvilupp tas-softwer għall-mudelli tat-tagħlim tal-magni. Għalhekk, l-istadji ewlenin li ġejjin jistgħu jiġu distinti fiċ-ċiklu tal-ħajja tal-mudelli tat-tagħlim tal-magni:
- definizzjoni ta' idea ta' negozju;
- taħriġ mudell;
- l-ittestjar u l-implimentazzjoni tal-mudell fil-proċess tan-negozju;
- tħaddim tal-mudell.
Meta waqt it-tħaddim ikun hemm bżonn li l-mudell jinbidel jew jitħarreġ mill-ġdid fuq data ġdida, iċ-ċiklu jerġa 'jibda - il-mudell jiġi rfinat, ittestjat, u tiġi skjerata verżjoni ġdida.
Irtir. Għaliex tħarreġ mill-ġdid u mhux tħarreġ mill-ġdid? It-terminu "taħriġ mill-ġdid tal-mudell" għandu tifsira doppja: fost l-esperti jfisser difett tal-mudell, meta l-mudell ibassar tajjeb, fil-fatt jirrepeti l-parametru previst fuq is-sett tat-taħriġ, iżda jagħmel ħafna agħar fuq il-kampjun tad-dejta esterna. Naturalment, mudell bħal dan huwa difett, peress li dan id-difett ma jippermettix l-użu tiegħu.
F'dan iċ-ċiklu tal-ħajja, jidher loġiku li tuża għodod DevOps: ittestjar awtomatizzat, skjerament u monitoraġġ, tfassil ta 'kalkoli ta' mudell fil-forma ta 'mikroservizzi separati. Iżda hemm ukoll numru ta 'karatteristiċi li jipprevjenu l-użu dirett ta' dawn l-għodod mingħajr vinkolanti ML addizzjonali.
Kif tagħmel il-mudelli jaħdmu u tkun profittabbli
Bħala eżempju li fih ser nuru l-użu tal-approċċ MLOps, se nieħdu l-kompitu klassiku li nirrobotizzaw appoġġ ta 'chat għal prodott bankarju (jew kwalunkwe prodott ieħor). Tipikament, proċess ta 'negozju ta' appoġġ chat jidher bħal dan: klijent idaħħal messaġġ b'mistoqsija fi chat u jirċievi tweġiba minn speċjalista fi ħdan siġra ta 'djalogu definita minn qabel. Il-kompitu ta 'awtomatizzazzjoni ta' chat bħal dan normalment jiġi solvut bl-użu ta 'settijiet ta' regoli definiti b'mod espert, li huma intensivi ħafna tax-xogħol biex jiġu żviluppati u miżmuma. L-effiċjenza ta 'tali awtomazzjoni, skond il-livell ta' kumplessità tal-kompitu, tista 'tkun 20-30%. Naturalment, tqum l-idea li huwa aktar profittabbli li jiġi implimentat modulu ta 'intelliġenza artifiċjali - mudell żviluppat bl-użu ta' tagħlim bil-magni, li:
- huwa kapaċi jipproċessa numru akbar ta 'talbiet mingħajr il-parteċipazzjoni tal-operatur (skont is-suġġett, f'xi każijiet l-effiċjenza tista' tilħaq 70-80%);
- jadatta aħjar għal kliem mhux standard fid-djalogu - huwa kapaċi jiddetermina l-intenzjoni, ix-xewqa reali tal-utent ibbażata fuq talba mhux ifformulata b'mod ċar;
- jaf kif jiddetermina meta t-tweġiba tal-mudell hija adegwata, u meta jkun hemm dubji dwar il-"kuxjenza" ta 'din it-tweġiba u għandek bżonn tistaqsi mistoqsija addizzjonali ta' kjarifika jew taqleb għall-operatur;
- jista 'jiġi mħarreġ b'mod addizzjonali awtomatikament (minflok grupp ta' żviluppaturi li kontinwament jadattaw u jikkoreġu skripts ta 'rispons, il-mudell huwa mħarreġ ukoll minn speċjalista tax-Xjenza tad-Data li juża l-libreriji xierqa tat-tagħlim tal-magni).
Kif tagħmel mudell avvanzat bħal dan jaħdem?
Bħal fis-soluzzjoni ta 'kwalunkwe problema oħra, qabel ma tiżviluppa modulu bħal dan, huwa meħtieġ li jiġi definit proċess tan-negozju u tiddeskrivi formalment il-kompitu speċifiku li se nsolvu bl-użu tal-metodu ta' tagħlim bil-magni. F'dan il-punt, jibda l-proċess ta 'operazzjonalizzazzjoni, indikat mill-akronimu Ops.
Il-pass li jmiss huwa li x-Xjentist tad-Data, b'kollaborazzjoni mal-Inġinier tad-Data, jiċċekkja d-disponibbiltà u s-suffiċjenza tad-dejta u l-ipoteżi tan-negozju dwar il-vijabbiltà tal-idea tan-negozju, jiżviluppa mudell prototip u jittestja l-effettività attwali tiegħu. Huwa biss wara konferma min-negozju li tista' tibda t-tranżizzjoni mill-iżvilupp ta' mudell għall-integrazzjoni tiegħu f'sistemi li jwettqu proċess speċifiku tan-negozju. Ippjanar ta 'implimentazzjoni minn tarf sa tarf, fehim profond f'kull stadju ta' kif se jintuża l-mudell u x'effett ekonomiku se jġib, huwa punt fundamentali fil-proċessi ta 'introduzzjoni ta' approċċi MLOps fil-pajsaġġ teknoloġiku tal-kumpanija.
Bl-iżvilupp tat-teknoloġiji tal-IA, in-numru u l-varjetà ta 'problemi li jistgħu jiġu solvuti bl-użu tat-tagħlim tal-magni qed jiżdiedu b'mod esponenzjali. Kull proċess tan-negozju bħal dan huwa iffrankar għall-kumpanija minħabba l-awtomazzjoni tax-xogħol tal-impjegati tal-massa (call center, dokumenti ta 'kontroll u għażla, eċċ.), Hija espansjoni tal-bażi tal-klijenti billi żżid funzjonijiet attraenti u konvenjenti ġodda, hija qed jiffranka l-flus minħabba l-aħjar użu tagħhom u t-tqassim mill-ġdid tar-riżorsi u ħafna aktar. Fl-aħħar mill-aħħar, kull proċess huwa ffukat fuq il-ħolqien tal-valur u, bħala riżultat, irid iġib ċertu effett ekonomiku. Hawnhekk huwa importanti ħafna li tifformula b'mod ċar l-idea tan-negozju u tikkalkula l-profitt mistenni mill-implimentazzjoni tal-mudell fl-istruttura ġenerali tal-ħolqien tal-valur tal-kumpanija. Hemm sitwazzjonijiet meta l-implimentazzjoni ta 'mudell ma tiġġustifikax ruħha, u l-ħin mqatta' minn speċjalisti tat-tagħlim tal-magni jiswa ħafna aktar mill-post tax-xogħol tal-operatur li jwettaq dan il-kompitu. Huwa għalhekk li huwa meħtieġ li tipprova tidentifika każijiet bħal dawn fl-istadji bikrija tal-ħolqien ta 'sistemi AI.
Konsegwentement, il-mudelli jibdew jiġġeneraw profitt biss meta l-problema tan-negozju tkun ġiet ifformulata b'mod korrett fil-proċess MLOps, ġew stabbiliti prijoritajiet, u l-proċess ta 'introduzzjoni tal-mudell fis-sistema jkun ġie fformulat fl-istadji bikrija tal-iżvilupp.
Proċess ġdid - sfidi ġodda
Tweġiba komprensiva għall-mistoqsija fundamentali tan-negozju dwar kif huma applikabbli l-mudelli ML għas-soluzzjoni tal-problemi, il-kwistjoni ġenerali tal-fiduċja fl-AI hija waħda mill-isfidi ewlenin fil-proċess tal-iżvilupp u l-implimentazzjoni tal-approċċi MLOps. Inizjalment, in-negozji huma xettiċi dwar l-introduzzjoni tat-tagħlim tal-magni fil-proċessi - huwa diffiċli li tistrieħ fuq mudelli f'postijiet fejn qabel, bħala regola, in-nies kienu jaħdmu. Għan-negozju, il-programmi jidhru li huma "kaxxa sewda", li r-rilevanza tagħha għad trid tiġi ppruvata. Barra minn hekk, fil-banek, fin-negozju tal-operaturi tat-telekomunikazzjoni u oħrajn, hemm rekwiżiti stretti tar-regolaturi tal-gvern. Is-sistemi u l-algoritmi kollha li huma implimentati fil-proċessi bankarji huma soġġetti għal verifika. Biex issolvi din il-problema, biex tipprova lin-negozji u r-regolaturi l-validità u l-korrettezza tar-risponsi tal-intelliġenza artifiċjali, qed jiġu introdotti għodod ta 'monitoraġġ flimkien mal-mudell. Barra minn hekk, hemm proċedura ta’ validazzjoni indipendenti, obbligatorja għall-mudelli regolatorji, li tissodisfa r-rekwiżiti tal-Bank Ċentrali. Grupp ta' esperti indipendenti jivverifika r-riżultati miksuba mill-mudell filwaqt li jqis id-dejta tal-input.
It-tieni sfida hija l-valutazzjoni u l-kunsiderazzjoni tar-riskji tal-mudell meta jiġi implimentat mudell ta’ tagħlim tal-magni. Anke jekk persuna ma tistax twieġeb il-mistoqsija b’ċertezza mija fil-mija jekk dik l-istess libsa kinitx bajda jew blu, allura l-intelliġenza artifiċjali għandha wkoll id-dritt li tagħmel żball. Ta’ min jikkunsidra wkoll li d-dejta tista’ tinbidel maż-żmien, u l-mudelli jeħtieġ li jiġu mħarrġa mill-ġdid sabiex jipproduċu riżultat preċiż biżżejjed. Biex jiġi żgurat li l-proċess tan-negozju ma jbatix, huwa meħtieġ li jiġu mmaniġġjati r-riskji tal-mudell u jiġi mmonitorjat il-prestazzjoni tal-mudell, billi jitħarreġ mill-ġdid regolarment fuq data ġdida.
Iżda wara l-ewwel stadju ta 'sfiduċja, jibda jidher l-effett oppost. Aktar ma jiġu implimentati b'suċċess il-mudelli fi proċessi, aktar jikber l-aptit tan-negozju għall-użu tal-intelliġenza artifiċjali - qed jinstabu problemi ġodda u ġodda li jistgħu jiġu solvuti bl-użu ta 'metodi ta' tagħlim bil-magni. Kull kompitu jqajjem proċess sħiħ li jeħtieġ ċerti kompetenzi:
- inġiniera tad-dejta jippreparaw u jipproċessaw id-dejta;
- ix-xjentisti tad-dejta jużaw għodod ta' tagħlim bil-magni u jiżviluppaw mudell;
- L-IT timplimenta l-mudell fis-sistema;
- L-inġinier ML jiddetermina kif jintegra b'mod korrett dan il-mudell fil-proċess, liema għodod tal-IT għandu juża, skont ir-rekwiżiti għall-mod ta 'applikazzjoni tal-mudell, b'kont meħud tal-fluss ta' talbiet, ħin ta 'rispons, eċċ.
- Perit ML jiddisinja kif prodott tas-softwer jista' jiġi implimentat fiżikament f'sistema industrijali.
Iċ-ċiklu kollu jeħtieġ numru kbir ta 'speċjalisti bi kwalifiki għolja. F'ċertu punt fl-iżvilupp u l-grad ta 'penetrazzjoni ta' mudelli ML fi proċessi tan-negozju, jirriżulta li l-iskala lineari tan-numru ta 'speċjalisti fi proporzjon għaż-żieda fin-numru ta' kompiti ssir għalja u ineffettiva. Għalhekk, tqum il-kwistjoni tal-awtomatizzazzjoni tal-proċess MLOps - definizzjoni ta 'diversi klassijiet standard ta' problemi ta 'tagħlim tal-magni, żvilupp ta' pipelines standard għall-ipproċessar tad-dejta u taħriġ addizzjonali ta 'mudelli. Fi stampa ideali, is-soluzzjoni ta 'problemi bħal dawn teħtieġ professjonisti li huma ugwalment profiċjenti fil-kompetenzi fl-intersezzjoni ta' Big Data, Data Science, DevOps u IT. Għalhekk, l-akbar problema fl-industrija tax-Xjenza tad-Data u l-akbar sfida fl-organizzazzjoni tal-proċessi MLOps hija n-nuqqas ta 'tali kompetenza fis-suq tat-taħriġ eżistenti. L-ispeċjalisti li jissodisfaw dawn ir-rekwiżiti bħalissa huma rari fis-suq tax-xogħol u jiswew il-piż tagħhom fid-deheb.
Dwar il-kwistjoni tal-kompetenzi
Fit-teorija, il-kompiti kollha tal-MLOps jistgħu jiġu solvuti bl-użu ta 'għodod klassiċi DevOps u mingħajr ma jirrikorru għal estensjoni speċjalizzata tal-mudell. Imbagħad, kif innutajna hawn fuq, xjenzat tad-dejta għandu jkun mhux biss matematiku u analista tad-dejta, iżda wkoll guru tal-pipeline kollu - huwa responsabbli għall-iżvilupp tal-arkitettura, mudelli ta 'programmazzjoni f'diversi lingwi skont l-arkitettura, it-tħejjija data mart u l-iskjerament l-applikazzjoni nnifisha. Madankollu, il-ħolqien tal-qafas teknoloġiku implimentat fil-proċess MLOps minn tarf sa tarf jieħu sa 80% tal-ispejjeż tax-xogħol, li jfisser li matematiku kwalifikat, li huwa Xjentist tad-Data ta 'kwalità, jiddedika biss 20% tal-ħin tiegħu għall-ispeċjalità tiegħu. . Għalhekk, id-delineazzjoni tar-rwoli tal-ispeċjalisti involuti fil-proċess tal-implimentazzjoni tal-mudelli tat-tagħlim tal-magni ssir vitali.
Kemm għandhom jiġu delineati r-rwoli dettaljati jiddependi mid-daqs tal-intrapriża. Hija ħaġa waħda meta startup ikollu speċjalista wieħed, ħaddiem iebes fir-riżerva tal-enerġija, li huwa l-inġinier, il-perit u DevOps tiegħu stess. Hija kwistjoni kompletament differenti meta, f'intrapriża kbira, il-proċessi kollha tal-iżvilupp tal-mudelli huma kkonċentrati fuq ftit speċjalisti ta' livell għoli tax-Xjenza tad-Data, filwaqt li programmur jew speċjalista tad-database - kompetenza aktar komuni u inqas għalja fis-suq tax-xogħol - jista' jieħu. fuq il-biċċa l-kbira tax-xogħol.ħidmiet ta’ rutina.
Għalhekk, il-veloċità u l-kwalità tal-mudelli żviluppati, il-produttività tat-tim u l-mikroklima fiha jiddependu direttament minn fejn tinsab il-konfini fl-għażla ta 'speċjalisti biex jappoġġjaw il-proċess MLOps u kif il-proċess ta' operazzjonalizzazzjoni tal-mudelli żviluppati huwa organizzat .
Dak li diġà għamel it-tim tagħna
Dan l-aħħar bdejna nibnu struttura ta' kompetenza u proċessi MLOps. Iżda l-proġetti tagħna dwar il-ġestjoni taċ-ċiklu tal-ħajja tal-mudelli u dwar l-użu tal-mudelli bħala servizz diġà qegħdin fl-istadju tal-ittestjar tal-MVP.
Iddeterminajna wkoll l-aħjar struttura ta 'kompetenza għal intrapriża kbira u l-istruttura organizzattiva ta' interazzjoni bejn il-parteċipanti kollha fil-proċess. Ġew organizzati timijiet b'aġilità biex isolvu problemi għall-firxa kollha ta 'klijenti kummerċjali, u ġie stabbilit proċess ta' interazzjoni ma 'timijiet ta' proġetti biex jinħolqu pjattaformi u infrastruttura, li hija l-pedament tal-bini MLOps li qed jinbena.
Mistoqsijiet għall-futur
L-MLOps huwa qasam li qed jikber li qed jesperjenza nuqqas ta' kompetenzi u se jikseb momentum fil-futur. Sadanittant, huwa aħjar li tibni fuq l-iżviluppi u l-prattiki DevOps. L-għan ewlieni tal-MLOps huwa li tuża b'mod aktar effettiv mudelli ML biex issolvi l-problemi tan-negozju. Iżda dan iqajjem ħafna mistoqsijiet:
- Kif tnaqqas iż-żmien biex tniedi mudelli fil-produzzjoni?
- Kif titnaqqas il-frizzjoni burokratika bejn timijiet ta' kompetenzi differenti u żżid l-enfasi fuq il-kooperazzjoni?
- Kif issegwi l-mudelli, timmaniġġja l-verżjonijiet u torganizza monitoraġġ effettiv?
- Kif toħloq ċiklu tal-ħajja tassew ċirkolari għal mudell ML modern?
- Kif tistandardizza l-proċess tat-tagħlim tal-magni?
It-tweġibiet għal dawn il-mistoqsijiet se jiddeterminaw fil-biċċa l-kbira kemm l-MLOps se jilħaq il-potenzjal sħiħ tiegħu malajr.
Sors: www.habr.com