Sber.DS — platvorm, mis võimaldab mudeleid luua ja rakendada isegi ilma koodita

Äri eri suurustes toimub iga päev ideede ja kohtumiste vahetus, et arutada, milliseid protsesse saaks automatiseerida. Kuid peale selle, et mudeli loomine võib võtta palju aega, tuleb seda hinnata ja kontrollida, et saadud tulemus ei oleks juhuslik. Pärast juurutamist tuleb igat mudelit jälgida ning perioodiliselt kontrollida.

Need kõik on etapid, mis tuleb läbida igas ettevõttes, sõltumata selle suurusest. Kui räägime Sberbanki ulatusest ja pärandist, suureneb peene seadistamise arv kordi. 2019. aasta lõpuks kasutati Sberis juba enam kui 2000 mudelit. Lihtsalt mudeli väljatöötamine ei ole piisav; tuleb integreeruda tööstuslike süsteemidega, arendada andmesildu mudelite loomiseks ning tagada mudeli töö kontroll klastris.

Meie meeskond arendab platvormi Sber.DS. See võimaldab lahendada masinõppe ülesandeid, kiirendab hüpoteeside kontrollimise protsessi ning lihtsustab mudelite arendamist ja valideerimist, samuti kontrollib mudeli tööd PROMis.

Kuna ma ei taha teie ootusi petta, tahaksin eelnevalt öelda, et see postitus on sissejuhatav ning platvormi Sber.DS struktuurist räägitakse esmalt. Mudeli elutsüklist alates loomisest kuni juurutamiseni räägime eraldi.

Sber.DS koosneb mitmetest komponentidest, milleks on peamised raamatukogu, arendussüsteem ja mudelite täitmise süsteem.

Raamatukogu kontrolib mudeli eluiga idee tekkimisest kuni juurutamiseni PROMis, jälgimise seadistamiseni ja kasutusest kõrvaldamiseni. Raamatukogu paljusid võimalusi dikteerivad regulatiivsed reeglid, näiteks aruandlus ja koolitus- ja valideerimisvalimite säilitamine. Tegelikult on see meie mudelite register.

Arendussüsteem on mõeldud mudelite ja valideerimismeetodite visuaalseks väljatöötamiseks. Väljatöötatud mudelid läbivad esialgse valideerimise ning edastatakse täitmise süsteemi oma äritegevuse funktsioonide täitmiseks. Samuti võib täitmise süsteemis mudel minna jälgimisele, et perioodiliselt käivitada valideerimismeetodeid oma töö kontrollimiseks.

Süsteemis on mitu erinevat sõlme. Ühed on mõeldud erinevate andmeallikate ühendamiseks, teised aga lähteteabe transformeerimiseks ja selle rikastamiseks (markeerimiseks). On palju sõlmi, mis aitavad luua erinevaid mudeleid ja neid valideerida. Arendaja saab laadida andmeid mistahes allikatest, neid töödelda, filtreerida, vaadata vaheandmeid ja jagada neid osadeks.

Platvorm sisaldab ka valmis mooduleid, mida saab projektialale lohistada. Kõik toimingud tehakse visualiseeritud liidese kaudu. Tegelikult saab ülesande lahendada ilma ühegi koodijooneta.

Kui sisseehitatud võimalustest ei piisa, siis annab süsteem võimaluse kiiresti luua oma mooduleid. Oleme loonud integreeritud arenduse režiimi põhjal Jupyter Kernel Gateway neile, kes loovad uusi mooduleid „nullist”.

Sber.DS arhitektuur põhineb mikroteenustel. Mikroteenuste määratlemise kohta on palju arvamusi. Mõned arvavad, et piisab monolüütilise koodi jagamisest osadeks, kuid nad kasutavad siiski ühte ja sama andmebaasi. Meie mikroteenused peavad suhtlema üksteisega ainult REST API kaudu. Otse andmebaasile ei ole mingit lüket.

Püüame, et teenused ei muutuks liiga suurteks ja kohmakateks: üks eksemplar ei tohi kasutada rohkem kui 4-8 gigabaiti töömälu ja peab võimaldama horisontaalset skaleerimist, käivitades uusi eksemplare. Iga teenus suhtleb teistega ainult REST API kaudu (Open API). Teenuse eest vastutav meeskond peab säilitama API tagasipöördumise ühilduvuse kuni viimase kliendini, kes seda kasutab.

Rakenduse tuum on kirjutatud Java-s, kasutades Spring Framework'i. Lahendus projekteeriti algselt kiireks juurutamiseks pilvinfra, seega on rakendus ehitatud konteineriseerimissüsteemi põhjal Red Hat OpenShift (Kubernetes). Platvorm areneb pidevalt, nii ärifunktsionaalsuse suurendamise (uued konektorid, AutoML) kui ka tehnoloogilise efektiivsuse osas.

Üks meie platvormi «näituse» omadusi on see, et me saame käivitada visuaalses liideses välja töötatud koodi Sberbanki mudelide täitmissüsteemides. Praegu on neid juba kaks: üks Hadoopis, teine – OpenShiftis (Docker). Me ei jää siin peatuma, vaid loome integreerimisvorme koodi käitamiseks igasugustes infrastruktuurides, sealhulgas kohapeal ja pilves. Seoses Sberbanki ökosüsteemi tõhusate integreerimisvõimalustega plaanime samuti toetada olemasolevate täitmisvormide kasutamist. Tulevikus saab lahendust paindlikult integreerida «karbist» igasse organisatsiooni maastikku.

Need, kes on kunagi proovinud toetada lahendust, mis käivitab Pythonit Hadoopis PROMil, teavad, et ei piisa lihtsalt kasutaja Python keskkonna ette valmistamisest ja kehtestamisest iga andmepunkti jaoks. Suur hulk C/C++ teeke, mida masinõppe jaoks kasutatakse Python modulis, ei lase teil rahulikult magada. Peate meeles pidama pakettide värskendamist uute teekide või serverite lisamisel, säilitades samas ühilduvuse juba rakendatud mudelikoodiga.

On mitmeid lähenemisviise, kuidas seda teha. Näiteks ette valmistada mõned sageli kasutatavad teegid ja sisestada need PROMi. Cloudera Hadoopi distributsioonis kasutatakse selleks tavaliselt parcel. Samuti on Hadoopis nüüd võimalik käivitada docker-konteinereid. Mõnedes lihtsates juhtumites saab koodi tarnida koos pakiga python.eggs.

Pank läheneb tõsiselt kolmandate osapoolte koodi käitamise turvalisusele, seega kasutame maksimaalselt uusi Linuxi tuuma võimalusi, kus isoleeritud keskkonnas käivitatud protsessile Linux namespace, saab piirata näiteks juurdepääsu võrku ja lokaalsesse ketasse, mis vähendab oluliselt pahatahtliku koodi võimalusi. Iga osakonna andmepiirkonnad on kaitstud ja ligipääsetavad ainult nende andmete omanikele. Platvorm tagab, et andmed ühest piirkonnast saavad teise alasse liikuda ainult läbi andmete avaldamise protsessi, mille kontroll toimub kõigil etappidel alates ligipääsust allikatele kuni andmete viimisega sihtkohta.

Sel aastal plaanime lõpetada MVP käivitamise mudelite kohta, mis on kirjutatud Pythonis/R/Java Hadoopis. Oleme endale seadnud ambitsioonika eesmärgi õppida käivitama igasuguseid kasutaja keskkondi Hadoopis, et mitte piirata meie platvormi kasutajate võimalusi.

Lisaks selgus, et paljudel DS-spetsialistidel on suurepärased teadmatuse ja statistika teadmised, nad loovad suurepäraseid mudeleid, kuid ei tunne väga hästi suurandmete transformatsioone ning vajavad meie andmeinseneride abi koolitusvalimite ettevalmistamisel. Otsustasime aidata kolleegi ja luua mugavad moodulid tüüpiliste transformatsioonide ja mudelite funktsioneerimise ettevalmistamiseks Spark-mootoris. See võimaldab rohkem aega pühendada mudelite arendamisele ning mitte oodata, kuni andmeinsenerid uue andmestiku ette valmivad.

Meie juures töötavad inimesed, kellel on teadmised erinevates valdkondades: Linux ja DevOps, Hadoop ja Spark, Java ja Spring, Scala ja Akka, OpenShift ja Kubernetes. Järgmine kord räägime mudelite raamatukogust, sellest, kuidas mudel läbib ettevõttes elutsükli, ning kuidas toimub valideerimine ja juurutamine.

Allikas: habr.com