InterSystems IRIS – univerzalna AI/ML-platforma v realnem času

Avtor: Sergej Luk'jančikov, inženir svetovalec pri InterSystems

Izzivi AI/ML izračunov v realnem času

Začnimo z zgledi iz prakse Data Science podjetja InterSystems:

• Obremenjen portal kupca je povezan z on-line priporočilnim sistemom. Načrtuje se restrukturiranje promocijskih akcij v okviru maloprodajne mreže (recimo, namesto 'ploskega' niza promocijskih akcij bo sedaj uporabljena matrika 'segment-taktika'). Kaj se dogaja s priporočilnimi mehanizmi? Kaj se dogaja z dostavo in posodabljanjem podatkov v priporočilni mehanizem (količina vhodnih podatkov se je povečala 25.000-krat)? Kaj se dogaja s generacijo priporočil (potreba po tisočkratnem znižanju praga filtracije priporočilnih pravil zaradi tisočkratnega povečanja njihovega števila in 'asortimana')?
• Obstoji sistem za spremljanje verjetnosti razvoja napak v komponentah opreme. Na sistem spremljanja je bila povezana AСУТП, ki prenaša na tisoče parametrov tehnološkega procesa vsako sekundo. Kaj se zgodi s sistemom spremljanja, ki je prej deloval na 'ročnih vzorcih' (ali lahko zagotovi spremljanje verjetnosti vsakih sekundo)? Kaj se bo zgodilo, če se v vhodnih podatkih pojavi nov blok v več sto kolonah z vrednostmi senzorjev, ki so bili nedavno vključeni v AСУТП (ali bo potrebno in kako dolgo ustaviti sistem spremljanja, da vključimo podatke novih senzorjev v analizo)?
• Ustvarjen je kompleks AI/ML mehanizmov (priporočilni, monitoring, napovedni), ki izkoriščajo rezultate dela drug drugega. Koliko človekour je mesečno potrebnih za prilagoditev delovanja tega kompleksa spremembam v vhodnih podatkih? Kakšno je skupno 'upočasnitev' pri podpori kompleksa pri odločanju (pogostost pojavljanja novih podpornih informacij glede pogostosti pojava novih vhodnih podatkov)?

S povzetkom teh in mnogih drugih primerov smo prišli do formulacij teh izzivov, ki se pojavljajo pri prehodu na uporabo mehanizmov strojnega učenja in umetne inteligence v realnem času:

• Ali nas zadostna hitrost ustvarjanja in prilagajanja (glede na spreminjajoče se razmere) AI/ML rešitev v našem podjetju zadovoljiva?
• Kako naši AI/ML-rešitve podpirajo upravljanje podjetja v realnem času?
• Ali se naše AI/ML-rešitve lahko samostojno (brez razvijalcev) prilagajajo spremembam v podatkih in praksah upravljanja podjetij?

Najin članek je celovit pregled možnosti platforme InterSystems IRIS glede univerzalne podpore za uvajanje AI/ML-mehanizmov, sestavljanje (integracijo) AI/ML-rešitev in usposabljanje (testiranje) AI/ML-rešitev na intenzivnih podatkovnih tokovih. Obravnavali bomo tržne raziskave, praktične primere AI/ML-rešitev in konceptualne vidike tistega, kar v tem članku imenujemo AI/ML-platforma v realnem času.

Kaj kažejo raziskave: aplikacije v realnem času

Rezultati ankete, izvedenega med približno 800 IT-strokovnjaki leta 2019 s strani podjetja Lightbend, govori samo zase:

Slika 1 Vodilni porabniki podatkov v realnem času

Navedimo pomembne dele poročila o rezultatih te raziskave v naši različici:

„… Trend rasti priljubljenosti orodij za integracijo podatkovnih tokov in hkrati podpore za izračune v kontejnerjih prinaša sinergijski odgovor na povpraševanje trga po bolj operativnih, racionalnih in dinamičnih rešitvah. Podatkovni tokovi omogočajo hitrejši prenos informacij kot tradicionalni paketi podatkov. K temu se pridružuje možnost hitre uporabe izračunskih metod, kot so priporočila, ki temeljijo na AI/ML, kar ustvarja konkurenčne prednosti z večanjem zadovoljstva strank. Tekma za operativnost vpliva tudi na vse vloge v paradigmi DevOps – povečuje učinkovitost razvoja in uvajanja aplikacij. … Osemsto štirje IT-strokovnjaki so posredovali informacije o uporabi podatkovnih tokov v njihovih organizacijah. Rrespondenti so bili pretežno iz zahodnih držav (41 % v Evropi in 37 % v Severni Ameriki) in so bili skoraj enakomerno razporejeni med malimi, srednje velikimi in velikimi podjetji. …

Umělé inteligence není jen hype. Padesát osm procent těch, kteří již využívají zpracování datových toků v produktivních AI/ML aplikacích, potvrzuje, že jejich použití v AI/ML dosáhne největšího nárůstu v příštím roce (ve srovnání s ostatními aplikacemi).

• Podle většiny dotázaných získá použití datových toků ve scénářích AI/ML největší nárůst v příštím roce.
• Použití v AI/ML se bude zvyšovat nejen díky relativně novým typům scénářů, ale také díky tradičním scénářům, ve kterých jsou data v reálném čase využívána stále intenzivněji.
• Kromě AI/ML je úroveň nadšení mezi uživateli IoT datových pipeline impozantní – 48 % těch, kteří již integrovali IoT data, tvrdí, že realizace scénářů na těchto datech dostane významný nárůst v blízké budoucnosti. … »

Z tohoto poměrně zajímavého průzkumu je patrné, že vnímání scénářů strojového učení a umělé inteligence jako lídrů spotřeby datových toků je již "na obzoru". Ale stejně důležité je vnímání AI/ML v reálném čase skrze optiku DevOps: zde lze již začít mluvit o transformaci dosud dominující kultury "jednorázového AI/ML s plně dostupnou databází".

Koncept AI/ML platformy v reálném čase

Jedním z typických oblastí uplatnění AI/ML v reálném čase je řízení technologických procesů ve výrobě. Na jejím příkladu a s ohledem na předchozí úvahy formulujme koncept AI/ML platformy v reálném čase.
Použití umělé inteligence a strojového učení v řízení technologických procesů má řadu specifik:

• Data o stavu technologického procesu přicházejí intenzivně: s vysokou frekvencí a širokým spektrem parametrů (až desítky tisíc hodnot parametrů přenášených za sekundu z DCS).
• Data o odhalování vad, nemluvě o datech o jejich vývoji, jsou naopak skoupá a nepravidelná, charakterizovaná nedostatkem typizace vad a jejich lokalizace v čase (často jsou prezentována jako záznamy na papírovém nosiči).
• Z praktičnega vidika je za usposabljanje in uporabo modelov na voljo le »okno relevantnosti« vhodnih podatkov, ki odraža dinamiko tehnološkega procesa v razumnem drsnem intervalu, ki se konča z zadnjimi prebranimi vrednostmi parametrov procesa.

Te značilnosti nas prisilijo, da poleg sprejemanja in osnovne obdelave v realnem času intenzivnega »širokopasovnega vhodnega signala« iz tehnološkega procesa hkrati izvajamo uporabo, usposabljanje in nadzor kakovosti rezultatov dela AI/ML-modelov – prav tako v realnem času. Tisti »sličica«, ki jo naši modeli »vidijo« v drsnem oknu relevantnosti, se nenehno spreminja – in skupaj z njo se spreminja tudi kakovost rezultatov dela AI/ML-modelov, usposobljenih na eni od »sličic« v preteklosti. Ko se kakovost rezultatov dela AI/ML-modelov poslabša (na primer: vrednost napake klasifikacije »alarm-norma« preseže določene meje), mora biti samodejno sproženo dodatno usposabljanje modelov na bolj aktualni »sličici« – in izbira trenutka za sprožitev dodatnega usposabljanja modelov mora upoštevati tako trajanje samega usposabljanja kot tudi dinamiko poslabšanja kakovosti dela trenutnih različic modelov (saj trenutne različice modelov še naprej delujejo, medtem ko se modeli usposabljajo, in dokler ne bodo oblikovane njihove »ponovno usposobljene« različice).

InterSystems IRIS ima ključne platformne zmožnosti za podporo delovanju AI/ML rešitev pri upravljanju tehnoloških procesov v realnem času. Te zmogljivosti lahko razdelimo v tri glavne skupine:

• Neprekinjeno uvajanje (Continuous Deployment/Delivery, CD) novih ali prilagojenih obstoječih AI/ML mehanizmov v produktno rešitev, ki deluje v realnem času na platformi InterSystems IRIS.
• Neprekinjena integracija (Continuous Integration, CI) v edinstveno produktno rešitev vhodnih tokov podatkov tehnološkega procesa, podatkovnih čakalnih vrst za uporabo/usposabljanje/nadzor kakovosti dela AI/ML mehanizmov ter izmenjav podatkov/kode/ukrepov z okolji matematičnega modeliranja, katerih orkestracijo v realnem času izvaja platforma InterSystems IRIS.
• Neprekinjeno (samo-)učenje (Continuous Training, CT) AI/ML mehanizama, koje se ostvaruje u okruženjima matematičkog modeliranja koristeći podatke, kod i upravljačke intervencije („donete odluke“), prenesene platformom InterSystems IRIS

Klasifikacija platformskih mogućnosti u odnosu na mašinsko učenje i veštačku inteligenciju prema ovim grupama nije slučajna. Citiraćemo metodološku publikacijo kompanije Google, koja postavlja konceptualnu osnovu za ovu klasifikaciju, u našem prevodu:

„… Popularna u današnje vreme koncept DevOps obuhvata razvoj i eksploataciju velikih informacionih sistema. Prednosti implementacije ovog koncepta su skraćenje trajanja ciklusa razvoja, ubrzanje rasporeda razvoja, fleksibilnost planiranja izdanja. Kako bi se postigle ove prednosti, DevOps podrazumeva uvođenje, najmanje, dve prakse:

• Continuous Integration (CI)
• Continuous Delivery (CD)

Ove prakse su takođe primenljive na AI/ML platforme – u cilju obezbeđivanja pouzdane i efikasne izrade produktivnih AI/ML rešenja.

AI/ML platforme se razlikuju od ostalih informacionih sistema u sledećim aspektima:

• Kompetencije tima: prilikom stvaranja AI/ML rešenja, tim obično uključuje data science stručnjake ili eksperte-„akademike“ u oblasti istraživanja podataka, koji sprovode analizu podataka, razvoj i testiranje modela. Ovi članovi tima možda i nisu profesionalni programeri produktivnog kodiranja.
• Razvoj: AI/ML mehanizmi su prirodno eksperimentalni. Da bi se problem rešio na najučinkovitiji način, potrebno je isprobati različite kombinacije ulaznih varijabli, algoritama, metoda modeliranja i parametara modela. Složenost takvog isprobavanja leži u praćenju „šta je funkcionisalo/šta nije“, osiguranju ponovljivosti epizoda, generalizaciji razvojnih rešenja za ponovljene implementacije.
• Testiranje: testiranje AI/ML mehanizama zahteva širi spektar testova nego većina drugih razvijanja. Pored standardnih modularnih i integracionih testova, testira se validnost podataka, kvalitet rezultata primene modela na obučene i kontrolne uzorke.
• Implementacija: implementacija AI/ML rešitev ne obsega zgolj napovednih storitev, ki uporabljajo enkrat usposobljen model. AI/ML rešitve so zgrajene okoli večstopenjskih pretokov dela, ki izvajajo avtomatizirano usposabljanje in uporabo modelov. Implementacija takih pretokov dela vključuje avtomatizacijo netrivialnih dejanj, ki jih običajno ročno izvajajo podatkovni znanstveniki, da bi omogočili usposabljanje in testiranje modelov.
• Produktivnost: AI/ML dejavnikom lahko primanjkuje zmogljivosti ne le zaradi neučinkovitega programiranja, temveč tudi zaradi nenehno spreminjajoče se narave vhodnih podatkov. Z drugimi besedami, zmogljivost AI/ML sistemov se lahko poslabša zaradi širšega spektra razlogov kot pri običajnih razvojenih aplikacijah. To pomeni, da je potrebno spremljanje (v realnem času) zmogljivosti naših AI/ML sistemov, pa tudi pošiljanje obvestil ali zavračanje rezultatov, če zmogljivost ne ustreza pričakovanjem.

AI/ML platforme so podobne drugim informacijskim sistemom, saj obe vrsti potrebujeta neprekinjeno integracijo kode s kontrolo različic, modularno testiranje, integracijsko testiranje in neprekinjeno implementacijo. Vendar pa obstajajo nekatere pomembne razlike v primeru AI/ML:

• CI (neprekinjena integracija) več ne zajema le testiranja in validacije kode implementiranih komponent – vključuje tudi testiranje in validacijo podatkov ter AI/ML modelov.
• CD (neprekinjeno dostavljanje/implementacija) ne obsega zgolj pisanja in izdaj paketov ali storitev, temveč vključuje platformo za sestavljanje, usposabljanje in uporabo AI/ML rešitev.
• CT (neprekinjeno usposabljanje) – nova komponenta [op. avtorja: nova komponenta v primerjavi s tradicionalno konceptom DevOps, kjer je CT običajno neprekinjeno testiranje], značilna za AI/ML platforme, ki je odgovorna za samodejno upravljanje mehanizmov usposabljanja in uporabe AI/ML modelov. …

Lahko ugotovimo, da strojno učenje in umetna inteligenca, ki delujeta na podatkih v realnem času, zahtevata širši nabor orodij in znanj (od razvoja kode do orkestracije okolij matematičnega modeliranja), tesnejšo integracijo med vsemi funkcionalnimi in predmetnimi področji ter bolj učinkovito organizacijo človeških in strojnih virov.

Scenarij v realnem času: prepoznavanje razvoja napak v črpalkah za hranila

Nadaljujoč z uporabo področja obvladovanja tehnoloških procesov kot primer, razmislimo o konkretnem problemu (ki smo ga že omenili na začetku): potrebno je zagotoviti v realnem času spremljanje razvoja napak v črpalkah na osnovi toka vrednosti parametrov tehnološkega procesa in poročil vzdrževalnega osebja o odkritih napakah.

Slika 2 Opredelitev naloge za spremljanje razvoja napak

Posebnost večine tovrstnih nalog v praksi je, da je treba rednost in pravočasnost prejemanja podatkov (ASUTP) obravnavati v luči epizodnosti in nerednosti pojava (in beleženja) napak različnih tipov. Drugimi besedami: podatki iz ASUTP prihajajo pravilni in natančni vsako sekundo, medtem ko se o napakah beležijo zapisi s kemičnim svinčnikom z navedbo datuma v splošni zvezek v delavnici (na primer: „12.01 – puščanje na pokrovu s strani 3. ležaja“).

Tako lahko opredelitev naloge dopolnimo z naslednjo pomembno omejitvijo: „oznake“ napake določenega tipa imamo le eno (tj. primer napake določenega tipa je predstavljen s podatki iz ASUTP na določen datum – in več primerov napake tega tipa nimamo). Ta omejitev takoj presega okvir klasičnega strojenega učenja (nadzorovano učenje), za katerega mora biti več „oznak“.

Slika 3 Natančnost naloge za spremljanje razvoja napak

Ali smo somehow »pomnožiti« edino »označbo«, ki jo imamo na voljo? Da, lahko. Trenutno stanje črpalke je opredeljeno z merilom podobnosti z registriranimi napakami. Tudi brez uporabe kvantitativnih metod lahko že na ravni vizualne percepcije, ob opazovanju dinamike vrednosti podatkov, ki prihajajo iz ASUTP, pridobimo veliko informacij:

Slika 4 Dinamika stanja črpalke na ozadju »označbe« določene vrste napake

Vendar vizualna percepcija (vsaj zaenkrat) ni najbolj primeren generator »označb« v našem hitro spreminjajočem se scenariju. Ocenjevali bomo podobnost trenutnega stanja črpalke z registriranimi napakami z uporabo statističnega testa.

Slika 5 Uporaba statističnega testa na prejetih podatkih na ozadju »označbe« napake

Statistični test določa verjetnost, da so zapisi z vrednostmi parametrov tehnološkega procesa v prejetem iz ASUTP »tok-paket« podobni zapisom »označbe« določene vrste napake. Izračunana vrednost verjetnosti (indeks statistične podobnosti) se pretvori v vrednost 0 ali 1, postane »označba« za strojno učenje v vsakem posameznem zapisu v preiskovanem paketu. T. j. po obdelavi novega paketa zapisov stanja črpalke s statističnim testom imamo možnost (a) dodati ta paket v učni vzorec za usposabljanje modela AI/ML in (b) izvesti nadzor kakovosti delovanja trenutne različice modela ob njeni uporabi v tem paketu.

Slika 6 Uporaba modela strojnega učenja na prejetih podatkih na ozadju »označbe« napake

Na enem naših prejšnjih spletnih seminarjev V našem představení ukazujeme a vysvětlujeme, jak platforma InterSystems IRIS umožňuje realizaci jakéhokoli mechanismu AI/ML ve formě neustále vykonávaných obchodních procesů, které zajišťují kontrolu přesnosti výsledků simulace a přizpůsobují parametry modelů. Při implementaci prototypu našeho scénáře s čerpadly využíváme veškeré funkce InterSystems IRIS, které byly prezentovány během webináře – zavádíme do procesního analyzátoru v rámci našeho řešení nikoli klasické supervised learning, ale spíše reinforcement learning, které automaticky řídí výběr pro trénink modelů. Do tréninkového výběru jsou zařazeny záznamy, u kterých došlo k „konsensu detekce“ po aplikaci jak statistického testu, tak aktuální verze modelu – to znamená, že jak statistický test (po transformaci indexu podobnosti na 0 nebo 1), tak model na těchto záznamech vydaly výsledek 1. Při novém trénování modelu, během jeho validace (nově natrénovaný model se aplikuje na vlastní tréninkový výběr, přičemž předchozí aplikace statistického testu na něj), se z tréninkového výběru odstraní záznamy, které po zpracování statistickým testem nevydržely výsledek 1 (kvůli trvalé přítomnosti záznamů z původní „značky“ defektu), a nová verze modelu se učí na „značce“ defektu plus na „udržených“ záznamech z toku.

Obrázek 7 Robotizace výpočtů AI/ML v InterSystems IRIS

Pokud vznikne potřeba jakéhosi „druhého názoru“ na kvalitu detekce získané při lokálních výpočtech v InterSystems IRIS, vytváří se proces-poradce pro provádění trénování a aplikace modelů na kontrolním datovém souboru pomocí cloudových služeb (například Microsoft Azure, Amazon Web Services, Google Cloud Platform atd.):

Obrázek 8 „Druhé názory“ z Microsoft Azure pod orchestrací InterSystems IRIS

Prototyp našeho scénáře v InterSystems IRIS je proveden ve formě agentního systému analytických procesů, které interagují s objektivem zařízení (čerpadlem), prostředími matematického modelování (Python, R a Julia) a zajišťují samo-učení všech zúčastněných mechanismů AI/ML – na datech v reálném čase.

Obrázek 9 Hlavní funkce AI/ML řešení v reálném čase v InterSystems IRIS

Praktični rezultat dela našega prototipa:

• Prepoznana vzorca napake s strani modela (12. januar):

• Prepoznana razvijajoča se napaka, ki ni bila vključena v vzorec (11. september, sama napaka je bila zabeležena s strani popravne ekipe šele po dveh dneh – 13. september):

Imitacija na realnih podatkih, ki vsebujejo več epizod iste napake, je pokazala, da naše rešitev, implementirano na platformi InterSystems IRIS, omogoča odkrivanje razvoja napak te vrste več dni pred samim odkritjem s strani popravne ekipe.

InterSystems IRIS – univerzalna platforma AI/ML izračunov v realnem času

Platforma InterSystems IRIS poenostavi razvoj, uvajanje in delovanje rešitev na podatkih v realnem času. InterSystems IRIS je sposobna hkrati izvajati transakcijsko in analitično obdelavo podatkov; podpirati sinhronizirane prikaze podatkov v skladu z več modeli (vključno s relacijskim, hierarhičnim, objektnim in dokumentarnim); delovati kot integracijska platforma za širok spekter virov podatkov in posameznih aplikacij; zagotavljati razvito analitiko v realnem času na strukturiranih in nestrukturiranih podatkih. InterSystems IRIS prav tako nudi mehanizme za uporabo zunanjih analitičnih orodij, omogoča prilagodljivo kombinacijo gostovanja v oblaku in na lokalnih strežnikih.

Aplikacije, zgrajene na platformi InterSystems IRIS, so uvedene v različnih industrijah, kar podjetjem pomaga doseči znatne gospodarske koristi v strateških in operativnih perspektivah, povečati ozaveščenost pri odločanju in odpraviti 'vrzeli' med dogodkom, analizo in akcijo.

Slika 10 Arhitektura InterSystems IRIS v kontekstu AI/ML v realnem času

Tako kot prejšnja diagram, spodnji diagram združuje nov 'koordinačni sistem' (CD/CI/CT) s shemo pretoka informacij med delovnimi elementi platforme. Vizualizacija se začne z makromehanizmom CD in se nadaljuje z makromehanizmoma CI in CT.

Slika 11 Shema pretoka informacij med elementi AI/ML platforme InterSystems IRIS

Osnovni mehanizam CD u InterSystems IRIS-u: korisnici platforme (programeri AI/ML rešenja) prilagođavaju postojeće i/ili kreiraju nova AI/ML rešenja koristeći specijalizovani uređivač programskog koda AI/ML mehanizama: Jupyter (puno ime: Jupyter Notebook; takođe, skraćeno, dokumenti kreirani u ovom uređivaču se ponekad nazivaju). U Jupyter-u, programer ima mogućnost da napiše, debaguje i uveri se u funkcionalnost (uključujući korišćenje grafike) konkretne AI/ML implementacije pre nego što je postavi („implementira“) u InterSystems IRIS. Jasno je da nova implementacija koja se na ovaj način kreira dobija samo osnovno debagovanje (jer, između ostalog, Jupyter ne radi sa protokima podataka u realnom vremenu) – to je normalno, jer je osnovni rezultat razvijanja u Jupyter-u potvrda principijelne funkcionalnosti pojedinačnog AI/ML mehanizma („na uzorku podataka daje očekivani rezultat“). Slično tome, mehanizam koji je već postavljen na platformu (vidi sledeće makromehanizme) može zahtevati „vraćanje“ na „pre-platformski“ oblik pre nego što se debaguje u Jupyter-u (čitanje podataka iz datoteka, rad sa podacima preko xDBC umesto tabela, neposredno interakciju sa globalnim varijablama – višedimenzionalnim nizovima podataka InterSystems IRIS-a – itd.).

Važan aspekt implementacije CD upravo u InterSystems IRIS-u: između platforme i Jupyter-a realizovana je dvosmerna integracija, koja omogućava prenos u platformu (i, kasnije, obrada u platformi) sadržaja na jezicima Python, R i Julia (sva tri su programski jezici u odgovarajućim vodećim open-source okruženjima za matematičko modelovanje). Tako, programeri AI/ML sadržaja imaju mogućnost da vrše "neprekinuto implementiranje" ovog sadržaja u platformi, radeći u svom uobičajenom uređivaču Jupyter, sa poznatim bibliotekama dostupnim u Python-u, R, Julia, i obavljajući osnovno debagovanje (kada je to potrebno) van platforme.

Prehajamo na makromehanizem CI v InterSystems IRIS. Na diagramu je prikazan makroproces dela "robotizatorja v realnem času" (kompleks podatkovnih struktur, poslovnih procesov in kodnih fragmentov, ki jih orkestrirajo jeziki mat sred in ObjectScript – naravni programski jezik InterSystems IRIS). Naloga tega makroprocesa je: vzdrževati potrebne podatkovne vrste za delovanje AI/ML mehanizmov (na podlagi tokov podatkov, ki jih platforma prejema v realnem času), odločati o vrstnem redu uporabe in "asortimanu" mehanizmov AI/ML (kar imenujemo "matematični algoritmi", "modeli" itd. – lahko se imenujejo različno, odvisno od specifičnosti implementacije in terminoloških preferenc), vzdrževati aktualne podatkovne strukture za analizo rezultatov dela AI/ML mehanizmov (kube, tabele, večdimenzionalni podatkovni niz in podobno – za poročila, nadzorne plošče itd.).

Pomemben vidik implementacije CI prav v InterSystems IRIS: med platformo in okolji za matematično modeliranje je uveljavljen dvosmerni integracija, ki omogoča izvajanje v platformi shranjene vsebine v jezikih Python, R in Julia v njihovih ustreznih okoljih ter vračanje rezultatov izvajanja. Ta integracija je izvedena tako v "terminalskem načinu" (tj. AI/ML vsebina se formulira kot koda v ObjectScript, ki izvaja klice mat sred), kot tudi v "načinu poslovnega procesa" (tj. AI/ML vsebina se formulira kot poslovni proces s pomočjo grafičnega urejevalnika, ali včasih s pomočjo Jupyterja, ali z IDE – IRIS Studio, Eclipse, Visual Studio Code). Dostopnost poslovnih procesov za urejanje v Jupyterju je odražena s povezavo med IRIS na ravni CI in Jupyterjem na ravni CD. Podroben pregled integracije z okolji za matematično modeliranje bo predstavljen kasneje. V tej fazi menimo, da obstajajo vsi razlogi, da potrdimo prisotnost vseh potrebnih orodij v platformi za realizacijo "neprekinjene integracije" AI/ML razvojov (ki izhajajo iz "neprekinjenega razvoja") v AI/ML rešitve v realnem času.

In the end, the main macro mechanism is CT. Without it, an AI/ML platform cannot be realized (even though "real-time" will be implemented through CD/CI). The essence of CT is the operation of the platform with the "artifacts" of machine learning and artificial intelligence directly in the working sessions of mathematical modeling environments: models, distribution tables, vector-matrices, neural network layers, and so forth. This “work” mostly consists of creating the aforementioned artifacts in environments (for models, for instance, “creation” involves specifying the model's specification and subsequently selecting the values of its parameters — the so-called “training” of the model), their application (for models: calculating “model” values of target variables — forecasts, category membership, event probability, etc.), and the enhancement of already created and applied artifacts (for example, redefining the set of input variables of the model based on the results of application — to improve the accuracy of forecasting, as an option). A key point in understanding the role of CT is its “abstraction” from the realities of CD and CI: CT will implement all the artifacts, focusing on the computational and mathematical specifics of the AI/ML solution within the possibilities provided by specific environments. The responsibility for providing the input data and delivering results will fall on CD and CI.

Pomemben vidik implementacije CT prav v InterSystems IRIS: s pripravljenim že omenjeno integracijo z okolji matematičnega modeliranja, platforma lahko pridobiva iz delovnih sej, ki potekajo pod njenim nadzorom v matematičnih sredstvih, tiste artefakte in (kar je najpomembneje) jih pretvarja v podatkovne objekte platforme. Na primer, tabela porazdelitve, ki se je pravkar ustvarila v delovni seji Python, lahko (brez zaustavitve seje v Pythonu) prenese v platformo v obliki, na primer, globalne (večdimenzionalni podatkovni niz InterSystems IRIS) – in se uporabi za izračune v drugem AI/ML mehanizmu (implementiranem že v jeziku drugega okolja – na primer, v R) – ali v virtualni tabeli. Drug primer: vzporedno s "standby načinom" delovanja modela (v delovni seji Python) se na njegovih vhodnih podatkih izvaja "avto-ML": avtomatsko iskanje optimalnih vhodnih spremenljivk in vrednosti parametrov. In skupaj s "standby" učenjem, produktivni model v realnem času prejme še "predlog za optimizacijo" svoje specifikacije – pri čemer se spremeni nabor vhodnih spremenljivk, spreminjajo se vrednosti parametrov (že ne v rezultatu učenja v Pythonu, temveč v rezultatih učenja "alternativne" različice same, na primer, v H2O skladi), kar omogoča celotnemu AI/ML rešitvi, da avtonomno obvladuje nepredvidljive spremembe v naravi vhodnih podatkov in modeliranih pojavov.

Podrobneje se bomo seznanili s platformnim AI/ML funkcionalnostjo InterSystems IRIS, na primeru resničnega prototipa.

Na spodaj prikazani diagrami, na levi strani diapozitiva – del poslovnega procesa, ki implementira izvajanje skript na Pythonu in R. V osrednjem delu – vizualni dnevniki izvajanja nekaterih od teh skript, ustrezno, na Pythonu in R. Takoj za njimi – primeri vsebine v enem in drugem jeziku, posredovani za izvedbo v ustreznih okoljih. Na koncu desno – vizualizacije, ki temeljijo na rezultatih izvajanja skript. Vizualizacije na vrhu – so bile narejene na IRIS Analytics (podatki so bili preneseni iz Python v podatkovno platformo InterSystems IRIS in prikazani na nadzorni plošči z orodji platforme), spodaj – so bile narejene neposredno v delovni seji R in izpisane v grafične datoteke. Pomemben vidik: predstavljen del v prototipu je odgovoren za učenje modela (klasifikacija stanja opreme) na podatkih, ki prihajajo v realnem času iz procesa-simulatorja opreme, po nalogu iz procesa-monitorja kakovosti klasifikacije, opazovanega med uporabo modela. O implementaciji AI/ML rešitve v obliki niza medsebojno delujočih procesov („agenti“) bomo govorili kasneje.

Slika 12 Interakcija s Python, R in Julia v InterSystems IRIS

Platformski procesi (tudi "poslovni procesi", "analitični procesi", "cevni postopki" itd. – odvisno od konteksta), so predvsem urejeni v grafičnem urejevalniku poslovnih procesov v sami platformi, pri čemer se tako ustvarja hkrati tudi njegova blokovna shema in ustrezen AI/ML mehanizem (programska koda). Ko govorimo o tem, da "nastane AI/ML mehanizem", prvotno razumemo hibridnost (v okviru enega procesa): vsebina v jezikih matematičnega modeliranja sočasno obstoja z vsebino v SQL (vključno s razširitvami od IntegratedML), na InterSystems ObjectScript, z drugimi podprtimi jeziki. Poleg tega platformni proces ponuja zelo široke možnosti za 'risanje' v obliki hierarhično vgrajenih fragmentov (kot je razvidno iz primera na spodnji diagramu), kar omogoča učinkovito organizacijo celo zelo zapletenega vsebin, brez 'izpada' iz grafičnega formata (v 'Negrafične' metode/razrede/procedure itd.). To pomeni, da je ob potrebi (kar se pričakuje v večini projektov) vse AI/ML-rešitve mogoče implementirati v grafičnem samodokumentirajočem formatu. Opozarjamo, da je v osrednjem delu spodnjega diagrama, kjer je prikazana višja 'ravni vgrajenosti', razvidno, da poleg samega dela na usposabljanju modela (s pomočjo Pythona in R) dodajamo analizo t.i. ROC-krivulje usposobljenega modela, ki omogoča vizualno (in tudi izračunano) oceno kakovosti usposabljanja – in ta analiza je realizirana v jeziku Julia (se ustrezno izvaja v matematičnem okolju Julia).

Slika 13 Vizualno okolje za sestavljanje AI/ML-rešitev v InterSystems IRIS

Kot omenjeno že prej, se začetni razvoj in (v nekaterih primerih) prilagoditev že implementiranih v platformi AI/ML-mehanizmov izvajajo zunaj platforme v urejevalniku Jupyter. Na diagramu spodaj vidimo primer prilagoditve obstoječega platformnega procesa (istega, kot je na zgornjem diagramu) – tako izgleda v Jupyter tisti del, ki je odgovoren za usposabljanje modela. Vsebina v jeziku Python je dostopna za urejanje, odpravljanje napak, izpis grafike neposredno v Jupyterju. Spremembe (po potrebi) se lahko izvajajo z takojšnjo sinhronizacijo v platformni proces, vključno z njegovo produktivno različico. Na podoben način se lahko v platformo prenese tudi nova vsebina (samodejno se oblikuje nov platformni proces).

Slika 14 Uporaba Jupyter Notebook za urejanje AI/ML-mehanizma v platformi InterSystems IRIS

Prilagoditev platformenega procesa se lahko izvaja ne le v grafičnem ali prenosnem formatu – temveč tudi v »celotnem« formatu IDE (Integrated Development Environment). Takšne IDE so IRIS Studio (nativna studija IRIS), Visual Studio Code (razširitev InterSystems IRIS za VSCode) in Eclipse (vtičnik Atelier). V nekaterih primerih je mogoče, da ekipa razvijalcev hkrati uporablja vse tri IDE. Na spodnjem diagramu je prikazan primer urejanja istega procesa v studiji IRIS, v Visual Studio Code in v Eclipse. Za urejanje je na voljo ves content: Python/R/Julia/SQL, ObjectScript in poslovni proces.

Slika 15 Razvoj poslovnega procesa InterSystems IRIS v različnih IDE

Posebno omembo si zaslužijo orodja za opisovanje in izvajanje poslovnih procesov InterSystems IRIS v jeziku Business Process Language (BPL). BPL omogoča uporabo »končnih integracijskih komponent« (activities) v poslovnih procesih – kar v resnici omogoča trditev, da je v InterSystems IRIS uresničena »neprekinjena integracija«. Končne komponente poslovnega procesa (aktivnosti in povezave med njimi) so močan pospeševalnik za sestavo AI/ML rešitev. Ne samo za sestavo: zahvaljujoč aktivnostim in povezavam med njimi se nad razdrobljenimi AI/ML razvoji in mehanizmi tvori »avtonomni upravljalski sloj«, sposoben sprejemati odločitve skladno s situacijo v realnem času.

Slika 16 Gotove komponente poslovnih procesov za neprekinjeno integracijo (CI) na platformi InterSystems IRIS

Koncept agentskih sistemov (tudi »multi-agentni sistemi«) ima močne položaje v robotiki, platforma InterSystems IRIS pa ga organsko podpira skozi konstrukcijo »izdelek-proces«. Poleg neomejenih možnosti za »napolnitev« vsakega procesa z funkcionalnostjo, potrebno za celovito rešitev, omogočanje platformnih procesov lastnosti »agentnosti« pripomore k učinkovitemu razvoju rešitev za zelo nestabilne modelirane pojave (obnašanje socialnih/Bio sistemov, delno opaženi tehnološki procesi itd.).

Slika 16 Delo AI/ML rešitve v obliki agentskega sistema poslovnih procesov v InterSystems IRIS

Nadaljujemo naš pregled InterSystems IRIS z zgodbo o praktični uporabi platforme za reševanje celotnih razredov nalog v realnem času (podrobnejše seznanjanje z nekaterimi najboljšimi praksami platformnega AI/ML na InterSystems IRIS poteka v enem od naših prejšnjih) spletnih seminarjev).

Po »vročih sledi« prejšnje sheme je spodaj predstavljena podrobnejša shema agentskega sistema. Na shemi je prikazan isti prototip, vidni so vsi štirje procesi-agenti, schematsko so narisane povezave med njimi: GENERATOR – obdeluje ustvarjanje podatkov s senzorji opreme, BUFFER – upravlja z načrti podatkov, ANALYZER – izvaja samo strojno učenje, MONITOR – nadzira kakovost strojenega učenja in pošilja signal o potrebi po ponovnem učenju modela.

Slika 17 Kompozicija AI/ML rešitve v obliki agentskega sistema poslovnih procesov v InterSystems IRIS

Na shemi spodaj je prikazano avtonomno delovanje že drugega robotskega prototipa (prepoznavanje čustvene obarvanosti besedil) v določenem časovnem obdobju. Na vrhu je evolucija kazalnika kakovosti učenja modela (kakovost narašča), na dnu pa dinamika kazalnika kakovosti uporabe modela in dejstva ponovnega učenja (rdeče črte). Kot lahko vidite, rešitev učinkovito in avtonomno samo uči in deluje na zahtevani ravni kakovosti (vrednosti kazalnika kakovosti ne padejo pod 80%).

Slika 18 Nenehno (samo)učenje (CT) na platformi InterSystems IRIS

O «auto-ML» smo prav tako omenili prej, a na spodnji shemi je uporaba te funkcionalnosti prikazana podrobneje na primeru še enega prototipa. Na grafični shemi fragmenta poslovnega procesa je prikazana aktivnost, ki sproži modeliranje v skladu H2O, rezultati tega modeliranja (jasno prevlado pridobljene modele nad «ročnimi» modeli, skladno s primerjalno diagramo ROC-krivulj, ter avtomatizirano odkrivanje «najbolj vplivnih spremenljivk» iz razpoložljivega izvornega nabora podatkov). Pomemben vidik tukaj je prihranek časa in ekspertnih virov, ki ga omogoča «auto-ML»: to, kar naš platformni proces stori v pol minute (iskanje in učenje optimalnega modela), lahko strokovnjaku vzame od enega tedna do enega meseca.

Slika 19 Integracija «auto-ML» v AI/ML-rešitev na platformi InterSystems IRIS

Diagram spodaj nekoliko «zmanjša vrhunec», a to je dober način za zaključek pripovedi o razredih rešenih nalog v realnem času: spomnimo se, da kljub vsem možnostim platforme InterSystems IRIS, usposabljanje modelov pod njenim upravljanjem ni obvezno. Platforma lahko prejme od zunaj tako imenovano PMML-specifikacijo modela, usposobljenega v orodju, ki ni pod upravljanjem platforme – in to model v realnem času uporablja od trenutka uvoza. PMML-specifikacije. Pri tem je pomembno upoštevati, da se daleč ne vsi AI/ML artefakti lahko zmanjšajo na PMML-specifikacijo, tudi če to omogoča večina najbolj razširjenih artefaktov. Tako platforma InterSystems IRIS razpolaga z «odprtimi konturi» in ne pomeni «platformne suženjstva» za uporabnike.

Slika 20 Integracija «auto-ML» v AI/ML-rešitev na platformi InterSystems IRIS

Naštejmo dodatne platformne prednosti InterSystems IRIS (za jasnost, v zvezi z upravljanjem tehnoloških procesov), ki so pomembne pri avtomatizaciji umetne inteligence in strojnega učenja v realnem času:

• Razviti viri integracije z vsemi viri in porabniki podatkov (ASUTP/SCADA, oprema, TOiR, ERP itd.)
• Vgrajen multimodalna DBMS za visoko performantne transakcijsko-analitičke obrade (Hybrid Transaction/Analytical Processing, HTAP) bilo kojeg volumena podataka tehnoloških procesa
• Razvojna sredstva za kontinuirano implementiranje AI/ML mehanizama rješenja za vrijeme stvaranja na osnovu Pythona, R-a, Julije
• Prilagodljivi poslovni procesi za kontinuiranu integraciju i (samo)učenje mehanizama AI/ML rješenja u stvarnom vremenu
• Ugrađena sredstva Business Intelligence za vizualizaciju podataka tehnoloških procesa i rezultata rada AI/ML rješenja
• Upravljanje API-jem za isporuku rezultata rada AI/ML rješenja u DCS/SCADA, informatičko-analitičke sustave, obavijesti i sl.

AI/ML rješenja na platformi InterSystems IRIS lako se uklapaju u postojeću IT infrastrukturu. Platforma InterSystems IRIS osigurava visoku pouzdanost AI/ML rješenja putem podrške otpornih na kvarove i katastrofalnih konfiguracija, kao i fleksibilnog implementiranja u virtualnim okruženjima, fizičkim serverima, privatnim i javnim oblačnim uslugama, Docker kontejnerima.

Tako je InterSystems IRIS univerzalna platforma za AI/ML računalne operacije u stvarnom vremenu. Univerzalnost naše platforme potvrđuje se u praksi odsustvom de-facto ograničenja u složenosti implementiranih računalnih operacija, sposobnošću InterSystems IRIS-a da kombinira (u stvarnom vremenu) obradu scenarija iz raznih industrija, izuzetnom prilagodljivošću svih funkcija i mehanizama platforme prema specifičnim potrebama korisnika.

Slika 21 InterSystems IRIS — univerzalna platforma za AI/ML računalne operacije u stvarnom vremenu

Za konkretniju interakciju sa onima od naših čitatelja koji su zainteresovani za ovdje prikazani materijal, preporučujemo da ne ostanete samo na čitanju, već da nastavite dijalog 'uživo'. Rado ćemo ponuditi podršku u formulisanju scenarija AI/ML u stvarnom vremenu primjenjivih na specifičnosti vaše kompanije, izvršiti zajedničko prototipiranje na platformi InterSystems IRIS, kreirati i realizovati praktičnu vremensku kartu za implementaciju umjetne inteligencije i mašinskog učenja u vaše proizvodne i upravljačke procese. Kontaktna adresa e-pošte naše ekspertne grupe za AI/ML – MLToolkit@intersystems.com.

Izvor: habr.com