Autor: Sergey Lukyanchikov, inženjer konsultant InterSystems
Izazovi real-time AI/ML proračuna
Počnimo sa primerima iz iskustva Data Science prakse kompanije InterSystems:
- „Opterećen“ portal kupca povezan je sa online preporučivačkim sistemom. Predstoji restrukturiranje promocija u razmerama maloprodajne mreže (na primer, umesto „ravne“ linije promocija sada će se primenjivati matrica „segment-taktika“). Šta se dešava sa preporučivačkim mehanizmima? Šta se dešava sa dostavom i ažuriranjem podataka u preporučivač (zapremina ulaznih podataka porasla je 25000 puta)? Šta se dešava sa generisanjem preporuka (neophodnost hiljadama puta smanjenja praga filtriranja preporučivačkih pravila zbog hiljadama puta povećanja njihovog broja i „asortimana“)?
- Postoji sistem za praćenje verovatnoće razvoja defekata u čvorovima opreme. Na sistem praćenja povezana je AСУТП koja prenosi hiljade parametara tehnološkog procesa svake sekunde. Šta se dešava sa sistemom praćenja, koji je ranije radio na „ručnim uzorcima“ (da li može obezbediti praćenje verovatnoće svake sekunde)? Šta će se dogoditi ako u ulaznim podacima pojavi novi blok sa nekoliko stotina kolona sa očitavanjima senzora, nedavno uvedenih u AСУТП (da li će i koliko dugo biti potrebno obustaviti sistem praćenja da bi uključio u analizu podatke sa novih senzora)?
- Stvoren je kompleks AI/ML mehanizama (preporučivački, monitorni, prognostički), koji koriste rezultate rada jedni drugih. Koliko je čovekčasova potrebno mesečno za prilagođavanje rada ovog kompleksa promenama u ulaznim podacima? Koliko je ukupno „usporavanje“ pri podršci kompleksa donošenju upravljačkih odluka (učestalost pojavljivanja nove podržavajuće informacije u odnosu na učestalost pojavljivanja novih ulaznih podataka)?
Sumirajući ove i mnoge druge primere, došli smo do formulacija izazova koji se javljaju prilikom prelaska na korišćenje mehanizama mašinskog učenja i veštačke inteligencije u realnom vremenu:
- Da li smo zadovoljni brzinom kreiranja i prilagođavanja (promenljivoj situaciji) AI/ML rešenja u našoj kompaniji?
- Kako rješenja AI/ML koja koristimo podržavaju upravljanje poslovanjem u realnom vremenu?
- Mogu li rješenja AI/ML koja koristimo samostalno (bez programera) prilagoditi se promjenama u podacima i praksi upravljanja poslovanjem?
Naš članak je sveobuhvatan pregled mogućnosti platforme InterSystems IRIS u vezi s univerzalnom podrškom za implementaciju AI/ML mehanizama, integraciju AI/ML rješenja i obuku (testiranje) AI/ML rješenja na intenzivnim tokovima podataka. Obratimo se istraživanjima tržišta, praktičnim primjerima AI/ML rješenja i konceptualnim aspektima onoga što u ovom članku nazivamo AI/ML platformom realnog vremena.
Šta nam govore ankete: aplikacije realnog vremena
Rezultati , provedene među oko 800 IT profesionalaca 2019. godine od strane Lightbenda, govore sami za sebe:

Slika 1 Vodeći potrošači podataka realnog vremena
Citirajmo važne dijelove izvještaja o rezultatima ove ankete u našem prevodu:
„... Trendovi popularnosti alata za integraciju tokova podataka, uz podršku računarstva u kontejnerima, daju sinergijski odgovor na potražnju tržišta za bržim, racionalnijim i dinamičnijim rješenjima. Tokovi podataka omogućuju brže prenošenje informacija od tradicionalnih paketnih podataka. Dodatno, tu je moguća brza primjena metodologija računanja, kao što su, na primjer, preporuke zasnovane na AI/ML-u, stvarajući konkurentske prednosti kroz povećanje zadovoljstva korisnika. Trka za brzinom također utiče na sve uloge u DevOps paradigmi – povećavajući efikasnost razvoja i implementacije aplikacija. ... Osamsto četiri IT stručnjaka pružila su informacije o korišćenju tokova podataka u njihovim organizacijama. Respondenti su pretežno bili iz zapadnih zemalja (41% u Evropi i 37% u Sjedinjenim Američkim Državama) i bili su gotovo ravnomjerno raspoređeni između malih, srednjih i velikih kompanija. ..."
Veštačka inteligencija nije prolazni trend. Petdeset osam procenata onih koji već koriste obradu podataka u produktivnim AI/ML aplikacijama potvrđuju da će njihova primena u AI/ML beležiti najveći porast naredne godine (u poređenju s drugim aplikacijama).
- Prema mišljenju većine ispitanika, primena podataka u AI/ML scenarijima doživeće najveći porast naredne godine.
- Primena u AI/ML će rasti ne samo zbog relativno novih tipova scenarija, već i zbog tradicionalnih scenarija u kojima se realni podaci koriste sve intenzivnije.
- Pored AI/ML, nivo entuzijazma među korisnicima IoT pipeline-a je impresivan — 48% onih koji su već integrisali IoT podatke tvrde da će implementacija scenarija koristeći te podatke doživeti značajan porast u bliskoj budućnosti. … »
Iz ovog zanimljivog istraživanja jasno je da percepcija scenarija mašinskog učenja i veštačke inteligencije kao lidera u potrošnji tokova podataka već "dolazi". No, jednako važno zapažanje je i percepcija AI/ML realnog vremena kroz prizmu DevOps-a: ovde se već može početi govoriti o transformaciji dominirajuće kulture "jednokratnog AI/ML sa potpuno dostupnim skupom podataka".
Koncept AI/ML platforme u realnom vremenu
Jedna od tipičnih oblasti primene AI/ML u realnom vremenu je upravljanje tehnološkim procesima u proizvodnji. Na njenom primeru i s obzirom na prethodna razmišljanja, definišimo koncept AI/ML platforme u realnom vremenu.
Korišćenje veštačke inteligencije i mašinskog učenja u upravljanju tehnološkim procesima ima niz karakteristika:
- Podaci o stanju tehnološkog procesa dolaze intenzivno: s velikom učestalosti i po širokom spektru parametara (do desetina hiljada vrednosti parametara koje se prenose u sekundi iz sistema automatizacije upravljanja tehnologijom)
- Podaci o otkrivanju nedostataka, da ne spominjemo podatke o njihovom razvoju, naprotiv, su oskudni i neredovni, karakterišu ih nedostatak tipizacije nedostataka i njihova lokalizacija u vremenu (često su predstavljeni kao zapisi na papirnom nosiocu)
- Sa praktične tačke gledišta, za obuku i primenu modela dostupno je samo "prozorsko vreme" orginalnih podataka, koje odražava dinamiku tehnološkog procesa tokom razumnog vremenskog intervala koji se završava poslednjim očitanim vrednostima parametara procesa.
Ove karakteristike nas primoravaju, pored primanja i osnovne obrade u realnom vremenu intenzivnog "širokopojasnog ulaznog signala" iz tehnološkog procesa, da izvršavamo (paralelno) primenu, obuku i kontrolu kvaliteta rezultata rada AI/ML modela – takođe u realnom vremenu. Taj "okvir" koji naši modeli "vide" u prozorskom vremenu se stalno menja – a zajedno s njim menja se i kvalitet rezultata rada AI/ML modela obučavanih na jednom od "okvira" u prošlosti. Kada se kvalitet rezultata rada AI/ML modela pogorša (na primer: vrednost greške klasifikacije "uzbuna-norma" pređe određene granice koje smo postavili) treba automatski pokrenuti doobuku modela na aktuelnijem "okviru" — a izbor trenutka za pokretanje doobuke modela treba da uzme u obzir kako trajanje same obuke, tako i dinamiku pogoršanja kvaliteta rada trenutne verzije modela (pošto se trenutne verzije modela i dalje primenjuju dok se modeli obučavaju, i sve dok ne budu formirane njihove "ponovo obučene" verzije).
InterSystems IRIS poseduje ključne platformske mogućnosti za podršku rada AI/ML rešenja pri upravljanju tehnološkim procesima u realnom vremenu. Ove mogućnosti možemo podeliti na tri osnovne grupe:
- Kontinuirano uvođenje (Continuous Deployment/Delivery, CD) novih ili prilagođenih postojećih AI/ML mehanizama u produktivno rešenje koje funkcioniše u realnom vremenu na platformi InterSystems IRIS.
- Kontinuirana integracija (Continuous Integration, CI) u jedinstveno produktivno rešenje dolaznih tokova podataka tehnološkog procesa, redova podataka za primenu/obuku/kontrolu kvaliteta rada AI/ML mehanizama i razmenu podataka/koda/upravljačkih uticaja sa okruženjima matematičkog modelovanja, čiju orkestraciju obavlja u realnom vremenu platforma InterSystems IRIS.
- Kontinuirano (samo)učenje (Continuous Training, CT) AI/ML mehanizama, koje se odvija u okruženjima matematičkog modeliranja koristeći podatke, kod i upravljačke akcije („donijete odluke“), prenosimo putem platforme InterSystems IRIS.
Klasifikacija mogućnosti platformi u kontekstu mašinskog učenja i veštačke inteligencije nije slučajna i vrši se prema određenim grupama. U ovom kontekstu citirajmo metodologiju kompanije Google, koja pruža konceptualnu osnovu za ovu klasifikaciju, u našem prevodu:
„… Popularna danas koncept DevOps obuhvata razvoj i operacije velikih informacionih sistema. Prednosti implementacije ovog koncepta uključuju skraćivanje trajanja ciklusa razvoja, ubrzanje postavljanja rešenja i fleksibilnost planiranja izdanja. Da bi se ostvarile ove prednosti, DevOps podrazumeva implementaciju minimum dve prakse:
- Continuous Integration (CI)
- Continuous Delivery (CD)
Ove prakse su takođe primenljive na AI/ML platforme – s ciljem obezbeđivanja pouzdane i produktivne izrade funkcionalnih AI/ML rešenja.
AI/ML platforme se razlikuju od drugih informacionih sistema u sledećim aspektima:
- Kompetencije tima: prilikom izrade AI/ML rešenja, tim obično uključuje data scientiste ili eksperte „akademike“ u oblasti istraživanja podataka, koji analiziraju podatke, razvijaju i testiraju modele. Ovi članovi tima možda ne moraju biti profesionalni programeri funkcionalnog softverskog koda.
- Razvoj: AI/ML mehanizmi su po svojoj prirodi eksperimentalni. Da bi se zadatak rešio na najučinkovitiji način, potrebno je istražiti različite kombinacije ulaznih varijabli, algoritama, načina modeliranja i parametara modela. Složenost ovog istraživanja leži u praćenju „šta je radilo/nisu radili“, osiguravanju ponovljivosti epizoda, generalizaciji razvoja za ponovljene implementacije.
- Testiranje: testiranje AI/ML mehanizama zahteva širi spektar testova nego većina drugih razvojnih projekata. Pored standardnih modula i integracionih testova, testiraju se validnost podataka, kvalitet rezultata primene modela na obučavanim i kontrolnim skupovima podataka.
- Implementacija: implementacija AI/ML rješenja ne svodi se samo na prediktivne usluge koje koriste jednom obučeni model. AI/ML rješenja se grade oko višeslojnih pipeline-a koji obavljaju automatizovano učenje i primjenu modela. Implementacija ovih pipeline-a podrazumijeva automatizaciju složenih radnji koje tradicionalno izvršavaju data scientisti ručno kako bi se omogućilo učenje i testiranje modela.
- Performanse: AI/ML mehanizmima može nedostajati performansi ne samo zbog neučinkovitog programiranja, već i zbog stalno promjenjive prirode ulaznih podataka. Drugim riječima, performanse AI/ML mehanizama mogu se pogoršati zbog mnogo šireg spektra razloga nego što je to slučaj kod uobičajenog razvoja. To dovodi do potrebe za praćenjem (u realnom vremenu) performansi naših AI/ML mehanizama, kao i slanjem obavještenja ili odbacivanjem rezultata ako performanse ne ispunjavaju očekivanja.
AI/ML platforme su slične drugim informacionim sistemima po tome što im je potrebna kontinuirana integracija koda s kontrolom verzija, modulsko testiranje, integracijsko testiranje i kontinuirano implementiranje rješenja. Ipak, u slučaju AI/ML postoji nekoliko važnih razlika:
- CI (Kontinuirana integracija) više nije ograničena samo na testiranje i validaciju koda implementiranih komponenti – već uključuje i testiranje i validaciju podataka i AI/ML modela.
- CD (Kontinuirana isporuka/implementacija) ne svodi se na pisanje i objavljivanje paketa ili usluga, već podrazumijeva platformu za kompoziciju, učenje i primjenu AI/ML rješenja.
- CT (Kontinuirano učenje) – novi element [napomena autora: novi element u odnosu na tradicionalnu DevOps koncepciju, gdje je CT obično Kontinuirano testiranje], svojstven AI/ML platformama, odgovoran za autonomno upravljanje mehanizmima učenja i primjene AI/ML modela. …«
Možemo konstatovati da mašinsko učenje i veštačka inteligencija, koja rade na podacima u realnom vremenu, zahtevaju širi spektar alata i kompetencija (od razvoja koda do orkestracije okruženja matematičkog modeliranja), veću integraciju između svih funkcionalnih i predmetnih oblasti, kao i efikasniju organizaciju ljudskih i mašinskih resursa.
Scenarij u realnom vremenu: prepoznavanje razvoja defekata u hranilnim pumpama
Nastavljajući sa primerom oblasti upravljanja tehnološkim procesima, razmotrićemo specifičan zadatak (koji smo već spomenuli na početku): potrebno je obezbediti monitoring razvoja defekata u pumpama u realnom vremenu, na osnovu toka vrednosti parametara tehnološkog procesa i izveštaja servisnog osoblja o uočenim defektima.

Slika 2 Formulacija zadatka za monitoring razvoja defekata
Karakteristika većine sličnih zadataka u praksi je da redosled i brzina dolaska podataka (ASUTP) treba posmatrati u svetlu epizodnosti i neredovnosti nastanka (i evidentiranja) defekata različitih tipova. Drugim rečima: podaci iz ASUTP dolaze jednom u sekundi i tačni su, dok se o defektima beleže informacije hemijskom olovkom sa datumskim oznakama u opštoj svesci u pogonu (na primer: '12.01 – curenje na poklopcu sa strane 3. ležaja').
Tako možemo dopuniti formulaciju zadatka sledećim važnim ograničenjem: „označavanje“ defekta određenog tipa imamo samo jedno (tj. primer defekta određenog tipa predstavljen je podacima iz ASUTP na određeni datum – i više primera defekta ovog tipa nemamo). Ovo ograničenje brzo nas izbacuje iz okvira klasičnog mašinskog učenja (supervised learning), za koje bi trebalo da bude mnogo „oznake“.

Slika 3 Preciziranje zadatka za monitoring razvoja defekata
Možemo li na neki način "umnožiti" jedinu "označenu" stavku koja nam je dostupna? Da, možemo. Trenutno stanje pumpe karakterizira stepen sličnosti sa registrovanim defectima. Čak i bez primene kvantitativnih metoda, na nivou vizuelnog percepcije, posmatrajući dinamiku vrednosti podataka koji dolaze iz SCADA sistema, već se može mnogo saznati:

Slika 4 Dinamika stanja pumpe u odnosu na "oznaku" defekta zadanog tipa
Ali vizuelna percepcija (barem za sada) nije najprikladniji generator "označava" u našem brzo menjajućem scenariju. Procenićemo sličnost trenutnog stanja pumpe registrovanim defektima pomoću statističkog testa.

Slika 5 Primena statističkog testa na dolazne podatke u odnosu na "oznaku" defekta
Statistički test određuje verovatnoću da su zapisi sa vrednostima parametara tehnološkog procesa u dobijenom "paketu toka" slični zapisima "oznake" defekta određenog tipa. Izračunata vrednost verovatnoće (indeks statističke sličnosti) se pretvara u vrednost 0 ili 1, postajući "označena" za mašinsko učenje u svakoj konkretnoj stavci u ispitivanom paketu. To jest, nakon obrade novog paketa zapisa stanja pumpe statističkim testom, dobijamo mogućnost (a) da dodamo ovaj paket u obučeni uzorak za obuku AI/ML modela i (b) da izvršimo kontrolu kvaliteta rada trenutne verzije modela na ovom paketu.

Slika 6 Primena modela mašinskog učenja na dolazne podatke u odnosu na "oznaku" defekta
U jednom od naših prethodnih Prikazujemo i objašnjavamo kako platforma InterSystems IRIS omogućava realizaciju bilo kojeg AI/ML mehanizma u obliku neprekidno izvršivih poslovnih procesa, koji kontrolišu tačnost rezultata modeliranja i prilagođavaju parametre modela. Kada implementiramo prototip našeg scenarija sa pumpama, koristimo sve funkcije InterSystems IRIS predstavljene tokom vebinara - implementirajući u analitičkom procesu u okviru našeg rešenja ne klasično nadgledano učenje, već više učenje na osnovu pojačanja (reinforcement learning), koje automatski upravlja izborom za obučavanje modela. U uzorku za obučavanje se nalaze zapisi na kojima se događa „koncensus detekcije“ nakon primene i statističkog testa, i trenutne verzije modela – tj. i statistički test (posle transformacije indeksa sličnosti na 0 ili 1), i model su na tim zapisima dali rezultat 1. Prilikom novog obučavanja modela, tokom njegove validacije (ponovo obučeni model se primenjuje na sopstveni skup za obučavanje, uz prethodnu primenu statističkog testa na njemu), zapisi koji „nisu zadržali“ rezultat 1 nakon obrade statističkim testom (zbog stalne prisutnosti u skupu za obučavanje zapisa iz početne „oznake“ defekta) se uklanjaju iz skupa za obučavanje, i nova verzija modela uči na „oznake“ defekta plus na „zadržanima“ zapisima iz toka.

Slika 7 Robotizacija AI/ML proračuna u InterSystems IRIS
U slučaju kada postoji potreba za vrstom „drugog mišljenja“ o kvalitetu detekcije, dobijenog pri lokalnim proračunima u InterSystems IRIS, kreira se proces savetnika za obučavanje i primenu modela na kontrolnom skupu podataka uz pomoć oblaka servisa (npr. Microsoft Azure, Amazon Web Services, Google Cloud Platform itd.):

Slika 8 „Drugo mišljenje“ iz Microsoft Azure u orkestraciji InterSystems IRIS
Prototip našeg scenarija u InterSystems IRIS je izveden u obliku agentskog sistema analitičkih procesa, koji omogućavaju interakcije s objektom opreme (pumpom), okruženjima matematičkog modeliranja (Python, R i Julia), i obezbeđuju samoučenje svih angažovanih AI/ML mehanizama – na podacima u realnom vremenu.

Slika 9 Osnovna funkcionalnost AI/ML rešenja u realnom vremenu u InterSystems IRIS
Praktični rezultat rada našeg prototipa:
- Primer defekta prepoznatog modelom (12. januar):

- Razvijajući se defekt prepoznat modelom koji nije bio u uzorku (11. septembar, sam defekt utvrđen je od strane servisne ekipe tek posle dva dana – 13. septembar):

Imitacija na stvarnim podacima, koja sadrži više epizoda istog defekta, pokazala je da naše rešenje, implementirano na platformi InterSystems IRIS, omogućava otkrivanje razvoja defekata ovog tipa nekoliko dana pre nego što ih uoči servisna ekipa.
InterSystems IRIS – univerzalna platforma za AI/ML izračunavanja u realnom vremenu
Platforma InterSystems IRIS pojednostavljuje razvoj, implementaciju i korišćenje rešenja na podacima u realnom vremenu. InterSystems IRIS može simultano izvoditi transakcijsku i analitičku obradu podataka; podržavati sinhronizovane prikaze podataka prema više modela (uključujući relacione, hijerarhijske, objektne i dokumentarne); delovati kao platforma za integraciju širokog spektra izvora podataka i pojedinačnih aplikacija; omogućiti naprednu analitiku u realnom vremenu na strukturiranim i nestrukturiranim podacima. InterSystems IRIS takođe pruža mehanizme za korišćenje spoljnog analitičkog alata, omogućava fleksibilno kombinovanje hosting-a u oblaku i na lokalnim serverima.
Aplikacije zasnovane na platformi InterSystems IRIS implementirane su u različitim industrijama, pomažući kompanijama da postignu značajan ekonomski učinak u strateškim i operativnim perspektivama, poboljšavajući donošenje odluka i eliminisanje "razmaka" između događaja, analize i akcije.

Slika 10 Arhitektura InterSystems IRIS u kontekstu AI/ML u realnom vremenu
Kao i prethodna dijagram, dijagram u nastavku kombinuje novi "sistem koordinata" (CD/CI/CT) sa shemom tokova informacija između radnih elemenata platforme. Vizualizacija počinje makromehanizmom CD i nastavlja se makromehanizmima CI i CT.

Slika 11 Shema tokova informacija između AI/ML elemenata platforme InterSystems IRIS
Suština CD mehanizma u InterSystems IRIS: korisnici platforme (razvijatelji AI/ML rješenja) prilagođavaju postojeće i/ili stvaraju nova AI/ML razvijena rješenja uz korištenje specijaliziranog urednika programske koda AI/ML mehanizama: Jupyter (puno ime: Jupyter Notebook; također, skraćeno, ponekad se nazivaju i dokumenti stvoreni u ovom uredniku). U Jupyteru, programer ima mogućnost napisati, otkloniti greške i provjeriti funkcionalnost (uključujući korištenje grafike) konkretne AI/ML razvijene rješenja prije njenog postavljanja („implementacije”) u InterSystems IRIS. Razumljivo je da će stvorena nova rješenja dobiti samo osnovno otklanjanje grešaka (budući da, između ostalog, Jupyter ne radi s podacima u stvarnom vremenu) – to je u redu, jer konačni rezultat razvoja u Jupyteru postaje potvrda principijelne funkcionalnosti pojedinog AI/ML mehanizma („na uzorku podataka pokazuje očekivani rezultat”). Slično tome, već postavljeni mehanizam na platformu (vidi sljedeće makromehanizme) prije otklanjanja grešaka u Jupyteru može zahtijevati „povratak” na „doplatformeno” stanje (čitanje podataka iz datoteka, rad s podacima putem xDBC umjesto tabela, direktna interakcija s globalnim podacima – višedimenzionalnim nizovima podataka InterSystems IRIS – itd.).
Važan aspekt implementacije CD upravo u InterSystems IRIS: između platforme i Jupyter-a ostvarena je dvosmjerna integracija, koja omogućava prenošenje sadržaja na jezicima Python, R i Julia u platformu (i, u daljnjem, obrada u platformi) (sva tri su programski jezici u vodećim otvorenim sredinama matematičkog modeliranja). Takoće, programeri AI/ML sadržaja imaju mogućnost ostvarivati „neprekidnu implementaciju” ovog sadržaja u platformi, radeći u svom poznatom uredniku Jupyter, s poznatim bibliotekama dostupnim u Pythonu, R, Juliji, i vršeći osnovno otklanjanje grešaka (ako je potrebno) izvan platforme.
Prelazimo na makromehanizam CI u InterSystems IRIS. Na dijagramu je prikazan makroproces rada "robotizatora u stvarnom vremenu" (kompleks od struktura podataka, biznis procesa i orkestriranih delova koda na jeziku mat sred i jeziku ObjectScript – nativnom jeziku za razvoj InterSystems IRIS). Zadatak ovog makroprocesa je da održava potrebne redove podataka za rad AI/ML mehanizama (na osnovu tokova podataka koji se u realnom vremenu šalju platformi), donosi odluke o redosledu primene i "asortimanu" mehanizama AI/ML (poznati i kao "matematički algoritmi", "modeli" itd. – mogu se različito nazivati u zavisnosti od konkretne implementacije i terminoloških preferencija), kao i da održava ažurirane strukture podataka za analizu rezultata rada AI/ML mehanizama (kocke, tabele, višedimenzionalni nizovi podataka itd. – za izveštaje, dashboard-e itd.).
Važan aspekt implementacije CI upravo u InterSystems IRIS: između platforme i sredina za matematičko modelovanje realizovana je dvostrana integracija, koja omogućava izvršavanje sadržaja smeštenog u platformi na jezicima Python, R i Julia u njihovim odgovarajućim sredinama, uz vraćanje rezultata izvršenja. Ova integracija je realizovana kako u "terminalnom režimu" (tj. AI/ML sadržaj se formuliše kao kod na ObjectScript koji poziva mat sred), tako i u "režimu biznis procesa" (tj. AI/ML sadržaj se formuliše kao biznis proces pomoću grafičkog editora, ili ponekad pomoću Jupyter-a, ili pomoću IDE – IRIS Studio, Eclipse, Visual Studio Code). Dostupnost biznis procesa za uređivanje u Jupyter-u reflektuje se pomoću veze između IRIS na nivou CI i Jupyter-a na nivou CD. Detaljniji pregled integracije sa sredinama za matematičko modelovanje biće pružen u nastavku. U ovom trenutku, smatramo da postoje svi razlozi da se zabeleži prisustvo svih potrebnih alata u platformi za realizaciju "kontinuirane integracije" AI/ML razvoja (dozvoljenog iz "kontinuiranog razmeštanja") u AI/ML rešenja u stvarnom vremenu.
I glavni makromehanizam: CT. Bez njega ne možemo imati AI/ML platforme (iako će "stvarno vreme" biti implementirano kroz CD/CI). Suština CT-a leži u radu platforme sa "artefaktima" mašinskog učenja i veštačke inteligencije direktno u radnim sesijama matematičkog modelovanja: modelima, tabelama raspodela, vektorima-matrcama, slojevima neuronskih mreža itd. Ova "radnja" se u većini slučajeva sastoji u stvaranju pomenutih artefakata u okruženjima (u slučaju modela, na primer, "stvaranje" se sastoji od zadavanja specifikacije modela i naknadnog podešavanja vrednosti njegovih parametara – tako zvano "učenje" modela), njihovoj primeni (za modele: izračunavanje pomoću njih "modelskih" vrednosti ciljanih varijabli – prognoza, pripadnost kategoriji, verovatnoća nastanka događaja itd.) i usavršavanju već stvorenih i primenjenih artefakata (na primer, redefinisanje skupa ulaznih varijabli modela na osnovu rezultata primene – u cilju povećanja tačnosti prognoziranja, kao opcija). Ključna tačka u razumevanju uloge CT-a je njegova "apstraktnost" od stvarnosti CD i CI: CT će implementirati sve artefakte, oslanjajući se na računarsku i matematičku specifičnost AI/ML rešenja u okviru mogućnosti koje pružaju konkretna okruženja. Odgovornost za "snabdevanje ulaznim podacima" i "isporuku rezultata" nosiće CD i CI.
Važan aspekt implementacije CT u InterSystems IRIS: koristeći već spomenutu integraciju sa sredinama za matematičko modeliranje, platforma ima mogućnost da izdvoji artefakte iz radnih sesija koje se odvijaju pod njenim upravljanjem u matematičkim sredinama, a (što je najvažnije) da ih pretvori u objekte podataka platforme. Na primer, tabela raspodele koja je upravo stvorena u radnoj sesiji Python može biti (bez zaustavljanja sesije u Pythonu) prenesena u platformu kao, recimo, globalni podatak (višedimenzionalna niz podataka InterSystems IRIS) – i korišćena za proračune u drugom AI/ML mehanizmu (realizovanom već na jeziku druge sredine – na primer, na R) – ili virtualne tabele. Drugi primer: paralelno sa "normalnim režimom" rada modela (u radnoj sesiji Python), na njenim ulaznim podacima se vrši "auto-ML": automatski odabir optimalnih ulaznih varijabli i vrednosti parametara. A zajedno sa "normalnim" učenjem, produktivni model u realnom vremenu dobija i "predlog za optimizaciju" svoje specifikacije – u kojoj se menja skup ulaznih varijabli, menjaju se vrednosti parametara (već ne kao rezultat učenja u Pythonu, već kao rezultat učenja "alternativne" verzije sebe, na primer, u H2O okviru), što omogućava sveobuhvatnom AI/ML rešenju da autonomno reaguje na nepredviđene promene u karakteru ulaznih podataka i modeliranih pojava.
Upoznajmo se detaljnije sa platformskim AI/ML funkcionalnostima InterSystems IRIS, na primeru stvarnog prototipa.
Na donjoj dijagramu, na lijevoj strani slajda je dio poslovnog procesa koji implementira izvršenje skripti na Pythonu i R-u. U središnjem dijelu su vizualni logovi izvršenja nekih od tih skripti, odnosno na Pythonu i R-u. Odmah iza njih su primjeri sadržaja na oba jezika, proslijeđeni na izvršenje u odgovarajuće okoline. Na kraju, desno, su vizualizacije temeljene na rezultatima izvršenja skripti. Vizualizacije na vrhu su napravljene na IRIS Analytics (podaci su preuzeti iz Pythona u platformu podataka InterSystems IRIS i prikazani na dashboardu pomoću alata platforme), dok su donje vizualizacije napravljene direktno u radnoj sesiji R i izvođene iz nje u grafičke datoteke. Važan aspekt: predstavljeni fragment u prototipu odgovara za obučavanje modela (klasifikacija stanja opreme) na podacima koji dolaze u stvarnom vremenu iz procesa-simulacije opreme, po komandi procesa-monitoringa kvalitete klasifikacije, koja se promatra tokom primjene modela. O implementaciji AI/ML rješenja u obliku niza interaktivnih procesa ('agenta') bit će riječi kasnije.

Slika 12 Interakcija s Python, R i Julia u InterSystems IRIS
Platformski procesi (također poznati kao 'poslovni procesi', 'analitički procesi', 'pipeline-i' itd. – ovisno o kontekstu), prije svega, mogu se uređivati u grafičkom uređivaču poslovnih procesa unutar same platforme, na način da se istovremeno kreiraju i njegova blok-dijagrama i odgovarajući AI/ML mehanizam (programski kod). Kada govorimo o tome da 'nastaje AI/ML mehanizam', prvotno подразумijevamo hibridnost (unutar jednog procesa): sadržaj na jezicima matematičkog modeliranja sufinancira se sa sadržajem na SQL-u (uključujući proširenja od ), u InterSystems ObjectScript, s drugim podržanim jezicima. Štaviše, platformski proces pruža veoma široke mogućnosti za „crtanje“ u obliku hijerarhijski ugniježdenih fragmenata (kao što se može vidjeti u primjeru na donjoj dijagramu), što omogućava efikasnu organizaciju čak i veoma složenog sadržaja, bez „izlaženja“ iz grafičkog formata (u „negrafičke“ metode/klase/procedure itd.). Odnosno, ako bude potrebno (a to se predviđa u većini projekata), potpuno rješenje AI/ML može biti implementirano u grafičkom samodokumentirajućem formatu. Obratite pažnju na to da je u središnjem dijelu donje dijagrame, na kojoj je prikazana viša „razina ugniježdenosti“, vidljivo da se osim samog rada na obuci modela (uz pomoć Pythona i R-a), dodaje analiza takozvane ROC-krive obučene modela, koja omogućava vizualnu (i računsku također) procjenu kvaliteta obuke – a ova analiza je realizirana na jeziku Julija (izvršava se, shodno tome, u matematičkom okruženju Julija).

Slika 13 Vizuelno okruženje za kompoziciju AI/ML rješenja u InterSystems IRIS
Kao što je već ranije pomenuto, početna razrada i (u nekim slučajevima) adaptacija već implementiranih u platformu AI/ML mehanizama će/može se vršiti van platforme u uređivaču Jupyter. Na dijagramu ispod vidimo primjer adaptacije postojećeg platformskog procesa (isti kao na gornjem dijagramu) – tako u Jupyteru izgleda taj njegov fragment koji odgovara za obuku modela. Sadržaj na jeziku Python dostupan je za uređivanje, debagovanje, prikaz grafikona direktno u Jupyteru. Promjene (po potrebi) mogu biti izvršene s trenutnom sinhronizacijom u platformski proces, uključujući njegovu produktivnu verziju. Na sličan način može se prenositi u platformu i novi sadržaj (automatski se formira novi platformski proces).

Slika 14 Primjena Jupyter Notebook za uređivanje AI/ML mehanizma u platformi InterSystems IRIS
Adaptacija platformskog procesa može se provoditi ne samo u grafičkom ili laptop formatu – već i u "totalnom" formatu IDE (Integrated Development Environment). Takvi IDE su IRIS Studio (nativna IRIS studio), Visual Studio Code (ekstenzija InterSystems IRIS za VSCode) i Eclipse (plugin Atelier). U određenim slučajevima, moguće je simultano korištenje svih triju IDE-a od strane tima programera. Na dijagramu ispod prikazan je primjer uređivanja istog procesa u IRIS studiju, Visual Studio Code-u i Eclipse-u. Za uređivanje je dostupan sav sadržaj: i Python/R/Julia/SQL, i ObjectScript, i poslovni proces.

Slika 15 Razvoj poslovnog procesa InterSystems IRIS u različitim IDE-ima
Posebno se ističu alati za opisivanje i izvršavanje poslovnih procesa InterSystems IRIS na jeziku Business Process Language (BPL). BPL omogućava korištenje "gotovih integracijskih komponenti" (activities) u poslovnim procesima – što zapravo daje pune osnove za tvrdnju da je u InterSystems IRIS implementirana "kontinuirana integracija". Gotove komponente poslovnog procesa (aktivnosti i veze između njih) su moćan akcelerator izgradnje AI/ML rješenja. I ne samo izgradnje: zahvaljujući aktivnostima i vezama između njih, nad razdvojenim AI/ML razvojem i mehanizmima nastaje "autonomni upravljački sloj" koji može donositi odluke u skladu sa situacijom, u realnom vremenu.

Slika 16 Gotove komponente poslovnih procesa za kontinuiranu integraciju (CI) na platformi InterSystems IRIS
Koncept agentskih sistema (također poznatih kao "multi-agent systems") ima snažnu poziciju u robotizaciji, a platforma InterSystems IRIS ga organski podržava kroz konstrukciju "proizvod-proces". Osim neograničenih mogućnosti za "punjenje" svakog procesa potrebnom funkcionalnošću za opće rješenje, omogućavanje sistema platformskih procesa da ima svojstvo "agentnosti" omogućava stvaranje učinkovitih rješenja za izuzetno nestabilne modelirane fenomene (ponašanje društvenih/biosistema, djelomično opaženi tehnološki procesi i dr.).

Slika 16 Rad AI/ML rješenja u formi agentskog sistema poslovnih procesa u InterSystems IRIS
Nastavljamo s našim pregledom InterSystems IRIS pričom o aplikacijskom korištenju platforme za rješavanje cijelih klasa zadataka u stvarnom vremenu (prilično detaljno upoznavanje s nekim najboljim praksama platformskog AI/ML na InterSystems IRIS događa se u jednom od naših prethodnih ).
Na "vrućim tragovima" prethodne dijagrame, u nastavku je prikazana detaljnija dijagrama agencijske sustava. Na dijagramu je prikazan isti prototip, vidljivi su svi četiri proceso-agenta, shematski su prikazane veze između njih: GENERATOR – razvija stvaranje podataka senzorima opreme, BUFFER – upravlja redovima podataka, ANALYZER – izvršava samo mašinsko učenje, MONITOR – kontroliše kvalitetu mašinskog učenja i daje signal o potrebi ponovnog učenja modela.

Slika 17 Kompozicija AI/ML rješenja u obliku agencijskog sistema poslovnih procesa u InterSystems IRIS
Na dijagramu ispod ilustrirana je autonomna funkcionalnost već drugog robotiziranog prototipa (prepoznavanje emocionalnog tonova tekstova) tokom određenog vremena. Na vrhu – evolucija indikatora kvaliteta učenja modela (kvalitet raste), na donjem dijelu – dinamika indikatora kvaliteta primjene modela i činjenice ponovnog učenja (crvene trake). Kao što se može vidjeti, rješenje je efikasno i autonomno se samoobučilo, i funkcioniše na zadatom nivou kvaliteta (vrijednosti indikatora kvaliteta ne padaju ispod 80%).

Slika 18 Kontinuirano (samo) učenje (CT) na platformi InterSystems IRIS
O "auto-ML" smo takođe ranije spominjali, ali na donjoj dijagramu primena ove funkcionalnosti je prikazana u detalje na primeru još jednog prototipa. Na grafičkom prikazu fragmenta poslovnog procesa prikazana je aktivnost koja pokreće modeliranje u H2O stogu, prikazani su rezultati ovog modeliranja (jasna dominacija dobijenog modela nad "rukotvorenim" modelima, prema uporednom dijagramu ROC krivih, kao i automatizovano otkrivanje "najuticajnijih varijabli" iz dostupnog skupa podataka). Važna tačka ovde je ta ušteda vremena i stručnih resursa koja se postiže zahvaljujući "auto-ML": ono što naš platformni proces radi za pola minute (pronalazak i obuka optimalnog modela), stručnjaku može potrajati od nedelje do meseca.

Slika 19 Integracija "auto-ML" u AI/ML rešenje na platformi InterSystems IRIS
Dijagram ispod malo "skreće kulminaciju", ali to je dobar način da se završi priča o klasama rešenih zadataka u realnom vremenu: podsećamo da, uprkos svim mogućnostima platforme InterSystems IRIS, obuka modela pod njenom kontrolom nije obavezna. Platforma može primiti spolja takozvanu PMML specifikaciju modela, obučenu u alatu koji nije pod kontrolom platforme – i primeniti ovaj model u realnom vremenu od trenutka njegovog uvoza. . Pri tome je važno napomenuti da daleko nije svaki AI/ML artefakt moguće svesti na PMML specifikaciju, iako to većina najrasprostranjenijih artefakata omogućava. Tako platforma InterSystems IRIS ima "otvorenu petlju" i ne podrazumeva "platformsku ropstvo" za korisnike.

Slika 20 Integracija "auto-ML" u AI/ML rešenje na platformi InterSystems IRIS
Nabrojimo dodatne platformirane prednosti InterSystems IRIS (radi jasnoće, u smislu upravljanja tehnološkim procesima), koje imaju značajnu važnost pri automatizaciji veštačke inteligencije i mašinskog učenja u realnom vremenu:
- Napredni alati za integraciju sa svim izvorima i potrošačima podataka (ASUTP/SCADA, oprema, TOiR, ERP itd.)
- Ugrađena za visoko performansnu transakciono-analitičku obradu (Hybrid Transaction/Analytical Processing, HTAP) bilo kojih količina podataka tehnoloških procesa
- Razvojni alati za neprekidno implementiranje AI/ML mehanizama real-time rješenja baziranih na Pythonu, R, Juliji
- Adaptivni poslovni procesi za neprekidnu integraciju i (samo) učenje mehanizama AI/ML rješenja u realnom vremenu
- Ugrađeni alati Business Intelligence za vizualizaciju podataka tehnoloških procesa i rezultata rada AI/ML rješenja
- za isporuku rezultata rada AI/ML rješenja u SCADA/SUP, informacijsko-analitičke sisteme, slanje obavještenja itd.
AI/ML rješenja na platformi InterSystems IRIS lako se uklapaju u postojeću IT infrastrukturu. Platforma InterSystems IRIS obezbeđuje visoku pouzdanost AI/ML rješenja zahvaljujući podršci za otporno i katastrofno otporno konfigurisanje i fleksibilno implementiranje u virtuelnim okruženjima, na fizičkim serverima, u privatnim i javnim oblacima, Docker kontejnerima.
Tako, InterSystems IRIS je univerzalna platforma za AI/ML računanja u realnom vremenu. Univerzalnost naše platforme potvrđuje praktično odsustvo de-facto ograničenja po složenosti implementiranih proračuna, sposobnost InterSystems IRIS da kombinuje (u realnom vremenu) obradu scenarija iz različitih industrija, izuzetna prilagodljivost bilo kojih funkcija i mehanizama platforme na specifične potrebe korisnika.

Slika 21 InterSystems IRIS — univerzalna platforma za AI/ML računanja u realnom vremenu
Za konkretnu interakciju sa onima od naših čitatelja koje zanima ovdje predstavljeni materijal, preporučujemo da se ne ograničavate samo na čitanje, već da nastavite dijalog "uživo". S radošću ćemo pružiti podršku u formulisanju scenarija AI/ML u realnom vremenu primenjenih na specifičnosti vaše kompanije, izvršićemo zajedničko prototipiranje na platformi InterSystems IRIS, oblikovati i sprovesti na praktičnoj osnovi putanju implementacije veštačke inteligencije i mašinskog učenja u vaše proizvodne i upravljačke procese. Kontakt adresa elektronske pošte naše ekspertske grupe za AI/ML – .
Izvor: habr.com
