InterSystems IRIS – univerzální AI/ML platforma v reálném čase

Autor: Sergej Lukyankikov, konzultant inženýr společnosti InterSystems

Výzvy AI/ML výpočtů v reálném čase

Začněme příklady z praxe Data Science společnosti InterSystems:

• „Zatížený“ zákaznický portál je připojen k online doporučovacímu systému. Chystá se restrukturalizace propagačních akcí v rozsahu maloobchodní sítě (řekněme, že místo "ploché" řady propagačních akcí nyní bude použita matice "segment-taktika"). Co se děje s doporučovacími mechanismy? Co se děje s předáváním a aktualizací dat do doporučovacího mechanismu (objem vstupních dat vzrostl 25 000krát)? Co se děje s generováním doporučení (nutnost tisíckrát snížit prahovou hodnotu filtrací doporučovacích pravidel v důsledku tisíckrát vyššího počtu a "sortimentu")?
• Existuje systém sledování pravděpodobnosti vzniku vad v zařízeních. K systému sledování byla připojena AŘS, která každou sekundu předává tisíce parametrů technologického procesu. Co se stalo se systémem sledování, který dříve fungoval na "ručních vzorcích" (je schopen zajistit monitorování pravděpodobnosti každou sekundu)? Co se stane, pokud se ve vstupních datech objeví nový blok s několika stovkami sloupců s hodnotami senzorů, které byly nedávno zařazeny do AŘS (bude nutné na jak dlouho zastavit systém sledování pro zahrnutí dat od nových senzorů)?
• Byl vytvořen komplex AI/ML mechanismů (doporučovací, monitorovací, prediktivní), které využívají výsledky práce navzájem. Kolik člověkohodin je zapotřebí měsíčně pro přizpůsobení práce tohoto komplexu změnám ve vstupních datech? Jaké je celkové "zpomalení" podporující rozhodovací procesy (frekvence vzniku nové podpůrné informace vzhledem k frekvenci vzniku nových vstupních dat)?

Shrnujeme tyto a mnoho dalších příkladů, došli jsme k formulacím výzev, které se objevují při přechodu k využívání mechanismů strojového učení a umělé inteligence v reálném čase:

• Jste spokojeni s rychlostí tvorby a přizpůsobení (na měnící se situaci) AI/ML vývojů naší společnosti?
• Jak naše AI/ML řešení podporují řízení podnikání v reálném čase?
• Jsou naše AI/ML řešení schopna se samostatně (bez vývojářů) přizpůsobovat změnám v datech a v praktikách řízení podnikání?

Náš článek je podrobným přehledem možností platformy InterSystems IRIS z hlediska univerzální podpory nasazení AI/ML mechanismů, integrace AI/ML řešení a školení (testování) AI/ML řešení na intenzivních datových tocích. Odkážeme na průzkumy trhu, praktické příklady AI/ML řešení a koncepční aspekty toho, co v tomto článku označujeme jako AI/ML platformu reálného času.

Co vyplývá z průzkumů: aplikace reálného času

Výsledky průzkumu, provedeného mezi přibližně 800 IT profesionály v roce 2019 společností Lightbend, mluví sama za sebe:

Obrázek 1 Hlavní uživatelé dat v reálném čase

Odkážeme na důležité pasáže z reportu o výsledcích tohoto průzkumu v našem překladu:

„… Trendy v oblíbenosti nástrojů pro integraci datových toků a zároveň podpory výpočtů v kontejnerech poskytují synergickou reakci na poptávku trhu po pružnějším, efektivnějším a dynamickém nabízení řešení. Datové toky umožňují rychleji předávat informace než tradiční dávková data. Na to navazuje možnost okamžitého využití výpočetních metod, jako jsou například doporučení založená na AI/ML, vytvářející konkurenceschopné výhody prostřednictvím zvýšení spokojenosti zákazníků. Soutěž o rychlost také ovlivňuje všechny rolí v paradigmatě DevOps – zvyšující efektivitu vývoje a nasazení aplikací. … Osm set čtyři IT specialisté poskytli informace o využití datových toků ve svých organizacích. Respondenti byli převážně ze západních zemí (41 % v Evropě a 37 % v Severní Americe) a byli téměř rovnoměrně rozděleni mezi malé, střední a velké společnosti. …

Umělá inteligence není hype. Padesát osm procent těch, kteří již využívají zpracování datových toků v produktivních aplikacích AI/ML, potvrzuje, že jejich využití v AI/ML zaznamená největší nárůst v příštím roce (ve srovnání s jinými aplikacemi).

• Podle většiny respondentů se využití datových toků v scénářích AI/ML v příštím roce zvýší nejvíce.
• Využití v AI/ML se bude zvyšovat nejen díky relativně novým typům scénářů, ale také díky tradičním scénářům, ve kterých se data v reálném čase využívají stále intenzivněji.
• Kromě AI/ML je úroveň nadšení mezi uživateli datových pipeline IoT ohromující — 48 % těch, kteří již integrovali IoT data, tvrdí, že implementace scénářů na těchto datech zaznamená významný nárůst v blízké budoucnosti. … »

Z tohoto poměrně zajímavého průzkumu vyplývá, že vnímání scénářů strojového učení a umělé inteligence jako lídrů spotřeby datových toků je již „na obzoru“. Neméně důležitým pozorováním se stává vnímání AI/ML v reálném čase skrze optiku DevOps: zde již můžeme začít hovořit o transformaci dosud dominující kultury „jednorázového AI/ML s plně dostupným souborem dat“.

Koncept AI/ML platformy v reálném čase

Jednou z typických oblastí využití AI/ML v reálném čase je řízení technologických procesů v průmyslu. Na jejím příkladu a s ohledem na předchozí úvahy formulujeme koncept AI/ML platformy v reálném čase.
Využití umělé inteligence a strojového učení v řízení technologických procesů má řadu zvláštností:

• Data o stavu technologického procesu přicházejí intenzivně: s vysokou frekvencí a na širokém spektru parametrů (až po desítky tisíc hodnot parametrů přenášených za sekundu z řídicího systému).
• Data o identifikaci vad, nemluvě o údajích o jejich vývoji, naopak, skýtají nedostatek a nepravidelnost, charakterizují nedostatečnou typizaci vad a jejich lokalizaci v čase (často jsou prezentována jako zápisy na papírovém nosiči).
• Z praktického hlediska je k dispozici pouze "okno relevance" vstupních dat pro školení a aplikaci modelů, které odráží dynamiku technologického procesu za rozumný posuvný interval, končící posledními přečtenými hodnotami parametrů procesu.

Tyto vlastnosti nás nutí, kromě příjmu a základního zpracování v reálném čase intenzivního "širokopásmového vstupního signálu" z technologického procesu, provádět (paralelně) aplikaci, školení a kontrolu kvality výsledků práce modelů AI/ML – také v reálném čase. Ten "snímek", který naše modely "vidí" v posuvném okně relevance, se neustále mění – a spolu s ním se mění i kvalita výsledků práce modelů AI/ML, které byly školeny na jednom ze "snímků" v minulosti. Při zhoršení kvality výsledků práce modelů AI/ML (například: hodnota chyby klasifikace "alarm-norma" překročila naší stanovené hranice) by mělo být automaticky zahájeno doškolení modelů na aktuálnějším "snímku" — a výběr okamžiku pro zahájení doškolení modelů by měl brát v úvahu jak délku samotného školení, tak dynamiku zhoršení kvality práce aktuální verze modelů (protože aktuální verze modelů zůstávají v provozu, zatímco jsou modely školeny, a až budou vytvořeny jejich "nově vyškolené" verze).

InterSystems IRIS disponuje klíčovými platformními možnostmi pro zajištění fungování AI/ML řešení při řízení technologických procesů v reálném čase. Tyto možnosti lze rozdělit do tří hlavních skupin:

• Nepřetržité nasazení (Continuous Deployment/Delivery, CD) nových nebo přizpůsobených stávajících mechanismů AI/ML do produktového řešení, které funguje v reálném čase na platformě InterSystems IRIS.
• Nepřetržitá integrace (Continuous Integration, CI) do jednoho produktového řešení vstupních toků dat technologického procesu, front dat pro aplikaci/školení/kontrolu kvality práce AI/ML mechanismů a výměny dat/kódu/riažacích zásahů s prostředími matematického modelování, jejichž orchestrace probíhá v reálném čase na platformě InterSystems IRIS.
• Nepřetržité (sebe-)vzdělávání (Continuous Training, CT) mechanismů AI/ML prováděné v prostředích matematického modelování s využitím dat, kódu a řídících vlivů („přijatých rozhodnutí“), přenášených platformou InterSystems IRIS

Klasifikace platformových možností aplikovaných na strojové učení a umělou inteligenci podle takových skupin není náhodná. Citujme metodologii publikaci společnosti Google, která těmto klasifikacím poskytuje konceptuální základ, v našem překladu:

„… Populární koncept DevOps zahrnuje vývoj a provoz rozsáhlých informačních systémů. Výhodami zavedení tohoto konceptu jsou zkrácení doby vývojových cyklů, zrychlení nasazování vývojů a flexibilita plánování vydání. Pro dosažení těchto výhod DevOps předpokládá zavedení minimálně dvou praktik:

• Continuous Integration (CI)
• Continuous Delivery (CD)

Tyto praktiky jsou také aplikovatelné na platformy AI/ML – za účelem zajištění spolehlivé a výkonné výroby produktivních AI/ML řešení.

Platformy AI/ML se od ostatních informačních systémů liší v následujících aspektech:

• Kompetence týmu: při vytváření AI/ML řešení obvykle tým zahrnuje datové vědce nebo odborníky-„akademiky“ v oblasti výzkumu dat, kteří provádějí analýzu dat, vývoj a testování modelů. Tito členové týmu nemusí být profesionálními vývojáři produktivního softwarového kódu.
• Vývoj: Mechanismy AI/ML jsou po své povaze experimentální. Aby bylo možné vyřešit problém nejefektivnějším způsobem, je nutné prozkoumat různé kombinace vstupních proměnných, algoritmů, způsobů modelování a parametrů modelu. Složitost takového zkoumání spočívá v sledování „co fungovalo/nefungovalo“, zajištění reprodukovatelnosti epizod, generalizaci vývojů pro opakovaná nasazení.
• Testování: testování mechanismů AI/ML vyžaduje širší spektrum testů než většina ostatních vývojů. Kromě standardních modulárních a integračních testů se testují platnost dat, kvalita výsledků aplikace modelu na tréninkové a testovací vzorky.
• Nasazení: nasazení AI/ML řešení není jen o prediktivních službách, které používají jednou vyškolený model. AI/ML řešení se budují kolem víceúrovňových pipeline, které provádějí automatizované učení a aplikaci modelů. Nasazení takových pipeline zahrnuje automatizaci složitých úkonů, které tradičně provádějí datoví vědci ručně, aby bylo možné modely naučit a otestovat.
• Produktivita: AI/ML mechanismům může scházet výkon nejen kvůli neefektivnímu programování, ale také v důsledku neustále se měnící povahy vstupních dat. Jinými slovy, výkon AI/ML mechanismů může degradovat z širšího spektra příčin než výkon běžného vývoje. To vede k potřebě monitorování (v reálném čase) výkonu našich AI/ML mechanismů a také k zasílání upozornění nebo vyřazování výsledků, pokud výkonnostní ukazatele neodpovídají očekáváním.

AI/ML platformy jsou podobné jiným informačním systémům v tom, že oba vyžadují nepřetržitou integraci kódu s kontrolou verzí, modulové testování, integrační testování a nepřetržité nasazení vývoje. Nicméně v případě AI/ML existuje několik důležitých rozdílů:

• CI (Continuous Integration, nepřetržitá integrace) už není omezena pouze na testování a validaci kódu nasazovaných komponent – zahrnuje také testování a validaci dat a AI/ML modelů.
• CD (Continuous Delivery/Deployment, nepřetržité nasazení) se neomezuje jen na psaní a vydávání balíčků nebo služeb, ale zahrnuje platformu pro komponování, učení a aplikaci AI/ML řešení.
• CT (Continuous Training, nepřetržité učení) – nový prvek [pozn. autora článku: nový prvek ve vztahu k tradiční konceptu DevOps, kde CT je obvykle Continuous Testing], charakteristický pro AI/ML platformy, odpovídající za autonomní řízení mechanismů učení a aplikace AI/ML modelů. …

Můžeme konstatovat, že strojové učení a umělá inteligence fungující na datech v reálném čase vyžadují širší sadu nástrojů a kompetencí (od vývoje kódu po orchestraci prostředí matematického modelování), těsnější integraci mezi všemi funkčními a tematickými oblastmi a efektivnější organizaci lidských a strojních zdrojů.

Scénář v reálném čase: rozpoznání vývoje defektů v čerpacích pumpách

Pokračujeme-li v použití oblasti řízení technologických procesů jako příkladu, podívejme se na konkrétní úkol (již jsme ho zmínili na začátku): je třeba zajistit v reálném čase monitorování vývoje defektů v pumpách na základě toku hodnot parametrů technologického procesu a zpráv opravného personálu o zjištěných defektech.

Obrázek 2 Formulace úkolu týkajícího se monitorování vývoje defektů

Specifikou většiny takto formulovaných úkolů v praxi je, že pravidelnost a rychlost přicházejících dat (ASUTP) musí být posuzována na pozadí epizodického a nepravidelného vzniku (a registrace) různých typů defektů. Jinými slovy: data z ASUTP přicházejí každou sekundu přesně a správně, zatímco o defektech se dělají záznamy chemickou tužkou s uvedením data do obecného sešitu na dílně (například: „12.01 – únik v víku z 3. ložiska“).

Takže můžeme doplnit formulaci úkolu o tuto důležitou podmínku: „značka“ defektu konkrétního typu máme pouze jednu (tj. příklad defektu konkrétního typu je představován daty z ASUTP k určitému datu – a nemožno mít více příkladů defektu tohoto konkrétního typu). Toto omezení nás okamžitě vyvádí za rámec klasického strojového učení (supervised learning), pro které je třeba mít mnoho „značek“.

Obrázek 3 Upřesnění úkolu týkajícího se monitorování vývoje defektů

Můžeme nějakým způsobem "replikovat" jedinou "značku", kterou máme k dispozici? Ano, můžeme. Aktuální stav čerpadla je charakterizován stupněm podobnosti se zaregistrovanými vadami. Dokonce i bez použití kvantitativních metod lze na základě vizuálního vnímání, pozorováním dynamiky hodnot dat přicházejících z ŘS, mnoho informací zjistit:

Obrázek 4 Dynamika stavu čerpadla na pozadí "značky" vady zadaného typu

Ale vizuální vnímání (alespoň prozatím) není nejvhodnější generátor "značek" v našem rychle se měnícím scénáři. Budeme hodnotit podobnost aktuálního stavu čerpadla se zaregistrovanými vadami pomocí statistického testu.

Obrázek 5 Použití statistického testu na přicházející data na pozadí "značky" vady

Statistický test určuje pravděpodobnost, že záznamy se hodnotami parametrů technologického procesu ve získaném z ŘS "tokovém balíčku" jsou podobné záznamům "značky" vady určitého typu. Vypočítaná hodnota pravděpodobnosti (index statistické podobnosti) se převádí na hodnotu 0 nebo 1, čímž se stává "značkou" pro strojové učení v každém konkrétním záznamu v zkoumaném balíčku na podobnost. Tedy po zpracování nově přijatého balíku záznamů stavu čerpadla statistickým testem máme možnost (a) přidat tento balík do tréninkové vzorky pro tréning AI/ML modelu a (b) provádět kontrolu kvality práce aktuální verze modelu při jeho aplikaci na tento balík.

Obrázek 6 Použití modelu strojového učení na přicházející data na pozadí "značky" vady

V jednom z našich předchozích webinářů Ukazujeme a vysvětlujeme, jak platforma InterSystems IRIS umožňuje implementaci jakéhokoli mechanismu AI/ML ve formě nepřetržitě běžících obchodních procesů, které kontrolují správnost výsledků modelování a přizpůsobují parametry modelů. Při realizaci prototypu našeho scénáře s čerpadly využíváme veškerou funkcionalitu InterSystems IRIS představenou během webináře – implementujeme v analyzátoru procesu místo klasického supervised learning spíše učení s posílením (reinforcement learning), které automaticky řídí výběr pro trénink modelů. Do výběru pro trénink se dostávají záznamy, na kterých dochází k „konsensu detekce“ po aplikaci jak statistického testu, tak aktuální verze modelu – tj. jak statistický test (po transformaci indexu podobnosti na 0 nebo 1), tak model vydaly na těchto záznamech výsledek 1. Při novém tréninku modelu, při jeho validaci (znovu vytrénovaný model je aplikován na vlastní tréninkovou sadu, s předchozím použitím statistického testu), jsou z tréninkové sady odstraněny záznamy, které po zpracování statistickým testem neudržely výsledek 1 (v důsledku neustálé přítomnosti záznamů z původní „nálepky“ defektu), a nová verze modelu se učí na „nálepce“ defektu plus na „udržených“ záznamech z toku.

Obrázek 7 Robotizace AI/ML výpočtů v InterSystems IRIS

Pokud vznikne potřeba jakéhosi „druhého názoru“ na kvalitu detekce získávané při lokálních výpočtech v InterSystems IRIS, vytváří se proces-poradce pro provádění učení-aplikace modelů na kontrolním datovém souboru pomocí cloudových služeb (např. Microsoft Azure, Amazon Web Services, Google Cloud Platform atd.):

Obrázek 8 „Druhé názory“ z Microsoft Azure pod orchestrace InterSystems IRIS

Prototyp našeho scénáře v InterSystems IRIS je vytvořen jako agentní systém analytických procesů, které interagují s objektem vybavení (čerpadlem), prostředími matematického modelování (Python, R a Julia) a zajišťují sebeučení všech zapojených mechanismů AI/ML – na datech v reálném čase.

Obrázek 9 Hlavní funkcionalita AI/ML řešení v reálném čase v InterSystems IRIS

Praktický výsledek práce našeho prototypu:

• Rozpoznaná vzorka vady modelem (12. ledna):

• Rozpoznaná vzrůstající vada modelem, která nebyla zahrnuta do vzorku (11. září, sama vada byla zjištěna opravářskou skupinou až po dvou dnech – 13. září):

Imitace na reálných datech, obsahujících několik epizod stejné vady, ukázala, že naše řešení, implementované na platformě InterSystems IRIS, umožňuje odhalit vývoj vad tohoto typu několik dní před jejich zjištěním opravářskou skupinou.

InterSystems IRIS – univerzální platforma pro AI/ML výpočty v reálném čase

Platforma InterSystems IRIS usnadňuje vývoj, nasazení a provoz řešení s daty v reálném čase. InterSystems IRIS dokáže současně provádět transakční a analytické zpracování dat; podporovat synchronizované výhledy dat podle několika modelů (včetně relačního, hierarchického, objektového a dokumentového); fungovat jako platforma integrace širokého spektra zdrojů dat a jednotlivých aplikací; poskytovat pokročilou analytiku v reálném čase na strukturovaných a nestrukturovaných datech. InterSystems IRIS také poskytuje mechanismy pro použití externích analytických nástrojů, a umožňuje flexibilně kombinovat umístění v cloudu a na lokálních serverech.

Aplikace postavené na platformě InterSystems IRIS jsou implementovány v různých odvětvích, pomáhají společnostem dosahovat významného ekonomického efektu v strategické a operační perspektivě, zvyšují informovanost rozhodování a odstraňují „mezery“ mezi událostí, analýzou a akcí.

Obrázek 10 Architektura InterSystems IRIS v kontextu AI/ML v reálném čase

Stejně jako předchozí diagram, následující diagram kombinuje nový "souřadnicový systém" (CD/CI/CT) se schématem toků informací mezi pracovními prvky platformy. Vizualizace začíná makrom mechanizmem CD a pokračuje makrom mechanizmy CI a CT.

Obrázek 11 Schéma toků informací mezi AI/ML prvky platformy InterSystems IRIS

Podstata mechanismu CD v InterSystems IRIS: uživatelé platformy (vývojáři AI/ML řešení) přizpůsobují již existující a/nebo vytvářejí nové AI/ML vývojové projekty za použití specializovaného editoru programového kódu AI/ML mechanismů: Jupyter (úplný název: Jupyter Notebook; také se pro stručnost občas nazývají i dokumenty vytvářené v tomto editoru). V Jupyter má vývojář možnost napsat, odladit a ověřit funkčnost (včetně použití grafiky) konkrétní AI/ML vývojové ukázky před jejím nasazením („deploy“ na platformě InterSystems IRIS). Je jasné, že takto vytvářená nová vývojová ukázka bude mít pouze základní odladění (protože Jupyter například nepracuje s datovými proudy v reálném čase) – to je běžné, neboť hlavním výsledkem vývoje v Jupyter se stává potvrzení principiální funkčnosti jednotlivého AI/ML mechanismu („ukazuje očekávaný výsledek na vzorku dat“). Podobně mechanismus již nasazený na platformě (viz následující makromechanismy) může před odladěním v Jupyter vyžadovat „vrácení se“ do „předplatformního“ stavu (čtení dat z files, práce s daty přes xDBC místo tabulek, bezprostřední interakce s globálními proměnnými – vícerozměrnými poli dat InterSystems IRIS – atd.).

Důležitý aspekt implementace CD právě v InterSystems IRIS: mezi platformou a Jupyter je realizována obousměrná integrace, která umožňuje převádět do platformy (a následně zpracovávat v platformě) obsah v jazycích Python, R a Julia (všechny tři jsou programovací jazyky v odpovídajících předních open-source prostředích matematického modelování). Takto mají vývojáři AI/ML obsahu možnost uskutečňovat „nepřetržité nasazení“ tohoto obsahu na platformě, pracující v jejich oblíbeném editoru Jupyter, s běžnými knihovnami dostupnými v Python, R, Julia, a provádějí základní odladění (pokud je to nutné) mimo platformu.

Přejdeme k makromekanismu CI v InterSystems IRIS. Na diagramu je znázorněn makroproces práce "robotizátoru v reálném čase" (komplex datových struktur, obchodních procesů a orchestrací fragmentů kódu v jazycích matín a ObjectScript – nativním jazyce vývoje InterSystems IRIS). Úkolem tohoto makroprocesu je udržovat potřebné fronty dat pro fungování AI/ML mechanismů (na základě datových toků předávaných platformě v reálném čase), rozhodovat o pořadí aplikace a "sortimentu" mechanismů AI/ML (také známé jako "matematické algoritmy", "modely" apod. – mohou být nazývány různě v závislosti na konkrétním provedení a terminologických preferencích), udržovat aktuální data pro analýzu výsledků činnosti AI/ML mechanismů (kostky, tabulky, vícerozměrné datové pole apod. – pro zprávy, dashboardy atd.).

Důležitý aspekt implementace CI právě v InterSystems IRIS: mezi platformou a prostředími pro matematické modelování je realizována obousměrná integrace, která umožňuje vykonávat obsah umístěný na platformě v jazycích Python, R a Julia v odpovídajících prostředích a získávat zpět výsledky vykonání. Tato integrace je realizována jak v "terminálovém režimu" (tj. AI/ML obsah je formulován jako kód v ObjectScript, který provádí volání matematických prostředí), tak v "režimu obchodního procesu" (tj. AI/ML obsah je formulován jako obchodní proces pomocí grafického editoru, nebo někdy pomocí Jupyter, nebo IDE – IRIS Studio, Eclipse, Visual Studio Code). Dostupnost obchodních procesů pro úpravy v Jupyter je reflektována pomocí propojení mezi IRIS na úrovni CI a Jupyter na úrovni CD. Podrobnější přehled integrace s prostředími matematického modelování následuje. V této fázi se domníváme, že existují dostatečné důvody pro to, abychom potvrdili existenci všech potřebných nástrojů v platformě pro realizaci "nepřetržité integrace" AI/ML vývoje (převezmout z "nepřetržitého nasazení") do AI/ML řešení v reálném čase.

A hlavní makromechanismus: CT. Bez něj nebude možné AI/ML platformy (i když „reálný čas“ bude implementován prostřednictvím CD/CI). Podstatou CT je práce platformy s „artefakty“ strojového učení a umělé inteligence přímo v pracovních sezeních matematického modelování: modely, tabulky distribucí, vektory-matice, vrstvy neuronových sítí atd. Tato „práce“ se v drtivé většině případů skládá z vytváření zmíněných artefaktů v prostředích (u modelů například „vytváření“ zahrnuje stanovení specifikace modelu a následný výběr hodnot jeho parametrů – tzv. „učení“ modelu), jejich použití (u modelů: výpočet pomocí nich „modelových“ hodnot cílových proměnných – prognóz, přiřazení ke kategorii, pravděpodobnosti výskytu události atd.) a zlepšování již vytvořených a použitých artefaktů (například redefinice sady vstupních proměnných modelu na základě výsledků použití – za účelem zvýšení přesnosti predikce, jako varianta). Klíčovým bodem pro pochopení role CT je jeho „abstraktnost“ vůči realitám CD a CI: CT implementuje všechny artefakty, zaměřujíce se na výpočetní a matematickou specifiku AI/ML řešení v rámci možností poskytovaných konkrétními prostředími. Odpovědnost za „dodání vstupních dat“ a „doručení výsledků“ ponese CD a CI.

Důležitý aspekt implementace CT v InterSystems IRIS: díky již zmíněné integraci s prostředími pro matematické modelování má platforma možnost extrahovat artefakty z pracovních relací probíhajících pod jejím řízením v matematických prostředích a (co je nejdůležitější) převádět je na objekty dat platformy. Například tabulka rozložení, která byla právě vytvořena v pracovní relaci Python, může být (bez zastavení relace v Pythonu) přesunuta na platformu ve formě například globálního (vícerozměrného datového pole InterSystems IRIS) – a použita pro výpočty v jiném AI/ML mechanismu (realizovaném již v jazyce jiného prostředí – například v jazyce R) – nebo jako virtuální tabulka. Další příklad: paralelně se "standardním režimem" práce modelu (v pracovní relaci Python) na jeho vstupních datech probíhá "auto-ML": automatické vybírání optimálních vstupních proměnných a hodnot parametrů. A spolu se "standardním" učením dostává produktivní model v reálném čase také "návrh na optimalizaci" své specifikace – ve které se mění soubor vstupních proměnných, mění se hodnoty parametrů (už ne v důsledku učení v Pythonu, ale v důsledku učení "alternativní" verze samotné, například v stacku H2O), což umožňuje celkovému AI/ML řešení autonomně se vyrovnat s nepředvídanými změnami v charakteru vstupních dat a modelovaných jevů.

Pojďme se podívat podrobněji na platformní funkce AI/ML InterSystems IRIS na příkladu skutečně existujícího prototypu.

Na níže uvedeném diagramu, na levé straně snímku – část obchodního procesu, která implementuje zpracování skriptů v Pythonu a R. Ve střední části – vizuální logy vykonávání některých z těchto skriptů, konkrétně na Pythonu a na R. Hned za nimi – příklady obsahu v jednom a druhém jazyce, předané k vykonání do odpovídajících prostředí. Na konci vpravo – vizualizace založené na výsledcích vykonávání skriptů. Vizuály nahoře – vytvořené na IRIS Analytics (data byla převedena z Pythonu do datové platformy InterSystems IRIS a zobrazeny na dashboardu pomocí nástrojů platformy), dole – vytvořené přímo v pracovní relaci R a exportované z ní do grafických souborů. Důležitý aspekt: předložený fragment v prototypu zodpovídá za trénink modelu (klasifikace stavů zařízení) na datech přicházejících v reálném čase z procesu simulace zařízení, na pokyn z procesu monitorování kvality klasifikace, sledované při použití modelu. O implementaci řešení AI/ML ve formě sady vzájemně interagujících procesů („agentů“) bude řeč dále.

Obrázek 12 Interakce s Pythonem, R a Julií v InterSystems IRIS

Platformní procesy (také nazývané „obchodní procesy“, „analytické procesy“, „pipeline“ atd. – podle kontextu), jsou především editovatelné v grafickém editoru obchodních procesů přímo v platformě, přičemž takto se současně vytvářejí jak jeho bloková schéma, tak odpovídající AI/ML mechanismus (programový kód). Když mluvíme o tom, že „vzniká AI/ML mechanismus“, máme na mysli hybridnost (v rámci jednoho procesu): obsah v jazycích prostředí matematického modelování sousedí s obsahem v SQL (včetně rozšíření z IntegratedML), na InterSystems ObjectScript, s dalšími podporovanými jazyky. Navíc platformní proces nabízí velmi široké možnosti pro „vykreslování“ ve formě hierarchicky vložených fragmentů (jak je vidět v příkladu na níže uvedeném diagramu), což umožňuje efektivně organizovat i velmi složitý obsah, aniž by se kdy „vypadl“ z grafického formátu (do „negrafických“ metod/tříd/procedur atd.). Tedy pokud je to nutné (a to se očekává u většiny projektů), může být celé AI/ML řešení implementováno v grafickém sebezdokumentujícím formátu. Všimněte si, že ve střední části níže uvedeného diagramu, kde je prezentována vyšší „úroveň vnoření“, je vidět, že kromě samotné práce na školení modelu (při použití Pythonu a R) se přidává analýza takzvané ROC křivky vyškoleného modelu, která umožňuje vizuálně (a také výpočetně) posoudit kvalitu školení – a tato analýza je realizována v jazyce Julia (provádí se tedy v matice Julia).

Obrázek 13 Vizuální prostředí pro skládání AI/ML řešení v InterSystems IRIS

Jak již bylo zmíněno, počáteční vývoj a (v některých případech) adaptace již implementovaných AI/ML mechanismů na platformě se může provádět mimo platformu v editoru Jupyter. Na níže uvedeném diagramu vidíme příklad adaptace existujícího platformního procesu (stejného jako na diagramu výše) – takto vypadá v Jupyteru ten jeho fragment, který je zodpovědný za školení modelu. Obsah v jazyce Python je dostupný pro úpravy, ladění a výstup grafiky přímo v Jupyteru. Změny (pokud jsou potřebné) mohou být prováděny s okamžitou synchronizací na platformní proces, včetně jeho produktové verze. Podobným způsobem může být na platformu odeslán i nový obsah (automaticky se vytváří nový platformní proces).

Obrázek 14 Použití Jupyter Notebook pro úpravu AI/ML mechanismu v platformě InterSystems IRIS

Adaptace platformového procesu může probíhat nejen v grafickém nebo notebookovém formátu, ale také v "totálním" formátu IDE (Integrované vývojové prostředí). Mezi takové IDE patří IRIS Studio (nativní studio IRIS), Visual Studio Code (rozšíření InterSystems IRIS pro VSCode) a Eclipse (plugin Atelier). V některých případech je možné, aby tým vývojářů současně používal všechna tři IDE. V diagramu níže je zobrazen příklad úpravy téhož procesu ve studiu IRIS, ve Visual Studio Code a v Eclipse. K úpravě je k dispozici celý obsah: Python/R/Julia/SQL, ObjectScript a obchodní proces.

Obrázek 15 Vývoj obchodního procesu InterSystems IRIS v různých IDE

Zvláštní zmínku zaslouží nástroje pro popis a provádění obchodních procesů v InterSystems IRIS v jazyce Business Process Language (BPL). BPL umožňuje používat v obchodních procesech "hotové integrační komponenty" (aktivity) – což, jak se dá říci, zakládá plné důvody pro tvrzení, že v InterSystems IRIS je realizována "kontinuální integrace". Hotové komponenty obchodního procesu (aktivity a vazby mezi nimi) jsou mocným akcelerátorem sestavování AI/ML řešení. A nejen sestavování: díky aktivitám a vazbám mezi nimi vzniká nad rozptýlenými AI/ML vývojovými a mechanismy "autonomní řídící vrstva", schopná přijímat rozhodnutí podle situace v reálném čase.

Obrázek 16 Hotové komponenty obchodních procesů pro kontinuální integraci (CI) na platformě InterSystems IRIS

Koncept agentních systémů (také "multiaagentních systémů") má silné postavení v robotizaci, a platforma InterSystems IRIS jej přirozeně podporuje prostřednictvím konstruktu "produkt-proces". Kromě neomezených možností pro "naplnění" každého procesu potřebnou funkcionalitou pro celkové řešení, dávání systému platformových procesů vlastnosti "agentnosti" umožňuje vytvářet efektivní řešení pro velmi nestabilní modelovaná jevy (chování sociálních/biologických systémů, částečně pozorovaných technologických procesů atd.).

Obrázek 16 Práce AI/ML řešení ve formě agentního systému obchodních procesů v InterSystems IRIS

Pokračujeme v našem přehledu InterSystems IRIS s příběhem o praktickém použití platformy k řešení celých tříd úloh v reálném čase (docela podrobné seznámení s některými nejlepšími postupy platformního AI/ML na InterSystems IRIS probíhá v jednom z našich předchozích článků. webinářů).

Na "horké stopy" předchozí diagramu je níže uveden podrobnější diagram agentního systému. Na diagramu je zobrazen stejný prototyp, viditelné jsou čtyři procesy-agenti, schematicky vykreslené vztahy mezi nimi: GENERATOR – zpracovává vytváření dat senzory zařízení, BUFFER – spravuje fronty dat, ANALYZER – provádí vlastní strojové učení, MONITOR – kontroluje kvalitu strojového učení a signalizuje potřebu opětovného školení modelu.

Obrázek 17 Kompozice AI/ML-řešení ve formě agentního systému obchodních procesů v InterSystems IRIS

Na diagramu níže je ilustrován autonomní provoz již jiného robotizovaného prototypu (rozpoznávání emocionálního zabarvení textů) po určitou dobu. V horní části – evoluce ukazatele kvality učení modelu (kvalita roste), ve spodní části – dynamika ukazatele kvality aplikace modelu a fakta opětovného školení (červené pruhy). Jak je vidět, řešení efektivně a autonomně se naučilo a funguje na požadované úrovni kvality (hodnoty ukazatele kvality neklesají pod 80 %).

Obrázek 18 Kontinuální (samo)učení (CT) na platformě InterSystems IRIS

O "auto-ML" jsme také zmínili dříve, ale na níže uvedeném diagramu je použití této funkce podrobně ukázáno na příkladu dalšího prototypu. Na grafickém schématu fragmentu podnikových procesů je znázorněna činnost, která spouští modelování ve stacku H2O, jsou zobrazeny výsledky tohoto modelování (výrazné dominování získaného modelu nad "ručními" modely podle srovnávacího diagramu ROC křivek, stejně jako automatizované odhalení "nejvíce vlivných proměnných" z dostupných v původním souboru dat). Důležitým bodem zde je úspora času a odborných zdrojů, které "auto-ML" zajišťuje: to, co náš platformní proces dělá za půl minuty (nalezení a školení optimálního modelu), může expertovi trvat od týdne do měsíce.

Obrázek 19 Integrace "auto-ML" do AI/ML řešení na platformě InterSystems IRIS

Diagram níže trochu "snižuje vyvrcholení", ale je to dobrá varianta zakončení příběhu o třídách řešených úloh v reálném čase: připomínáme, že i při všech možnostech platformy InterSystems IRIS není školení modelů pod jejím řízením povinné. Platforma může zvenku získat takzvanou PMML specifikaci modelu, kterou školil nástroj neovládaný platformou – a tuto modelu použít v reálném čase od okamžiku jejího importu. PMML specifikace. Přitom je důležité vzít v úvahu, že daleko ne všechny AI/ML artefakty mohou být převedeny na PMML specifikaci, i když většina nejběžnějších artefaktů to umožňuje. Tím pádem platforma InterSystems IRIS má "otevřený obvod" a neznamená "platformní otroctví" pro uživatele.

Obrázek 20 Integrace "auto-ML" do AI/ML řešení na platformě InterSystems IRIS

Vyjmenujme další platformní výhody InterSystems IRIS (pro názornost, aplikovatelné na řízení technologických procesů), které mají velký význam při automatizaci umělé inteligence a strojového učení v reálném čase:

• Rozvinuté nástroje pro integraci se všemi zdroji a spotřebiteli dat (ASUTP/SCADA, vybavení, TOP a R, ERP atd.)
• Vestavěná multimodální databáze pro vysoce výkonné hybridní transakčně-analytické zpracování (Hybrid Transaction/Analytical Processing, HTAP) jakýchkoli objemů dat technologických procesů
• Nástroje pro vývoj nepřetržitého nasazení mechanismů AI/ML v reálném čase založené na Pythonu, R, Julii
• Adaptivní podnikové procesy pro nepřetržité integraci a (sebe-)učení mechanismů AI/ML řešení v reálném čase
• Vestavěné nástroje Business Intelligence pro vizualizaci dat technologických procesů a výsledků práce AI/ML řešení
• Správa API pro přenos výsledků práce AI/ML řešení do řízení technologických procesů/SCADA, informačně-analytických systémů, rozesílání upozornění atd.

AI/ML řešení na platformě InterSystems IRIS se snadno integrují do stávající IT infrastruktury. Platforma InterSystems IRIS zajišťuje vysokou spolehlivost AI/ML řešení díky podpoře vysoce dostupných a katastrofálních konfigurací a flexibilnímu nasazení ve virtuálních prostředích, na fyzických serverech, v privátních a veřejných cloudech, v kontejnerech Docker.

Takže InterSystems IRIS je univerzální platforma pro AI/ML výpočty v reálném čase. Univerzálnost naší platformy je potvrzena v praxi absencí de-facto omezení složitosti implementovatelných výpočtů, schopností InterSystems IRIS kombinovat (v reálném čase) zpracování scénářů z nejrůznějších odvětví a výjimečnou přizpůsobitelností jakýchkoli funkcí a mechanismů platformy konkrétním potřebám uživatelů.

Obrázek 21 InterSystems IRIS — univerzální platforma pro AI/ML výpočty v reálném čase

Pro konkrétnější interakci s těmi z našich čtenářů, kteří se zajímají o zde předložený materiál, doporučujeme neomezovat se pouze na jeho přečtení a pokračovat v dialogu „živě“. Rádi poskytneme podporu při formulaci scénářů AI/ML v reálném čase aplikačně na specifika vaší společnosti, provedeme společné prototypování na platformě InterSystems IRIS, vytvoříme a zrealizujeme praktickou cestovní mapu zavedení umělé inteligence a strojového učení do vašich výrobních a obchodních procesů. Kontaktní e-mail na naši expertní skupinu AI/ML je MLToolkit@intersystems.com.

Zdroj: habr.com