Аўтар: Сяргей Лук'янчыкаў, інжынер-кансультант InterSystems
Выклікі AI/ML-вылічэнняў рэальнага часу
Пачнём з прыкладаў з досведу Data Science-практыкі кампаніі InterSystems:
- «Нагружаны» партал пакупніка падлучаны да анлайнавай рэкамендацыйнай сістэмы. Маецца быць рэструктурызацыя прома-акцый у маштабе раздробнай сеткі (дапусцім, замест «плоскай» лінейкі прома-акцый зараз будзе прымяняцца матрыца «сегмент-тактыка»). Што адбываецца з рэкамендацыйнымі механізмамі? Што адбываецца з падачай і актуалізацыяй дадзеных у рэкамендацыйны механізм (аб'ём уваходных дадзеных узрос у 25000 разоў)? Што адбываецца з выпрацоўкай рэкамендацый (неабходнасць тысячаразовага зніжэння парога фільтрацыі рэкамендацыйных правілаў у сувязі з тысячаразовым узрастаннем іх колькасці і "асартыменту")?
- Ёсць сістэма маніторынгу верагоднасці развіцця дэфектаў у вузлах абсталявання. Да сістэмы маніторынгу была падключана АСУТП, якая перадае тысячы параметраў тэхналагічнага працэсу штосекундна. Што адбываецца з сістэмай маніторынгу, якая раней працавала на «ручных выбарках» (ці здольная яна забяспечваць штосекундны маніторынг верагоднасці)? Што будзе адбывацца, калі ва ўваходных дадзеных з'яўляецца новы блок у некалькі сотняў калонак са сведчаннямі датчыкаў, нядаўна заведзеных у АСУТП (ці спатрэбіцца і як надоўга спыняць сістэму маніторынгу для ўключэння ў аналіз дадзеных ад новых датчыкаў)?
- Створаны комплекс AI/ML-механізмаў (рэкамендацыйныя, маніторынгавыя, прагнастычныя), якія выкарыстоўваюць вынікі працы адзін аднаго. Колькі чалавека-гадзін патрабуецца штомесяц для адаптацыі работы гэтага комплексу да змяненняў ва ўваходных даных? Якое агульнае "запаволенне" пры падтрымцы комплексам прыняцця кіраўніцкіх рашэнняў (частата ўзнікнення ў ім новай падтрымлівае інфармацыі адносна частаты ўзнікнення новых уваходных дадзеных)?
Рэзюмуючы гэтыя і мноства іншых прыкладаў, мы дашлі да фармулёвак тых выклікаў, якія ўзнікаюць пры пераходзе да выкарыстання механізмаў машыннага навучання і штучнага інтэлекту ў рэальным часе:
- Ці задавальняе нас аператыўнасць стварэння і адаптацыі (да якая змяняецца сітуацыі) AI/ML-распрацовак у нашай кампаніі?
- Наколькі выкарыстоўваныя намі AI/ML-рашэнні падтрымліваюць кіраванне бізнэсам у рэжыме рэальнага часу?
- Ці здольныя выкарыстоўваныя намі AI/ML-рашэнні самастойна (без распрацоўнікаў) адаптавацца да змен у дадзеных і ў практыцы кіравання бізнэсам?
Наш артыкул - гэта грунтоўны агляд магчымасцяў платформы InterSystems IRIS у частцы ўніверсальнай падтрымкі разгортвання AI/ML-механізмаў, зборкі (інтэграцыі) AI/ML-рашэнняў і навучанні (тэставанні) AI/ML-рашэнняў на інтэнсіўных струменях дадзеных. Мы звернемся да даследаванняў рынка, да практычных прыкладаў AI/ML-рашэнняў і канцэптуальных аспектаў таго, што мы завём у гэтым артыкуле AI/ML-платформай рэальнага часу.
Што вядома з апытанняў: прыкладанні рэальнага часу
Вынікі , Праведзенага сярод каля 800 ІТ-прафесіяналаў у 2019 годзе кампаніяй Lightbend, кажуць самі за сябе:
Малюнак 1 Лідзіруючыя спажыўцы дадзеных рэальнага часу
Працытуем важныя для нас фрагменты справаздачы аб выніках гэтага апытання ў нашым перакладзе:
«… Тэндэнцыі папулярнасці сродкаў інтэграцыі патокаў дадзеных і, адначасова, падтрымкі вылічэнняў у кантэйнерах даюць сінэргетычны водгук на запыт рынкам больш аператыўнай, рацыянальнай, дынамічнай прапановы эфектыўных рашэнняў. Струмені дадзеных дазваляюць хутчэй перадаць інфармацыю, чым традыцыйныя пакетныя дадзеныя. Да гэтага дадаецца магчымасць аператыўнага прымянення вылічальных метадаў, такіх як, напрыклад, заснаваныя на AI / ML рэкамендацыі, ствараючы канкурэнтныя перавагі за кошт росту задаволенасці кліенцкай аўдыторыі. Гонка за аператыўнасцю таксама ўплывае на ўсе ролі ў парадыгме DevOps падвышаючы эфектыўнасць распрацоўкі і разгортванні прыкладанняў. …Восемсот чатыры ІТ-спецыялісты падалі інфармацыю па выкарыстанні патокаў дадзеных у іх арганізацыях. Рэспандэнты знаходзіліся пераважна ў заходніх краінах (41% у Еўропе і 37% у Паўночнай Амерыцы) і былі практычна раўнамерна размеркаваны паміж малымі, сярэднімі і буйнымі кампаніямі. …
… Штучны інтэлект – не хайп. Пяцьдзесят восем працэнтаў тых, хто ўжо прымяняе апрацоўку патокаў дадзеных у прадуктыўных AI / ML-прыкладаннях, пацвярджаюць, што іх прымяненне ў AI / ML атрымае найбольшы прырост у наступным годзе (у параўнанні з іншымі праграмамі).
- Па меркаванні большасці апытаных, ужыванне струменяў дадзеных у сцэнарах AI/ML атрымае найвялікі прырост у наступным годзе.
- Ужыванне ў AI/ML будзе прырастаць не толькі за рахунак адносна новых тыпаў сцэнараў, але і за рахунак традыцыйных сцэнараў, у якіх дадзеныя рэальнага часу ўжываюцца ўсё інтэнсіўней.
- У дадатак да AI / ML, узровень энтузіязму сярод карыстальнікаў пайплайнаў IoT-дадзеных ўражвае – 48% з тых, хто ўжо інтэграваў IoT-дадзеныя, сцвярджаюць, што рэалізацыя сцэнарыяў на гэтых дадзеных атрымае істотны прырост у найбліжэйшай будучыні. … »
З гэтага даволі цікавага апытання відаць, што ўспрыманне сцэнарыяў машыннага навучання і штучнага інтэлекту як лідэраў спажывання струменяў дадзеных ужо "на падыходзе". Але не меней важным назіраннем становіцца і ўспрыманне AI/ML рэальнага часу праз оптыку DevOps: тут ужо можна пачынаць казаць аб трансфармацыі пануючай пакуль яшчэ культуры "аднаразовага AI/ML з цалкам даступным наборам дадзеных".
Канцэпцыя AI/ML-платформы рэальнага часу
Адной з тыповых абласцей ужывання AI/ML рэальнага часу з'яўляецца кіраванне тэхналагічнымі працэсамі на вытворчасці. На яе прыкладзе і з улікам папярэдніх разважанняў, сфармулюем канцэпцыю AI/ML-платформы рэальнага часу.
Выкарыстанне штучнага інтэлекту і машыннага навучання ў кіраванні тэхналагічнымі працэсамі мае шэраг асаблівасцяў:
- Дадзеныя аб стане тэхналагічнага працэсу паступаюць інтэнсіўна: з вялікай частатой і па шырокім спектры параметраў (аж да дзясяткаў тысяч значэнняў параметраў, якія перадаюцца ў секунду з АСУТП)
- Дадзеныя аб выяўленні дэфектаў, не кажучы ўжо пра дадзеныя аб іх развіцці, наадварот, бедныя і нерэгулярныя, характарызуюцца недастатковасцю тыпізацыі дэфектаў і іх лакалізацыі ў часе (часта, прадстаўлены запісамі на папяровым носьбіце)
- З практычнага пункта гледжання, для навучання і ўжыванні мадэляў даступна толькі «акно актуальнасці» зыходных дадзеных, якое адлюстроўвае дынаміку тэхналагічнага працэсу за разумны слізгальны інтэрвал, які сканчаецца апошнімі лічанымі значэннямі параметраў працэсу
Гэтыя асаблівасці прымушаюць нас, апроч прыёму і базавай апрацоўкі ў рэальным часе інтэнсіўнага «шырокапалоснага ўваходнага сігналу» ад тэхналагічнага працэсу, выконваць (раўналежна) ужыванне, навучанне і кантроль якасці вынікаў працы AI/ML-мадэляў – таксама ў рэжыме рэальнага часу. Той "кадр", які нашы мадэлі "бачаць" у слізгальным акне актуальнасці, увесь час змяняецца – а разам з ім змяняецца і якасць вынікаў працы AI/ML-мадэляў, навучаных на адным з "кадраў" у мінулым. Пры пагаршэнні якасці вынікаў працы AI/ML-мадэляў (напрыклад: значэнне памылкі класіфікацыі «трывога-норма» выйшла за вызначаныя намі межы) павінна аўтаматычна быць запушчана данавучанне мадэляў на больш актуальным «кадры» - і выбар моманту для запуску данавучання мадэляў павінен улічваць як працягласць самога навучання, так і дынаміку пагаршэння якасці працы бягучай версіі мадэляў (бо бягучыя версіі мадэляў працягваюць прымяняцца, пакуль мадэлі навучаюцца, і пакуль не будуць сфарміраваны іх «нанова навучаныя» версіі).
InterSystems IRIS валодае ключавымі платформеннымі магчымасцямі для забеспячэння працы AI / ML-рашэнняў пры кіраванні тэхналагічнымі працэсамі ў рэжыме рэальнага часу. Гэтыя магчымасці можна падзяліць на тры асноўныя групы:
- Бесперапыннае разгортванне (Continuous Deployment/Delivery, CD) новых або адаптаваных існуючых AI/ML-механізмаў у прадуктыўнае рашэнне, якое функцыянуе ў рэжыме рэальнага часу на платформе InterSystems IRIS
- Бесперапынная інтэграцыя (Continuous Integration, CI) у адзінае прадуктыўнае рашэнне ўваходных струменяў дадзеных тэхналагічнага працэсу, чэргаў дадзеных для ўжывання/навучання/кантролю якасці працы AI/ML-механізмаў і абменаў дадзенымі/кодам/кіравальнымі ўздзеяннямі з асяроддзямі матэматычнага мадэлявання, аркестроўку якіх ажыццяўляе ў рэальным часе платформа InterSystems IRIS
- Бесперапыннае (сама-)навучанне (Continuous Training, CT) AI/ML-механізмаў, выкананае ў асяроддзях матэматычнага мадэлявання з выкарыстаннем дадзеных, кода і кіраўнікоў уздзеянняў («прыманых рашэнняў»), якія перадаюцца платформай InterSystems IRIS
Класіфікацыя платформенных магчымасцяў у дачыненні да машыннага навучання і штучнага інтэлекту менавіта па такіх групах невыпадковая. Працытуем метадалагічную кампаніі Google, у якой падводзіцца канцэптуальная аснова пад гэтую класіфікацыю, у нашым перакладзе:
«… Папулярная ў нашыя дні канцэпцыя DevOps ахоплівае распрацоўку і эксплуатацыю маштабных інфармацыйных сістэм. Перавагамі ўкаранення гэтай канцэпцыі становяцца скарачэнне працягласці цыклаў распрацоўкі, паскарэнне разгортвання распрацовак, гнуткасць планавання рэлізаў. Для атрымання гэтых пераваг DevOps мяркуе ўкараненне, прынамсі, двух практык:
- Бесперапынная інтэграцыя (CI)
- Бесперапынная дастаўка (CD)
Гэтыя практыкі таксама дастасавальныя і да AI/ML-платформам – у мэтах забеспячэння надзейнай і прадукцыйнай зборкі прадуктыўных AI/ML-рашэнняў.
AI/ML-платформы адрозніваюцца ад астатніх інфармацыйных сістэм у наступных аспектах:
- Кампетэнцыі каманды: пры стварэнні AI/ML-рашэнні, каманда звычайна ўключае дата-саентыстаў ці экспертаў-«акадэмікаў» у галіне даследавання дадзеных, якія праводзяць аналіз дадзеных, распрацоўку і апрабацыю мадэляў. Гэтыя ўдзельнікі каманды могуць і не быць прафесійнымі распрацоўшчыкамі прадуктыўнага праграмнага кода.
- Распрацоўка: AI/ML-механізмы эксперыментальныя па сваёй прыродзе. Для таго, каб вырашыць задачу найболей эфектыўным шляхам, патрабуецца перабраць розныя камбінацыі ўваходных зменных, алгарытмаў, спосабаў мадэлявання і параметраў мадэлі. Складанасць такога перабору заключаецца ў трасіроўцы «што спрацавала/не спрацавала», забеспячэнні ўзнаўляльнасці эпізодаў, генералізацыі распрацовак для паўторных укараненняў.
- Тэставанне: тэсціраванне AI/ML-механізмаў патрабуе большага спектру тэстаў, чым большасць іншых распрацовак. У дадатак да тыпавых модульных і інтэграцыйных тэстаў тэстуюцца валіднасць дадзеных, якасць вынікаў прымянення мадэлі да навучальных і кантрольных выбарак.
- Разгортванне: разгортванне AI/ML-рашэнняў не зводзіцца да прэдыктыўных сэрвісаў, якія ўжываюць аднойчы навучаную мадэль. AI/ML-рашэнні будуюцца вакол шматэтапных пайплайнаў, якія выконваюць аўтаматызаванае навучанне і ўжыванне мадэляў. Разгортванне такіх пайплайнаў мае на ўвазе аўтаматызацыю нетрывіяльных дзеянняў, традыцыйна выкананых дата-саентистами ўручную для таго, каб атрымаць магчымасць навучыць і пратэставаць мадэлі.
- Прадуктыў: AI/ML-механізмам можа бракаваць прадукцыйнасці не толькі з-за неэфектыўнага праграмавання, але і з прычыны стала зменлівага характару ўваходных дадзеных. Інакш кажучы, прадукцыйнасць AI/ML-механізмаў можа дэградаваць у сувязі з шырэйшым спектрам чыннікаў, чым прадукцыйнасць звычайных распрацовак. Што прыводзіць да неабходнасці маніторынгу (у рэжыме «анлайн») прадукцыйнасці нашых AI/ML-механізмаў, а таксама рассыланні абвестак ці адбракоўкі вынікаў, калі паказчыкі прадукцыйнасці не адпавядаюць чаканням.
AI/ML-платформы падобныя з іншымі інфармацыйнымі сістэмамі ў тым, што і тым, і іншым неабходна бесперапынная інтэграцыя кода з кантролем версій, модульнае тэсціраванне, інтэграцыйнае тэсціраванне, бесперапыннае разгортванне распрацовак. Тым не менш, у выпадку з AI/ML, ёсць некалькі важных адрозненняў:
- CI (Continuous Integration, бесперапынная інтэграцыя) больш не абмяжоўваецца тэсціраваннем і валідацыяй кода разгортваюцца кампанент – да яе таксама адносіцца тэсціраванне і валідацыя дадзеных і AI / ML-мадэляў.
- CD (Continuous Delivery/Deployment, бесперапыннае разгортванне) не зводзіцца да напісання і рэлізам пакетаў ці сэрвісаў, а мае на ўвазе платформу для кампазіцыі, навучанні і ўжыванні AI/ML-рашэнняў.
- CT (Continuous Training, бесперапыннае навучанне) - новы элемент [заўв. аўтара артыкула: новы элемент у адносінах да традыцыйнай канцэпцыі DevOps, у якой CT гэта, як правіла, Continuous Testing], уласцівы AI/ML-платформам, які адказвае за аўтаномнае кіраванне механізмамі навучання і ўжыванні AI/ML-мадэляў. …»
Мы можам канстатаваць, што машыннае навучанне і штучны інтэлект, якія працуюць на дадзеных рэальнага часу, патрабуюць шырэйшага набору прылад і кампетэнцый (ад распрацоўкі кода да аркестроўкі асяроддзяў матэматычнага мадэлявання), больш цеснай інтэграцыі паміж усімі функцыянальнымі і прадметнымі абласцямі, больш эфектыўнай арганізацыі чалавечых і машынных рэсурсаў.
Сцэнар рэальнага часу: распазнанне развіцця дэфектаў у пажыўных помпах.
Працягваючы выкарыстоўваць у якасці прыкладу вобласць кіравання тэхналагічнымі працэсамі, разгледзім пэўную задачу (ужо згадвалася намі ў самым пачатку): патрабуецца забяспечыць у рэальным часе маніторынг развіцця дэфектаў у помпах на аснове струменя значэнняў параметраў тэхналагічнага працэсу і справаздач рамонтнага персанала аб выяўленых дэфектах.
Малюнак 2 Фармулёўка задачы па маніторынгу развіцця дэфектаў
Асаблівасцю большасці падобнай выявай пастаўленых задач на практыку з'яўляецца тое, што рэгулярнасць і аператыўнасць паступлення дадзеных (АСУТП) павінны разглядацца на фоне эпізадычнасці і нерэгулярнасці ўзнікнення (і рэгістрацыі) дэфектаў розных тыпаў. Іншымі словамі: дадзеныя з АСУТП прыходзяць раз у секунду правільныя-дакладныя, а аб дэфектах робяцца запісы хімічным алоўкам з указаннем даты ў агульным сшытку ў цэху (напрыклад: «12.01/3 – цечу ў вечка з боку XNUMX-га падшыпніка»).
Такім чынам, можна дапоўніць фармулёўку задачы наступным важным абмежаваннем: "пазнака" дэфекту канкрэтнага тыпу ў нас усяго адна (т. е. прыклад дэфекту пэўнага тыпу прадстаўлены дадзенымі з АСУТП на пэўную дату - і больш прыкладаў дэфекту менавіта гэтага тыпу ў нас няма). Дадзенае абмежаванне адразу выводзіць нас за рамкі класічнага машыннага навучання (supervised learning), для якога "пазнак" павінна быць шмат.
Малюнак 3 Удакладненне задачы па маніторынгу развіцця дэфектаў
Ці можам мы нейкім чынам "размножыць" наяўную ў нашым распараджэнні адзіную "пазнаку"? Так, можам. Бягучы стан помпы характарызуецца ступенню падабенства зарэгістраваным дэфектам. Нават без ужывання колькасных метадаў, на ўзроўні глядзельнага ўспрымання, назіраючы за дынамікай значэнняў дадзеных, якія прыбываюць з АСУТП, ужо можна шматлікае запазычыць:
Малюнак 4 Дынаміка стану помпы на фоне "пазнакі" дэфекту зададзенага тыпу
Але глядзельнае ўспрыманне (прынамсі, пакуль) – не самы падыходны генератар «пазнак» у нашым хуткамяняльным сцэнары. Мы будзем ацэньваць падабенства бягучага стану помпы зарэгістраваным дэфектам пры дапамозе статыстычнага цеста.
Малюнак 5 Ужыванне статыстычнага тэсту да абітурыентаў на фоне «пазнакі» дэфекту
Статыстычны тэст вызначае верагоднасць таго, што запісы са значэннямі параметраў тэхналагічнага працэсу ў атрыманым з АСУТП «струмень-пакеце» падобныя запісам «пазнакі» дэфекту вызначанага тыпу. Вылічанае ў выніку прымянення статыстычнага тэсту значэнне верагоднасці (індэкс статыстычнага падабенства) пераўтворыцца да значэння 0 або 1, становячыся "пазнакай" для машыннага навучання ў кожным канкрэтным запісе ў доследным накшталт пакеце. Т. е. пасля апрацоўкі ізноў які паступіў да нас пакета запісаў стану помпы статыстычным тэстам у нас з'яўляецца магчымасць (а) дадаць дадзены пакет у навучальную выбарку для навучання AI/ML-мадэлі і (бы) ажыццявіць кантроль якасці працы бягучай версіі мадэлі пры яе ўжыванні да дадзенага пакета.
Малюнак 6 Ужыванне мадэлі машыннага навучання да абітурыентаў на фоне «пазнакі» дэфекту
У адным з нашых папярэдніх мы паказваем і тлумачым, якім чынам платформа InterSystems IRIS дазваляе рэалізаваць любы AI/ML-механізм у выглядзе бесперапынна выкананых бізнэс-працэсаў, якія здзяйсняюць кантроль дакладнасці вынікаў мадэлявання і што адаптуюць параметры мадэляў. Пры рэалізацыі прататыпа нашага сцэнара з помпамі мы выкарыстоўваем увесь прадстаўлены падчас вебинара функцыянал InterSystems IRIS – імплементуючы ў працэсе-аналізатары ў складзе нашага рашэння не класічны supervised learning, а хутчэй навучанне з падмацаваннем (reinforcement learning), аўтаматычна кіравальнае выбаркай для навучання мадэляў. У выбарку для навучання змяшчаюцца запісы, на якіх узнікае "кансенсус дэтэкцыі" пасля прымянення і статыстычнага тэсту, і бягучай версіі мадэлі - г.зн. і статыстычны тэст (пасля трансфармацыі індэкса падабенства да 0 або 1), і мадэль выдалі на такіх запісах вынік 1. Пры новым навучанні мадэлі, пры яе валідацыі (нанова навучаная мадэль прымяняецца да ўласнай навучальнай выбаркі, з папярэднім прымяненнем да яе ж статыстычнага тэсту), запісы, «не ўтрыманыя» пасля апрацоўкі статыстычным тэстам вынік 1 (з-за пастаяннай прысутнасці ў навучальнай выбарцы запісаў з першапачатковай пазнакі дэфекту), з навучальнай выбаркі выдаляюцца, і новая версія мадэлі вучыцца на пазнацы дэфекту плюс на якія ўтрымаліся запісах з струменя.
Малюнак 7 Рабатызацыя AI/ML-вылічэнняў у InterSystems IRIS
У выпадку, калі ўзнікае запатрабаванне ў сваё роды «другім меркаванні» па якасці дэтэкцыі, атрымоўванай пры лакальных вылічэннях у InterSystems IRIS, ствараецца працэс-дарадца для выканання навучання-ужыванні мадэляў на кантрольнай датасеце з дапамогай хмарных сэрвісаў (напрыклад Microsoft Azure, Amazon Web Services , Google Cloud Platform і г.д.):
Малюнак 8 «Другое меркаванне» з Microsoft Azure пад аркестроўкай InterSystems IRIS
Прататып нашага сцэнара ў InterSystems IRIS выкананы ў выглядзе агентнай сістэмы аналітычных працэсаў, якія ажыццяўляюць узаемадзеянні з аб'ектам абсталявання (помпай), асяроддзямі матэматычнага мадэлявання (Python, R і Julia), і забяспечваюць саманавучанне ўсіх задзейнічаных AI / ML-механізмаў - на патоках дадзеных рэальнага часу .
Малюнак 9 Асноўны функцыянал AI/ML-рашэнні рэальнага часу ў InterSystems IRIS
Практычны вынік працы нашага прататыпа:
- Распазнаны мадэллю ўзор дэфекту (12 студзеня):
- Распазнаны мадэллю які развіваецца дэфект, не які ўвайшоў у ўзор (11 верасня, сам дэфект быў канстатаваны рамонтнай брыгадай толькі праз двое сутак – 13 верасня):
Імітацыя на рэальных дадзеных, якія змяшчаюць некалькі эпізодаў аднаго і таго ж дэфекту, паказала, што наша рашэнне, рэалізаванае на платформе InterSystems IRIS, дазваляе выявіць развіццё дэфектаў дадзенага тыпу за некалькі сутак да моманту іх выяўлення рамонтнай брыгадай.
InterSystems IRIS - універсальная платформа AI / ML-вылічэнняў рэальнага часу
Платформа InterSystems IRIS спрашчае распрацоўку, разгортванне і эксплуатацыю рашэнняў на дадзеных рэальнага часу. InterSystems IRIS здольна адначасова выконваць транзакцыйную і аналітычную апрацоўку дадзеных; падтрымліваць сінхранізаваныя прадстаўленні даных у адпаведнасці з некалькімі мадэлямі (у тым ліку рэляцыйнай, іерархічнай, аб'ектнай і дакументнай); выступаць платформай інтэграцыі шырокага спектра крыніц дадзеных і асобных дадаткаў; забяспечваць развітую аналітыку ў рэальным часе на структураваных і неструктураваных дадзеных. InterSystems IRIS таксама дае механізмы для прымянення знешняга аналітычнага інструментарыя, дазваляе гнутка спалучаць размяшчэнне ў воблаку і на лакальных серверах.
Прыкладанні, пабудаваныя на платформе InterSystems IRIS, укаранёны ў розных галінах, дапамагаючы кампаніям атрымліваць істотны эканамічны эфект у стратэгічнай і аперацыйнай перспектывах, падвышаючы інфармаванасць прыняцця рашэнняў і ухіляючы "зазоры" паміж падзеяй, аналізам і дзеяннем.
Малюнак 10 Архітэктура InterSystems IRIS у кантэксце AI/ML рэальнага часу
Як і папярэдняя дыяграма, ніжэйпрыведзеная дыяграма спалучае новую "сістэму каардынат" (CD/CI/CT) са схемай струменяў інфармацыі паміж працоўнымі элементамі платформы. Візуалізацыя пачынаецца з макрамеханізму CD і працягваецца макрамеханізмамі CI і СТ.
Малюнак 11 Схема патокаў інфармацыі паміж AI / ML-элементамі платформы InterSystems IRIS
Сутнасць механізму CD у InterSystems IRIS: карыстачы платформы (распрацоўнікі AI/ML-рашэнняў) адаптуюць ужо наяўныя і/ці ствараюць новыя AI/ML-распрацоўкі з ужываннем спецыялізаванага рэдактара праграмнага кода AI/ML-механізмаў: Jupyter (поўнае найменне: Jupyter Notebook; гэтак жа, для сцісласці, часам завуцца і дакументы, створаныя ў дадзеным рэдактары). У Jupyter распрацоўшчык мае магчымасць напісаць, адладзіць і пераканацца ў працаздольнасці (у тым ліку, з выкарыстаннем графікі) канкрэтнай AI/ML-распрацоўкі да яе размяшчэння ("разгортвання") у InterSystems IRIS. Зразумела, што ствараная такім чынам новая распрацоўка будзе атрымліваць толькі базавую адладку (т. да., у прыватнасці, Jupyter не працуе са струменямі дадзеных рэальнага часу) - гэта ў парадку рэчаў, бо асноўным вынікам распрацоўкі ў Jupyter становіцца пацверджанне прынцыповай працаздольнасці асобнага AI/ ML-механізму ("на выбарцы дадзеных паказвае чаканы вынік"). Аналагічнай выявай, ужо змесцаваны ў платформу механізм (гл. наступныя макрамеханізмы) перад адладкай у Jupyter можа запатрабаваць «адкату» да «даплатформеннага» выгляду (чытанне дадзеных з файлаў, праца з дадзенымі праз xDBC замест табліц, непасрэднае ўзаемадзеянне з глобаламі – шматмернымі масівамі дадзеных InterSystems IRIS - і т. п.).
Важны аспект імплементацыі CD менавіта ў InterSystems IRIS: паміж платформай і Jupyter рэалізавана двунакіраваная інтэграцыя, якая дазваляе пераносіць у платформу (і, у далейшым, апрацоўваць у платформе) кантэнт на мовах Python, R і Julia (усе тры з'яўляюцца мовамі праграмавання ў адпаведных вядучых open- source асяроддзях матэматычнага мадэлявання). Такім чынам, распрацоўшчыкі AI/ML-кантэнту маюць магчымасць ажыццяўляць "бесперапыннае разгортванне" гэтага кантэнту ў платформе, працуючы ў звыклым ім рэдактары Jupyter, са звыклымі бібліятэкамі, даступнымі ў Python, R, Julia, і выконваючы базавую адладку (пры неабходнасці) па-за платформай .
Пераходзім да макрамеханізму CI у InterSystems IRIS. На дыяграме намаляваны макрапрацэс працы "рабатызатара рэальнага часу" (комплекс са структур дадзеных, бізнес-працэсаў і аркестраваных імі фрагментаў кода на мовах матасяроддзя і мове ObjectScript – натыўнай мове распрацоўкі InterSystems IRIS). Задача гэтага макрапрацэсу: падтрымліваць неабходныя для працы AI/ML-механізмаў чэргі дадзеных (на аснове струменяў дадзеных, якія перадаюцца платформе ў рэальным часе), прымаць рашэнні аб паслядоўнасці ўжывання і "асартыменту" механізмаў AI/ML (яны ж "матэматычныя алгарытмы", " мадэлі» і т. д. – могуць звацца па-рознаму ў залежнасці ад канкрэтыкі рэалізацыі і ад тэрміналагічных пераваг), падтрымліваць у актуальным стане структуры дадзеных для аналізу вынікаў працы AI/ML-механізмаў (кубы, табліцы, шматмерныя масівы дадзеных і т.д. д. – для справаздач, дэшбордаў і г. д.).
Важны аспект імплементацыі CI менавіта ў InterSystems IRIS: паміж платформай і асяроддзямі матэматычнага мадэлявання рэалізаваная двунакіраваная інтэграцыя, якая дазваляе выконваць размешчаны ў платформе кантэнт на мовах Python, R і Julia у іх адпаведных асяроддзях з атрыманнем зваротна вынікаў выканання. Гэтая інтэграцыя рэалізавана як у «рэжыме тэрмінала» (т. е. AI/ML-кантэнт фармулюецца як код на ObjectScript, які здзяйсняе выклікі матасяроддзя), так і ў «рэжыме бізнэс-працэсу» (т. е. AI/ML-кантэнт фармулюецца як бізнэс-працэс пры дапамозе графічнага рэдактара, ці часам пры дапамозе Jupyter, ці пры дапамозе IDE – IRIS Studio, Eclipse, Visual Studio Code). Даступнасць бізнес-працэсаў для рэдагавання ў Jupyter адлюстравана пры дапамозе сувязі паміж IRIS на ўзроўні CI і Jupyter на ўзроўні CD. Больш дэталёвы агляд інтэграцыі са асяроддзямі матэматычнага мадэлявання вырабляецца далей. На дадзеным этапе, на наш погляд, ёсць усе падставы для таго, каб зафіксаваць наяўнасць у платформе ўсіх неабходных прылад для рэалізацыі "бесперапыннай інтэграцыі" AI/ML-распрацовак (якія прыходзяць з "бесперапыннага разгортвання") у AI/ML-рашэнні рэальнага часу.
І галоўны макрамеханізм: CT. Без яго не атрымаецца AI/ML-платформы (хоць "рэальны час" і будзе імплементавана праз CD/CI). Сутнасцю CT з'яўляецца праца платформы з «артэфактамі» машыннага навучання і штучнага інтэлекту непасрэдна ў працоўных сесіях асяроддзяў матэматычнага мадэлявання: мадэлямі, табліцамі размеркаванняў, вектарамі-матрыцамі, пластамі нейрасетак і да т.п. Дадзеная "праца", у большасці выпадкаў, складаецца ў стварэнні згаданых артэфактаў у асяроддзях (у выпадку мадэляў, напрыклад, "стварэнне" складаецца з задання спецыфікацыі мадэлі і наступнага падбору значэнняў яе параметраў - так званага "навучання" мадэлі), іх ужыванні (для мадэляў: разлік пры іх дапамозе «мадэльных» значэнняў мэтавых зменных - прагнозаў, прыналежнасці да катэгорыі, верагоднасці наступлення падзеі і да т.п.) і ўдасканаленні ўжо створаных і ўжытых артэфактаў (напрыклад, перавызначэнне набору ўваходных зменных мадэлі па выніках прымянення - у мэтах павышэння дакладнасці прагназавання, як варыянт). Ключавым момантам у разуменні ролі CT з'яўляецца яго "абстрагаванасць" ад рэалій CD і CI: CT будзе імплементаваць усе артэфакты, арыентуючыся на вылічальную і матэматычную спецыфіку AI / ML-рашэнні ў рамках магчымасцяў, якія прадстаўляюцца канкрэтнымі асяроддзямі. Адказнасць за "забеспячэнне ўваходнымі дадзенымі" і "дастаўку вынікаў" будуць несці CD і CI.
Важны аспект імплементацыі CT менавіта ў InterSystems IRIS: карыстаючыся ўжо згаданай вышэй інтэграцыяй з асяроддзямі матэматычнага мадэлявання, платформа мае магчымасць здабываць з працоўных сесій, якія праходзяць пад яе кіраваннем у матасяроддзях, тыя самыя артэфакты і (самае важнае) ператвараць іх у аб'екты дадзеных. Напрыклад, табліца размеркавання, якая стварылася толькі што ў працоўнай сесіі Python можа быць (без прыпынку сесіі ў Python) перанесена ў платформу ў выглядзе, напрыклад, глобала (шматмернага масіва дадзеных InterSystems IRIS), – і скарыстана для вылічэнняў у іншым AI/ML- механізме (рэалізаваным ужо на мове іншага асяроддзя - напрыклад, на R) - або віртуальнай табліцы. Іншы прыклад: у паралель са «штатным рэжымам» працы мадэлі (у працоўнай сесіі Python), на яе ўваходных дадзеных ажыццяўляецца «аўта-ML»: аўтаматычны падбор аптымальных уваходных зменных і значэнняў параметраў. І разам са «штатным» навучаннем, прадуктыўная мадэль у рэжыме рэальнага часу атрымлівае яшчэ і «прапанову па аптымізацыі» сваёй спецыфікацыі – у якой змяняецца набор уваходных зменных, мяняюцца значэнні параметраў (ужо не ў выніку навучання ў Python, а ў выніку навучання «альтэрнатыўнай» »версіі яе самой, напрыклад, у стэку H2O), дазваляючы агульнаму AI/ML-рашэнні аўтаномна спраўляцца з непрадбачанымі зменамі ў характары ўваходных дадзеных і мадэляваных з'яў.
Пазнаёмімся больш падрабязна з платформенным AI/ML-функцыяналам InterSystems IRIS, на прыкладзе рэальна існага прататыпа.
На ніжэйпрыведзенай дыяграме, у левай частцы слайда - частка бізнес-працэсу, якая імплементуе адпрацоўку скрыптоў на Python і R. У цэнтральнай частцы - візуальныя логі выканання некаторых з гэтых скрыптоў, адпаведна, на Python і на R. Адразу за імі - прыклады кантэнту на адным і іншай мове, перададзеныя на выкананне ў адпаведныя асяроддзя. У канцы справа - візуалізацыі, заснаваныя на выніках выканання скрыптоў. Візуалізацыі ўверсе – зроблены на IRIS Analytics (дадзеныя забраныя з Python у платформу дадзеных InterSystems IRIS і выведзены на дэшборд сродкамі платформы), унізе – зроблены прама ў працоўнай сесіі R і выведзены адтуль у графічныя файлы. Важны аспект: прадстаўлены фрагмент у прататыпе адказвае за навучанне мадэлі (класіфікацыя станаў абсталявання) на дадзеных, якія паступаюць у рэальным часе ад працэсу-імітатара абсталявання, па камандзе ад працэсу-манітора якасці класіфікацыі, назіранага падчас ужывання мадэлі. Аб імплементацыі AI/ML-рашэнні ў выглядзе набору якія ўзаемадзейнічаюць працэсаў («агентаў») прамова пайдзе далей.
Малюнак 12 Узаемадзеянне з Python, R і Julia ў InterSystems IRIS
Платформенныя працэсы (яны ж "бізнэс-працэсы", "аналітычныя працэсы", "пайплайны" і да т.п. - у залежнасці ад кантэксту), перш за ўсё, рэдагуемыя ў графічным рэдактары бізнес-працэсаў у самой платформе, прычым такім чынам, што ствараюцца адначасова і яго блок-схема, і які адпавядае AI/ML-механізм (праграмны код). Гаворачы аб тым, што "атрымліваецца AI/ML-механізм", мы першапачаткова маем на ўвазе гібрыднасць (у рамках аднаго працэсу): кантэнт на мовах асяроддзяў матэматычнага мадэлявання суседнічае з кантэнтам на SQL (у т. ч., з пашырэннямі ад ), на InterSystems ObjectScript, з іншымі падтрымліваемымі мовамі. Больш за тое, платформавы працэс дае вельмі шырокія магчымасці для "адмалёўкі" у выглядзе іерархічна ўкладзеных фрагментаў (як відаць у прыкладзе на прыведзенай ніжэй дыяграме), што дазваляе эфектыўна арганізоўваць нават вельмі складаны кантэнт, нідзе не "выпадаючы" з графічнага фармату (у "неграфічныя" » метады / класы / працэдуры і да т. п.). Т. е. пры неабходнасці (а яна прадбачыцца ў большасці праектаў) абсалютна ўсё AI/ML-рашэнне можа быць імплементавана ў графічным самадукаментаваным фармаце. Звяртаем увагу на тое, што ў цэнтральнай частцы ніжэйпрыведзенай дыяграмы, на якой прадстаўлены больш высокі «ўзровень укладзенасці», відаць, што акрамя ўласна працы па навучанні мадэлі (пры дапамозе Python і R), дадаецца аналіз так званай ROC-крывой навучанай мадэлі, які дазваляе візуальна (і вылічальна таксама) ацаніць якасць навучання - і гэты аналіз рэалізаваны на мове Julia (выконваецца, адпаведна, у матасяроддзі Julia).
Малюнак 13 Візуальнае асяроддзе кампазіцыі AI/ML-рашэнняў у InterSystems IRIS
Як ужо згадвалася раней, пачатковая распрацоўка і (у шэрагу выпадкаў) адаптацыя ўжо імплементаваных у платформе AI/ML-механізмаў будзе/можа вырабляцца па-за платформай у рэдактары Jupyter. На дыяграме ніжэй мы бачым прыклад адаптацыі існага платформавага працэсу (таго ж, што і на дыяграме вышэй) такім чынам выглядае ў Jupyter той яго фрагмент, які адказвае за навучанне мадэлі. Кантэнт на мове Python даступны для рэдагавання, адладкі, вываду графікі прама ў Jupyter. Змены (пры неабходнасці) могуць вырабляцца з імгненнай сінхранізацыяй у платформавы працэс, у т. ч. у яго прадуктыўную версію. Аналагічнай выявай можа перадавацца ў платформу і новы кантэнт (аўтаматычна фармуецца новы платформавы працэс).
Малюнак 14 Ужыванне Jupyter Notebook для рэдагавання AI/ML-механізму ў платформе InterSystems IRIS
Адаптацыя платформавага працэсу можа выконвацца не толькі ў графічным ці наўтбучным фармаце - але і ў "татальным" фармаце IDE (Integrated Development Environment). Такімі IDE выступаюць IRIS Studio (натыўная студыя IRIS), Visual Studio Code (пашырэнне InterSystems IRIS для VSCode) і Eclipse (убудова Atelier). У шэрагу выпадкаў магчыма адначасовае выкарыстанне камандай распрацоўшчыкаў усіх трох IDE. На дыяграме ніжэй паказаны прыклад рэдагавання ўсё таго ж працэсу ў студыі IRIS, у Visual Studio Code і ў Eclipse. Для рэдагавання даступны абсалютна ўвесь кантэнт: і Python/R/Julia/SQL, і ObjectScript, і бізнэс-працэс.
Малюнак 15 Распрацоўка бізнес-працэсу InterSystems IRIS у розных IDE
Асобнага згадвання заслугоўваюць сродкі апісання і выкананні бізнэс-працэсаў InterSystems IRIS на мове Business Process Language (BPL). BPL дае магчымасць выкарыстоўваць у бізнес-працэсах "гатовыя інтэграцыйныя кампаненты" (activities) – што, уласна кажучы, і дае поўныя падставы сцвярджаць, што ў InterSystems IRIS рэалізавана "бесперапынная інтэграцыя". Гатовыя кампаненты бізнес-працэсу (актыўнасці і сувязі паміж імі) з'яўляюцца наймагутным акселератарам зборкі AI / ML-рашэнні. І не толькі зборкі: дзякуючы актыўнасцям і сувязям паміж імі над разрозненымі AI/ML-распрацоўкамі і механізмамі ўзнікае «аўтаномны кіраўнічы пласт», здольны прымаць рашэнні па сітуацыі, у рэальным часе.
Малюнак 16 Гатовыя кампаненты бізнес-працэсаў для бесперапыннай інтэграцыі (CI) на платформе InterSystems IRIS
Канцэпцыя агентных сістэм (яны ж "мультыагентныя сістэмы") мае моцныя пазіцыі ў рабатызацыі, і платформа InterSystems IRIS арганічна яе падтрымлівае праз канструкт "прадукцыя-працэс". Апроч неабмежаваных магчымасцяў для «начыння» кожнага працэсу неабходным для агульнага рашэння функцыяналам, надзяленне сістэмы платформенных працэсаў уласцівасцю «агентнасці» дазваляе ствараць эфектыўныя рашэнні для вельмі нестабільных мадэляваных з'яў (паводзіны сацыяльных/біясістэм, часткова назіраных тэхналагічных працэсаў і т. п.).
Малюнак 16 Праца AI/ML-рашэнні ў выглядзе агентнай сістэмы бізнес-працэсаў у InterSystems IRIS
Мы працягваем наш агляд InterSystems IRIS аповедам аб прыкладным выкарыстанні платформы для вырашэння цэлых класаў задач рэальнага часу (даволі падрабязнае знаёмства з некаторымі лепшымі практыкамі платформеннага AI/ML на InterSystems IRIS адбываецца ў адным з нашых папярэдніх ).
Па «гарачых слядах» папярэдняй дыяграмы, ніжэй прыведзена больш падрабязная дыяграма агентнай сістэмы. На дыяграме намаляваны ўсё той жа прататып, бачныя ўсе чатыры працэсу-агента, схематычна адмаляваныя ўзаемаадносіны паміж імі: GENERATOR - адпрацоўвае стварэнне дадзеных датчыкамі абсталявання, BUFFER - кіруе чэргамі дадзеных, ANALYZER - выконвае ўласна машыннае навучанне, MONITOR - кантралюе якасць машыннага навучання і падае сігнал аб неабходнасці паўторнага навучання мадэлі.
Малюнак 17 Кампазіцыя AI/ML-рашэнні ў выглядзе агентнай сістэмы бізнес-працэсаў у InterSystems IRIS
На дыяграме ніжэй праілюстравана аўтаномнае функцыянаванне ўжо іншага рабатызаваных прататыпа (распазнанне эмацыйнай афарбоўкі тэкстаў) на працягу некаторага часу. У верхняй частцы - эвалюцыя паказчыка якасці навучання мадэлі (якасць расце), у ніжняй частцы - дынаміка паказчыка якасці прымянення мадэлі і факты паўторнага навучання (чырвоныя палоскі). Як можна бачыць, рашэнне эфектыўна і аўтаномна саманавучылася, і працуе на зададзеным узроўні якасці (значэнні паказчыка якасці не падаюць ніжэй за 80%).
Малюнак 18 Бесперапыннае (сама-)навучанне (CT) на платформе InterSystems IRIS
Аб аўта-ML мы таксама згадвалі раней, але на нижеприведенной дыяграме ўжыванне дадзенага функцыяналу паказана ў падрабязнасцях на прыкладзе яшчэ аднаго прататыпа. На графічнай схеме фрагмента бізнес-працэсу паказана актыўнасць, якая запускае мадэляванне ў стэку H2O, паказаны вынікі гэтага мадэлявання (яўнае дамінаванне атрыманай мадэлі над "рукатворнымі" мадэлямі, паводле параўнальнай дыяграме ROC-крывых, а таксама аўтаматызаванае выяўленне "найбольш уплывовых зменных" з даступных зыходным наборы дадзеных). Важным момантам тут з'яўляецца тая эканомія часу і экспертных рэсурсаў, якая дасягаецца за кошт аўта-ML : тое, што наш платформавы працэс робіць за паўхвіліны (знаходжанне і навучанне аптымальнай мадэлі), у эксперта можа заняць ад тыдня да месяца.
Малюнак 19 Інтэграцыя аўта-ML у AI/ML-рашэнне на платформе InterSystems IRIS
Дыяграма ніжэй трохі "збівае кульмінацыю", але гэта добры варыянт завяршэння аповяду аб класах развязальных задач рэальнага часу: мы нагадваем аб тым, што пры ўсіх магчымасцях платформы InterSystems IRIS, навучанне мадэляў менавіта пад яе кіраваннем не з'яўляецца абавязковым. Платформа можа атрымаць звонку так званую PMML-спецыфікацыю мадэлі, навучаную ў інструменце, які не знаходзіцца пад кіраваннем платформы – і прымяняць гэтую мадэль у рэальным часе з моманту імпарту яе . Пры гэтым важна ўлічыць, што далёка не ўсе AI/ML-артэфакты могуць быць зведзены да PMML-спецыфікацыі, нават калі большасць найболей распаўсюджаных артэфактаў гэта дазваляюць зрабіць. Такім чынам платформа InterSystems IRIS мае "адкрыты контур" і не азначае "платформеннага рабства" для карыстальнікаў.
Малюнак 20 Інтэграцыя аўта-ML у AI/ML-рашэнне на платформе InterSystems IRIS
Пералічоны дадатковыя платформенныя перавагі InterSystems IRIS (для навочнасці, у дачыненні да кіравання тэхналагічнымі працэсамі), якія маюць вялікае значэнне пры аўтаматызацыі штучнага інтэлекту і машыннага навучання рэальнага часу:
- Развітыя сродкі інтэграцыі з любымі крыніцамі і спажыўцамі дадзеных (АСУТП/SCADA, абсталяванне, ТОіР, ERP і т. д.)
- убудаваная для высокапрадукцыйнай транзакцыйна-аналітычнай апрацоўкі (Hybrid Transaction/Analytical Processing, HTAP) любых аб'ёмаў дадзеных тэхналагічных працэсаў
- Сродкі распрацоўкі для бесперапыннага разгортвання AI/ML-механізмаў рашэнняў рэальнага часу на аснове Python, R, Julia
- Адаптыўныя бізнес-працэсы для бесперапыннай інтэграцыі і (сама-)навучання механізмаў AI/ML-рашэнняў рэальнага часу
- Убудаваныя сродкі Business Intelligence для візуалізацыі дадзеных тэхналагічных працэсаў і вынікаў працы AI/ML-рашэнні
- для дастаўкі вынікаў працы AI/ML-рашэнні ў АСУТП/SCADA, інфармацыйна-аналітычныя сістэмы, рассыланні абвестак і т. д.
AI / ML-рашэнні на платформе InterSystems IRIS лёгка ўпісваюцца ў існуючую ІТ-інфраструктуру. Платформа InterSystems IRIS забяспечвае высокую надзейнасць AI/ML-рашэнняў за кошт падтрымкі адмоваўстойлівых і катастрофаўстойлівых канфігурацый і гнуткае разгортванне ў віртуальных асяроддзях, на фізічных серверах, у прыватных і публічных аблоках, Docker-кантэйнерах.
Такім чынам, InterSystems IRIS з'яўляецца ўніверсальнай платформай AI/ML-вылічэнняў рэальнага часу. Універсальнасць нашай платформы пацвярджаецца на практыцы адсутнасцю дэ-факта абмежаванняў па складанасці імплементаваных вылічэнняў, здольнасцю InterSystems IRIS сумяшчаць (у рэжыме рэальнага часу) апрацоўку сцэнараў з самых розных галін, выключнай адаптавальнасць любых функцый і механізмаў платформы пад канкрэтныя запатрабаванні карыстачоў.
Малюнак 21 InterSystems IRIS – універсальная платформа AI/ML-вылічэнняў рэальнага часу
Для больш прадметнага ўзаемадзеяння з тымі з нашых чытачоў, каго зацікавіў прадстаўлены тут матэрыял, мы рэкамендуем не абмяжоўвацца яго чытаннем і працягнуць дыялог "ужывую". Мы ахвотна акажам падтрымку з фармулёўкай сцэнарыяў AI/ML рэальнага часу ў дачыненні да спецыфікі вашай кампаніі, выканаем сумеснае прататыпіраванне на платформе InterSystems IRIS, сфармуем і рэалізуем на практыцы дарожную карту ўкаранення штучнага інтэлекту і машыннага навучання ў вашыя вытворчыя і кіраўнічыя. Кантактны адрас электроннай пошты нашай экспертнай групы AI/ML - .
Крыніца: habr.com