InterSystems IRIS – universelle AI/ML-Plattform in Echtzeit

Autor: Sergey Lukyanchikov, Ingenieurberater bei InterSystems

Herausforderungen von Echtzeit-AI/ML-Berechnungen

Beginnen wir mit Beispielen aus der Data Science-Praxis von InterSystems:

• Das "belastete" Kundenportal ist mit einem Online-Empfehlungssystem verbunden. Es steht eine Umstrukturierung der Promotions im gesamten Einzelhandelsnetz an (anstatt einer "flachen" Reihe von Promotions wird nun eine Matrix "Segment-Taktik" verwendet). Was passiert mit den Empfehlungssystemen? Wie wird die Datenbereitstellung und -aktualisierung im Empfehlungssystem gehandhabt (das Volumen der Eingabedaten hat sich um das 25.000-fache erhöht)? Was geschieht mit der Generierung der Empfehlungen (die Notwendigkeit einer tausendfachen Senkung der Filtergrenze für die Empfehlungsregeln aufgrund des tausendfachen Anstiegs ihrer Anzahl und "Sortimente")?
• Es gibt ein Überwachungssystem zur Bewertung der Wahrscheinlichkeit von Defekten in den Equipment-Knoten. An das Überwachungssystem wurde ein automatisiertes Steuerungssystem angeschlossen, das tausende Parameter des technologischen Prozesses jede Sekunde überträgt. Was passiert mit dem Überwachungssystem, das zuvor mit "manuellen Stichproben" gearbeitet hat (kann es eine kontinuierliche Überwachung der Wahrscheinlichkeit gewährleisten)? Was wird geschehen, wenn in den Eingangsdaten ein neuer Block mit mehreren hundert Spalten von Sensoranzeigen erscheint, die kürzlich in das automatisierte Steuerungssystem integriert wurden (muss und wie lange muss das Überwachungssystem angehalten werden, um die Daten von den neuen Sensoren in die Analyse einzubeziehen)?
• Ein Komplex von AI/ML-Mechanismen (empfehlende, überwachende, prognostische) wurde erstellt, der die Ergebnisse der jeweiligen Systeme nutzt. Wie viele Personenstunden sind monatlich erforderlich, um die Funktionalität dieses Komplexes an Änderungen in den Eingangsdaten anzupassen? Wie hoch ist die gesamte "Verlangsamung" bei der Unterstützung von Managemententscheidungen durch den Komplex (die Häufigkeit neuer unterstützender Informationen im Verhältnis zur Häufigkeit neuer Eingangsdaten)?

Zusammenfassend haben wir aus diesen und vielen anderen Beispielen die Herausforderungen formuliert, die beim Übergang zu Echtzeiteinsatz von maschinellem Lernen und künstlicher Intelligenz auftreten.

• Sind wir zufrieden mit der Schnelligkeit der Entwicklung und Anpassung (an sich verändernde Bedingungen) von AI/ML-Projekten in unserem Unternehmen?
• Wie gut unterstützen die von uns verwendeten AI/ML-Lösungen das Echtzeit-Management unseres Geschäfts?
• Sind die von uns eingesetzten AI/ML-Lösungen in der Lage, sich selbstständig (ohne Entwickler) an Änderungen in den Daten und der Unternehmensführung anzupassen?

Unser Artikel bietet einen umfassenden Überblick über die Möglichkeiten der InterSystems IRIS-Plattform in Bezug auf die universelle Unterstützung für die Bereitstellung von AI/ML-Mechanismen, die Integration von AI/ML-Lösungen und das Training (Testen) von AI/ML-Lösungen mit intensiven Datenströmen. Wir werden Marktanalysen, praktische Beispiele für AI/ML-Lösungen und konzeptionelle Aspekte dessen, was wir in diesem Artikel als Echtzeit-AI/ML-Plattform bezeichnen, betrachten.

Was aus Umfragen bekannt ist: Echtzeitanwendungen

Ergebnisse Umfrage, durchgeführt unter etwa 800 IT-Profis im Jahr 2019 von Lightbend, sprechen für sich selbst:

Abbildung 1: Führende Verbraucher von Echtzeitdaten

Lassen Sie uns wichtige Passagen aus dem Ergebnisbericht dieser Umfrage in unserer Übersetzung zitieren:

“… Die wachsende Beliebtheit von Integrationsmethoden für Datenströme und gleichzeitig die Unterstützung von Berechnungen in Containern bieten eine synergetische Antwort auf die Marktnachfrage nach schnelleren, effizienteren und dynamischeren Lösungen. Datenströme ermöglichen eine schnellere Übertragung von Informationen als traditionelle paketbasierte Daten. Hinzu kommt die Möglichkeit, rechnergestützte Methoden einzusetzen, wie beispielsweise KI-/ML-basierte Empfehlungen, die Wettbewerbsvorteile durch eine gesteigerte Kundenzufriedenheit schaffen. Die Jagd nach Schnelligkeit hat auch Einfluss auf alle Rollen innerhalb der DevOps-Paradigmen – sie steigert die Effizienz der Anwendungsentwicklung und -bereitstellung. … 804 IT-Experten haben Informationen zur Nutzung von Datenströmen in ihren Organisationen bereitgestellt. Die Befragten kamen überwiegend aus westlichen Ländern (41 % aus Europa und 37 % aus Nordamerika) und waren nahezu gleichmäßig zwischen kleinen, mittelständischen und großen Unternehmen verteilt. …

Künstliche Intelligenz ist kein Hype. Achtundfünfzig Prozent derjenigen, die bereits Datenströme in produktiven AI/ML-Anwendungen nutzen, bestätigen, dass ihr Einsatz in AI/ML im nächsten Jahr den größten Zuwachs im Vergleich zu anderen Anwendungen erleben wird.

• Die Mehrheit der Befragten ist der Meinung, dass der Einsatz von Datenströmen in AI/ML-Szenarien im nächsten Jahr den größten Zuwachs erfahren wird.
• Der Einsatz in AI/ML wird nicht nur durch relativ neue Szenarien wachsen, sondern auch durch traditionelle Szenarien, in denen Echtzeitdaten zunehmend verwendet werden.
• Zusätzlich zu AI/ML beeindruckt das Niveau des Interesses unter den Nutzern von IoT-Datenpipelines – 48 % derjenigen, die IoT-Daten bereits integriert haben, geben an, dass die Implementierung von Szenarien auf diesen Daten in naher Zukunft erheblich zunehmen wird.

Die Ergebnisse dieser aufschlussreichen Umfrage zeigen, dass die Wahrnehmung von Szenarien für maschinelles Lernen und künstliche Intelligenz als führende Technologien im Datenstreamverbrauch bereits "nahe ist". Nicht weniger wichtig ist jedoch die Sicht auf AI/ML in Echtzeit durch die Brille von DevOps: Hier kann man bereits von einer Transformation der vorherrschenden Kultur des "einmaligen AI/ML mit vollständig zugänglichen Datensätzen" sprechen.

Das Konzept einer AI/ML-Echtzeitplattform

Ein typisches Anwendungsgebiet von AI/ML in Echtzeit ist das Management von Produktionsprozessen. An diesem Beispiel und unter Berücksichtigung der vorherigen Überlegungen wollen wir das Konzept einer AI/ML-Echtzeitplattform formulieren.
Der Einsatz von künstlicher Intelligenz und maschinellem Lernen im Management von Produktionsprozessen weist eine Reihe von Besonderheiten auf:

• Daten über den Zustand des Produktionsprozesses kommen intensiv an: mit hoher Frequenz und über ein breites Spektrum an Parametern (bis hin zu Zehntausenden von Parameterwerten, die pro Sekunde aus der Prozessleittechnik übertragen werden)
• Informationen zur Identifizierung von Mängeln, ganz zu schweigen von den Daten zu ihrer Entwicklung, sind im Gegenteil spärlich und unregelmäßig, gekennzeichnet durch unzureichende Typisierung von Mängeln und deren zeitliche Lokalisierung (häufig werden sie in Papierform erfasst).
• Aus praktischer Perspektive steht nur ein "Aktualitätsfenster" der Ausgangsdaten zur Verfügung, das die Dynamik des technologischen Prozesses über einen angemessenen gleitenden Zeitraum widerspiegelt, der mit den zuletzt erfassten Werten der Prozessparameter endet.

Diese Merkmale zwingen uns, neben dem Empfang und der grundlegenden Verarbeitung eines intensiven "breitenbandigen Eingangsflows" aus dem technologischen Prozess auch parallel die Anwendung, das Training und die Qualitätskontrolle der Ergebnisse von AI/ML-Modellen in Echtzeit durchzuführen. Der "Frame", den unsere Modelle im gleitenden Aktualitätsfenster "sehen", ändert sich ständig – und damit auch die Qualität der Ergebnisse der AI/ML-Modelle, die auf einem der "Frames" in der Vergangenheit trainiert wurden. Wenn die Qualität der Ergebnisse der AI/ML-Modelle sinkt (z.B. wenn der Klassifizierungsfehlerwert "Alarm-Norm" unsere definierten Grenzen überschreitet), sollte automatisch ein Nachtraining der Modelle auf einem aktuellen "Frame" gestartet werden – und der Zeitpunkt für das Nachtraining der Modelle muss sowohl die Dauer des Trainings als auch die Dynamik der Verschlechterung der Qualität der aktuellen Modellversion berücksichtigen (da die aktuellen Modellversionen weiterhin angewendet werden, während sie trainiert werden, und bis ihre "neu trainierten" Versionen gebildet sind).

InterSystems IRIS bietet essentielle Plattformfunktionen zur Unterstützung von AI/ML-Lösungen für das Management von technologischen Abläufen in Echtzeit. Diese Funktionen lassen sich in drei Hauptgruppen unterteilen:

• Kontinuierliche Bereitstellung (Continuous Deployment/Delivery, CD) neuer oder angepasster vorhandener AI/ML-Mechanismen in produktive Lösungen, die in Echtzeit auf der InterSystems IRIS-Plattform funktionieren.
• Kontinuierliche Integration (Continuous Integration, CI) der eingehenden Datenströme des technologischen Prozesses in eine einheitliche Produktivlösung, die Datenwarteschlangen für Anwendung/Training/Qualitätskontrolle von AI/ML-Mechanismen sowie den Austausch von Daten/Code/Steuerungseinflüssen mit Simulationsumgebungen umfasst, deren Orchestrierung in Echtzeit von der InterSystems IRIS-Plattform erfolgt.
• Kontinuierliches (Selbst-)Training (Continuous Training, CT) von AI/ML-Mechanismen, das in Simulationsumgebungen unter Verwendung von Daten, Code und Steuerungseinflüssen („getroffenen Entscheidungen“), die von der InterSystems IRIS-Plattform übermittelt werden, durchgeführt wird.

Die Klassifizierung der Plattformmöglichkeiten im Hinblick auf maschinelles Lernen und künstliche Intelligenz nach solchen Gruppen ist nicht willkürlich. Lassen Sie uns die methodologische Veröffentlichung Basis der Google-Unternehmen zitieren, die das konzeptionelle Fundament für diese Klassifikation bietet, in unserer Übersetzung:

„… Das heutzutage populäre Konzept von DevOps umfasst die Entwicklung und den Betrieb umfangreicher Informationssysteme. Die Vorteile der Implementierung dieses Konzepts sind die Verkürzung der Entwicklungszyklen, die Beschleunigung des Rollouts von Entwicklungen und die Flexibilität in der Planung von Releases. Um diese Vorteile zu erzielen, sieht DevOps die Implementierung von mindestens zwei Praktiken vor:

• Continuous Integration (CI)
• Continuous Delivery (CD)

Diese Praktiken sind auch auf AI/ML-Plattformen anwendbar – um eine zuverlässige und leistungsfähige Erstellung produktiver AI/ML-Lösungen zu gewährleisten.

AI/ML-Plattformen unterscheiden sich in den folgenden Aspekten von anderen Informationssystemen:

• Kompetenzen des Teams: Bei der Entwicklung einer AI/ML-Lösung gehört oft ein Team aus Data Scientists oder akademischen Experten im Bereich der Datenforschung dazu. Diese führen Datenanalysen durch, entwickeln und testen Modelle. Diese Teammitglieder sind möglicherweise keine professionellen Entwickler von produktivem Code.
• Entwicklung: AI/ML-Mechanismen sind experimenteller Natur. Um eine Aufgabe auf die effizienteste Weise zu lösen, ist es notwendig, verschiedene Kombinationen von Eingangvariablen, Algorithmen, Modellierungsmethoden und Modellparametern durchzugehen. Die Komplexität dieses Prozesses liegt darin, nachzuvollziehen, was funktioniert hat oder nicht, die Reproduzierbarkeit der Episoden zu gewährleisten und die Entwicklungen für wiederholte Implementierungen zu verallgemeinern.
• Testen: Die Testung von AI/ML-Mechanismen erfordert ein breiteres Spektrum an Tests als die meisten anderen Entwicklungen. Neben den typischen Modul- und Integrationstests müssen auch die Validität der Daten und die Qualität der Ergebnismodelle für Trainings- und Testdatensätze überprüft werden.
• Deployment: Die Implementierung von KI-/ML-Lösungen beschränkt sich nicht auf prädiktive Dienste, die einmal trainierte Modelle verwenden. KI-/ML-Lösungen basieren auf mehrstufigen Pipelines, die automatisiertes Training und Anwendung von Modellen durchführen. Die Bereitstellung solcher Pipelines umfasst die Automatisierung von nicht trivialen Aufgaben, die traditionell manuell von Datenwissenschaftlern durchgeführt werden, um Modelle zu trainieren und zu testen.
• Produktivität: KI-/ML-Mechanismen können nicht nur aufgrund ineffizienter Programmierung an Leistung verlieren, sondern auch aufgrund der sich ständig ändernden Natur der Eingabedaten. Anders ausgedrückt kann die Leistung von KI-/ML-Mechanismen aus vielfältigeren Gründen abnehmen als bei herkömmlichen Anwendungen. Dies führt zu der Notwendigkeit, die Leistung unserer KI-/ML-Mechanismen in Echtzeit zu überwachen sowie Benachrichtungen zu versenden oder Ergebnisse abzulehnen, wenn die Leistungskennzahlen nicht den Erwartungen entsprechen.

AI/ML-Plattformen ähneln anderen Informationssystemen darin, dass sie eine ständige Integration von Code mit Versionskontrolle, Modultests, Integrationstests und kontinuierlicher Bereitstellung erfordern. Es gibt jedoch einige wichtige Unterschiede im Fall von AI/ML:

• Die CI (Continuous Integration, kontinuierliche Integration) beschränkt sich nicht mehr nur auf das Testen und Validieren des Codes der bereitgestellten Komponenten – sie schließt auch das Testen und Validieren von Daten sowie AI/ML-Modellen ein.
• CD (Continuous Delivery/Deployment, kontinuierliche Bereitstellung) bezieht sich nicht lediglich auf das Schreiben und Veröffentlichen von Paketen oder Diensten, sondern bezeichnet eine Plattform zur Komposition, zum Training und zur Anwendung von AI/ML-Lösungen.
• CT (Continuous Training, kontinuierliches Training) ist ein neues Element [pr заметка автора статьи: новый элемент по отношению к традиционной концепции DevOps, в которой CT это, как правило, Continuous Testing], das AI/ML-Plattformen eigen ist und das autonome Management der Lern- und Anwendungsmechanismen von AI/ML-Modellen übernimmt. …

Wir können feststellen, dass maschinelles Lernen und künstliche Intelligenz, die auf Echtzeitdaten basieren, ein breiteres Spektrum an Tools und Kompetenzen erfordern (von der Codeentwicklung bis zur Orchestrierung mathematischer Modellierungsumgebungen), eine engere Integration zwischen allen funktionalen und fachlichen Bereichen sowie eine effizientere Organisation von menschlichen und maschinellen Ressourcen.

Echtzeitszenario: Erkennung der Defektentwicklung in Förderpumpen

Bleiben wir im Bereich der Prozesssteuerung und betrachten wir eine konkrete Aufgabe (die wir bereits zu Beginn angesprochen haben): Es ist erforderlich, in Echtzeit die Entwicklung von Defekten in Pumpen zu überwachen, basierend auf dem Fluss von Prozessdatenwerten und den Berichten des Wartungspersonals über festgestellte Defekte.

Abbildung 2 Formulierung der Aufgabe zur Überwachung der Defektentwicklung

Ein wesentliches Merkmal der meisten derartigen Aufgaben in der Praxis ist, dass die Regelmäßigkeit und Schnelligkeit der Datenübermittlung (ASUTP) im Kontext der sporadischen und unregelmäßigen Entstehung (und Dokumentation) von Defekten verschiedener Art betrachtet werden müssen. Mit anderen Worten: Die Daten aus dem ASUTP kommen jede Sekunde korrekt und präzise an, während die Defekte mit einem chemischen Bleistift in einem allgemeinen Notizbuch in der Produktionsstätte vermerkt werden (zum Beispiel: „12.01 – Leck bei der Abdeckung auf der Seite des 3. Lagers“).

Somit können wir die Formulierung der Aufgabe um folgendes wichtige Limit ergänzen: Die „Kennzeichnung“ eines spezifischen Defekttyps haben wir nur einmal (d.h. ein Beispiel für einen spezifischen Defekttyp wird durch die Daten aus dem ASUTP zu einem bestimmten Datum bereitgestellt – und weitere Beispiele für genau diesen Defekttyp existieren nicht). Diese Einschränkung führt uns sofort über die Grenzen des klassischen maschinellen Lernens (supervised learning), das viele „Kennzeichnungen“ erfordert.

Abbildung 3 Präzisierung der Aufgabe zur Überwachung der Entwicklung von Defekten

Können wir irgendwie die vorhandene einzige "Kennzeichnung" vervielfältigen? Ja, das können wir. Der aktuelle Zustand der Pumpe wird durch die Ähnlichkeit mit den registrierten Defekten charakterisiert. Selbst ohne quantitative Methoden kann man auf visuellem Niveau bei der Beobachtung der Wertentwicklung der Daten aus dem SCADA-System schon viel ableiten:

Abbildung 4 Entwicklung des Pumpenzustands im Kontext der "Defektmarkierung" eines bestimmten Typs

Aber die visuelle Wahrnehmung ist (zumindest vorerst) nicht der geeignetste Generator für "Markierungen" in unserem sich schnell verändernden Szenario. Wir werden die Ähnlichkeit des aktuellen Pumpenzustands mit den registrierten Defekten mithilfe eines statistischen Tests bewerten.

Abbildung 5 Anwendung des statistischen Tests auf die eingehenden Daten im Kontext der "Defektmarkierung"

Der statistische Test bestimmt die Wahrscheinlichkeit, dass die Werte von Prozessparametern in dem aus dem Automatisierungssystem "Strom-Paket" erhaltenen Datensatz Ähnlichkeiten zu den "Labels" bestimmter Defekttypen aufweisen. Der durch den statistischen Test ermittelte Wahrscheinlichkeitswert (Statistik-Ähnlichkeitsindex) wird in einen Wert von 0 oder 1 umgewandelt und fungiert als "Label" für das maschinelle Lernen in jedem einzelnen Datensatz des zu untersuchenden Pakets. Das bedeutet, dass wir nach der Verarbeitung eines neuen Pakets von Pumpenzustandsaufzeichnungen mit einem statistischen Test (a) dieses Paket zum Trainingsdatensatz für das Training des AI/ML-Modells hinzufügen und (b) die Qualität der aktuellen Modellversion bei der Anwendung auf dieses Paket überwachen können.

Abbildung 6 Anwendung des maschinellen Lernmodells auf eingehende Daten im Hinblick auf das "Label" des Defekts

In einem unserer vorherigen Webinare Wir zeigen und erklären, wie die InterSystems IRIS-Plattform jeden AI/ML-Mechanismus in Form von kontinuierlich ausgeführten Geschäftsprozessen umsetzt, die die Validität der Simulationsresultate überwachen und die Modellparameter anpassen. Bei der Implementierung des Prototyps unseres Szenarios mit Pumpen nutzen wir alle in dem Webinar vorgestellten Funktionen von InterSystems IRIS – wir integrieren in den Prozessanalysator in unserem Lösungskonzept nicht klassisches überwacht Lernen, sondern eher verstärkendes Lernen (reinforcement learning), das automatisch die Auswahl für das Training der Modelle steuert. In die Trainingsauswahl werden Datensätze aufgenommen, bei denen ein "Konsens der Detektion" nach Anwendung sowohl des statistischen Tests als auch der aktuellen Version des Modells entsteht – d. h. sowohl der statistische Test (nach Umwandlung des Ähnlichkeitsindex auf 0 oder 1) als auch das Modell liefern bei diesen Datensätzen das Ergebnis 1. Bei der neuen Modellschulung und Validierung (das neu trainierte Modell wird auf seine eigene Schulungsstichprobe angewendet, nachdem ein statistischer Test darauf vorab angewendet wurde) werden die Datensätze, die nach der Verarbeitung durch den statistischen Test kein Ergebnis 1 erzielt haben (aufgrund der ständigen Präsenz von Datensätzen aus dem ursprünglichen "Fehler-Label" in der Trainingsstichprobe), aus der Trainingsauswahl entfernt, und die neue Version des Modells lernt sowohl anhand des "Fehler-Labels" als auch anhand der "festgehaltenen" Datensätze aus dem Strom.

Abbildung 7: Automatisierung von AI/ML-Berechnungen in InterSystems IRIS

Wenn es notwendig ist, eine Art "zweite Meinung" zur Qualität der Detektion zu erhalten, die bei lokalen Berechnungen in InterSystems IRIS erzielt wird, wird ein Prozessberater erstellt, um die Modelle mithilfe von Cloud-Diensten (z. B. Microsoft Azure, Amazon Web Services, Google Cloud Platform usw.) auf einem Kontroll-Datensatz zu trainieren und anzuwenden:

Abbildung 8: "Zweite Meinung" aus Microsoft Azure orchestriert durch InterSystems IRIS

Prototyp unseres Szenarios in InterSystems IRIS ist als agentenbasierte Analysesystem konzipiert, das Interaktionen mit dem Ausrüstungsobjekt (Pumpe), mathematischen Simulationsumgebungen (Python, R und Julia) durchführt und das Selbstlernen aller beteiligten AI/ML-Mechanismen anhand von Echtzeit-Datenströmen ermöglicht.

Abbildung 9: Hauptfunktionen der Echtzeit-AI/ML-Lösung in InterSystems IRIS

Praktisches Ergebnis der Arbeit unseres Prototyps:

• Vom Modell erkanntes Defektmuster (12. Januar):

• Vom Modell erkannter sich entwickelnder Defekt, der nicht im Muster enthalten war (11. September; der Defekt wurde von der Reparaturmannschaft erst zwei Tage später, am 13. September, festgestellt):

Die Simulation mit realen Daten, die mehrere Episoden desselben Fehlers enthält, hat gezeigt, dass unsere Lösung auf der InterSystems IRIS-Plattform es ermöglicht, die Entwicklung solcher Fehler mehrere Tage vor ihrer Entdeckung durch das Reparaturteam zu erkennen.

InterSystems IRIS – eine universelle Plattform für Echtzeit-AI/ML-Computing

Die InterSystems IRIS-Plattform vereinfacht die Entwicklung, Bereitstellung und den Betrieb von Lösungen für Echtzeitdaten. InterSystems IRIS kann sowohl transaktionale als auch analytische Datenverarbeitung gleichzeitig durchführen; sie unterstützt synchronisierte Datenansichten gemäß mehreren Modellen (darunter relationale, hierarchische, objektorientierte und dokumentenbasierte); fungiert als Integrationsplattform für eine Vielzahl von Datenquellen und einzelnen Anwendungen; bietet erweiterte Echtzeitanalysen für strukturierte und unstrukturierte Daten. InterSystems IRIS stellt auch Mechanismen zur Verfügung, um externe Analysetools zu integrieren, und ermöglicht eine flexible Kombination aus Cloud-basiertem und lokalem Hosting.

Anwendungen, die auf der InterSystems IRIS-Plattform basieren, sind in verschiedenen Branchen implementiert und helfen Unternehmen, signifikante wirtschaftliche Vorteile in strategischen und operativen Aspekten zu erzielen, indem sie das Entscheidungsbewusstsein erhöhen und „Lücken“ zwischen Ereignis, Analyse und Handlung schließen.

Abbildung 10 Architektur von InterSystems IRIS im Kontext von AI/ML in Echtzeit

Wie das vorherige Diagramm kombiniert auch das folgende Diagramm ein neues „Koordinatensystem“ (CD/CI/CT) mit dem Schema der Informationsflüsse zwischen den Arbeitselementen der Plattform. Die Visualisierung beginnt mit dem Makromechanismus CD und setzt sich mit den Makromechanismen CI und CT fort.

Abbildung 11 Schema der Informationsflüsse zwischen den AI/ML-Elementen der InterSystems IRIS-Plattform

Der Kernmechanismus von CD in InterSystems IRIS: Nutzer der Plattform (Entwickler von AI/ML-Lösungen) passen bestehende an und/oder entwickeln neue AI/ML-Anwendungen mithilfe eines spezialisierten Editors für AI/ML-Code: Jupyter (vollständiger Name: Jupyter Notebook; zur Abkürzung werden manchmal auch die in diesem Editor erstellten Dokumente so genannt). In Jupyter hat der Entwickler die Möglichkeit, konkrete AI/ML-Anwendungen zu schreiben, zu debuggen und deren Funktionalität (einschließlich grafischer Ansichten) zu überprüfen, bevor sie in InterSystems IRIS bereitgestellt werden. Es ist klar, dass solche neuen Entwicklungen nur eine grundlegende Fehlerbehebung erhalten werden (da Jupyter unter anderem nicht mit Echtzeit-Datenströmen arbeitet) – das ist normal, denn das Hauptziel der Entwicklung in Jupyter ist es, die prinzipielle Funktionsfähigkeit eines einzelnen AI/ML-Mechanismus zu bestätigen ("liefert die erwarteten Ergebnisse bei Datenauswahl"). In ähnlicher Weise kann ein bereits in die Plattform implementierter Mechanismus (siehe nachfolgende Makromechanismen) vor dem Debuggen in Jupyter einen "Rollback" in den "Vorpattform-Zustand" benötigen (Daten aus Dateien lesen, Daten über xDBC anstelle von Tabellen verwalten, direkte Interaktion mit Globals – mehrdimensionalen Datenarrays von InterSystems IRIS – usw.).

Ein wichtiger Aspekt der Implementierung von CD in InterSystems IRIS ist die bidirektionale Integration zwischen der Plattform und Jupyter. Dadurch können Inhalte in den Programmiersprachen Python, R und Julia in die Plattform transferiert und dort verarbeitet werden. Alle drei Sprachen sind gängige Programmiersprachen in führenden Open-Source-Umgebungen für mathematische Modellierung. Dies ermöglicht es Entwicklern von AI/ML-Inhalten, ein "kontinuierliches Deployment" dieser Inhalte innerhalb der Plattform durchzuführen, während sie in ihrem gewohnten Jupyter-Editor mit den verfügbaren Bibliotheken in Python, R und Julia arbeiten und bei Bedarf grundlegende Debugging-Aktivitäten außerhalb der Plattform durchführen.

Wir wenden uns dem Makro-Mechanismus CI in InterSystems IRIS zu. Die Grafik zeigt den Makroprozess der "Echtzeit-Robotik" (ein System aus Datenstrukturen, Geschäftsprozessen und den von ihnen orchestrierten Codefragmenten in den Programmiersprachen MatScript und ObjectScript – der nativen Entwicklungssprache von InterSystems IRIS). Ziel dieses Makroprozesses ist es, die für den Betrieb von AI/ML-Mechanismen notwendigen Datenströme (basierend auf den in Echtzeit an die Plattform übermittelten Datenströmen) aufrechtzuerhalten, Entscheidungen über die Reihenfolge der Anwendung und das "Sortiment" der AI/ML-Mechanismen zu treffen (diese werden auch "mathematische Algorithmen", "Modelle" usw. genannt – sie können je nach spezifischer Implementierung und terminologischen Vorlieben unterschiedlich bezeichnet werden), und die Datenstrukturen für die Analyse der Ergebnisse der AI/ML-Mechanismen aktuell zu halten (Würfel, Tabellen, mehrdimensionale Datenarrays usw. – für Berichte, Dashboards usw.).

Ein wichtiger Aspekt der Implementierung von CI in InterSystems IRIS: Zwischen der Plattform und den Umgebungen für mathematische Modellierung besteht eine bidirektionale Integration, die es ermöglicht, Inhalte, die in der Plattform auf den Sprachen Python, R und Julia platziert sind, in ihren entsprechenden Umgebungen auszuführen und Ergebnisse zurückzu erhalten. Diese Integration ist sowohl im „Terminalmodus“ (d.h. AI/ML-Inhalte werden als Code in ObjectScript formuliert, der mathematische Umgebungen aufruft) als auch im „Geschäftsprozessmodus“ (d.h. AI/ML-Inhalte werden als Geschäftsprozess mithilfe eines grafischen Editors oder manchmal unter Verwendung von Jupyter oder mithilfe von IDEs wie IRIS Studio, Eclipse, Visual Studio Code formuliert). Die Verfügbarkeit von Geschäftsprozessen zur Bearbeitung in Jupyter wird durch die Verbindung zwischen IRIS auf CI-Ebene und Jupyter auf CD-Ebene verdeutlicht. Eine detailliertere Übersicht zur Integration mit mathematischen Modellierungsumgebungen wird im Folgenden präsentiert. In dieser Phase gibt es unserer Meinung nach alle Gründe dafür festzuhalten, dass die Plattform über alle notwendigen Werkzeuge zur Umsetzung einer „kontinuierlichen Integration“ von AI/ML-Entwicklungen (die aus „kontinuierlicher Bereitstellung“ stammen) in AI/ML-Lösungen in Echtzeit verfügt.

Und der Hauptmakro-Mechanismus: CT. Ohne ihn wird es keine AI/ML-Plattformen geben (auch wenn "Echtzeit" durch CD/CI implementiert wird). Der Kern von CT besteht darin, dass die Plattform mit den "Artefakten" des maschinellen Lernens und der künstlichen Intelligenz direkt in den Arbeitssitzungen mathematischer Modellierungsumgebungen arbeitet: Modelle, Verteilungstabellen, Vektoren-Matrizen, Schichten von neuronalen Netzwerken usw. Diese "Arbeit" besteht in den meisten Fällen darin, die genannten Artefakte in den Umgebungen zu erstellen (im Falle von Modellen besteht das Beispiel für die "Erstellung" in der Spezifikationsdefinition des Modells und der anschließenden Anpassung der Werte seiner Parameter – dem sogenannten "Training" des Modells), sie anzuwenden (bei Modellen: die Berechnung von "Modell"-Werten der Zielvariablen – Prognosen, Zugehörigkeit zu Kategorien, Wahrscheinlichkeit des Eintretens von Ereignissen usw.) und bereits erstellte und angewandte Artefakte zu verbessern (zum Beispiel die Anpassung des Eingangsvariablen-Sets des Modells basierend auf den Ergebnissen der Anwendung – um die Vorhersagegenauigkeit zu erhöhen, als Variante). Ein Schlüsselpunkt zum Verständnis der Rolle von CT ist seine "Abstraktheit" von den Realitäten von CD und CI: CT wird alle Artefakte implementieren, wobei es sich nach den rechnerischen und mathematischen Spezifika der AI/ML-Lösung innerhalb der Möglichkeiten richtet, die von bestimmten Umgebungen bereitgestellt werden. Die Verantwortung für die "Datenanlieferung" und die "Ergebniss Lieferung" liegt bei CD und CI.

Ein wichtiger Aspekt der Implementierung von CT in InterSystems IRIS: Mit der zuvor erwähnten Integration in mathematische Modellierungsumgebungen kann die Plattform Artefakte aus Arbeitssitzungen, die unter ihrer Aufsicht in diesen Umgebungen ablaufen, extrahieren und (was am wichtigsten ist) sie in Datenobjekte der Plattform umwandeln. Zum Beispiel kann eine Verteilungstabelle, die gerade in einer Python-Arbeitssitzung erstellt wurde, (ohne die Sitzung in Python zu stoppen) in die Plattform übertragen werden, beispielsweise als Global (mehrdimensionales Datenarray von InterSystems IRIS) – und für Berechnungen in einem anderen AI/ML-Mechanismus verwendet werden (der möglicherweise bereits in einer anderen Sprache – zum Beispiel R – implementiert ist) – oder als virtuelle Tabelle. Ein weiteres Beispiel: Parallel zum „Normalbetrieb“ des Modells (in der Python-Arbeitssitzung) wird an seinen Eingabedaten „Auto-ML“ durchgeführt: die automatische Auswahl optimaler Eingangsvariablen und Parameterwerte. Und zusammen mit dem „normalen“ Training erhält das produktive Modell in Echtzeit zudem einen „Optimierungsvorschlag“ seiner Spezifikation – wobei sich die Menge der Eingangsvariablen ändert und die Parameterwerte verändert werden (nicht mehr aufgrund des Trainings in Python, sondern aufgrund des Trainings einer „alternativen“ Version von sich selbst, beispielsweise im H2O-Stack), was es dem gesamten AI/ML-Ansatz ermöglicht, autonom mit unvorhergesehenen Änderungen in der Natur der Eingabedaten und der modellierten Phänomene umzugehen.

Lernen Sie die plattformbasierte AI/ML-Funktionalität von InterSystems IRIS genauer kennen, anhand eines realen Prototyps.

In der untenstehenden Grafik auf der linken Seite der Folie sehen Sie den Teil des Geschäftsprozesses, der die Ausführung von Skripten in Python und R implementiert. In der Mitte befinden sich visuelle Protokolle der Ausführung einiger dieser Skripte, entsprechend in Python und R. Direkt danach folgen Beispiele für Inhalte in beiden Sprachen, die zur Ausführung in die jeweiligen Umgebungen übergeben wurden. Ganz rechts am Ende sehen Sie Visualisierungen, die auf den Ergebnissen der Skriptausführung basieren. Die obigen Visualisierungen wurden mit IRIS Analytics erstellt (Daten wurden aus Python in die Datenplattform InterSystems IRIS übertragen und über das Dashboard der Plattform ausgegeben), die unteren wurden direkt in einer R-Session erstellt und dort in Grafikdateien ausgegeben. Ein wichtiger Aspekt: Der dargestellte Abschnitt im Prototyp ist für das Training des Modells (Klassifizierung des Gerätezustands) verantwortlich, das die in Echtzeit von einem Geräte-Simulator kommenden Daten verarbeitet, basierend auf dem Befehl des Qualitätssicherungs-Monitor-Prozesses, der während der Anwendung des Modells beobachtet wird. Im weiteren Verlauf wird die Implementierung einer AI/ML-Lösung in Form eines Sets interagierender Prozesse („Agenten“) thematisiert.

Abbildung 12 Interaktion mit Python, R und Julia in InterSystems IRIS

Plattformprozesse (auch bekannt als „Geschäftsprozesse“, „Analysetransaktionen“, „Pipelines“ usw. – je nach Kontext) werden vor allem in einem grafischen Editor für Geschäftsprozesse innerhalb der Plattform bearbeitet. Dabei werden gleichzeitig das Flussdiagramm und der entsprechende AI/ML-Mechanismus (Programmiercode) erstellt. Wenn wir von einem „AI/ML-Mechanismus“ sprechen, beziehen wir uns zunächst auf Hybridität (im Rahmen eines Prozesses): Inhalte in den Sprachen mathematischer Modellierung stehen neben Inhalten in SQL (einschließlich Erweiterungen von IntegratedML), auf InterSystems ObjectScript, zusammen mit anderen unterstützten Sprachen. Darüber hinaus bietet der Plattformprozess sehr umfangreiche Möglichkeiten zur „Darstellung“ in Form von hierarchisch verschachtelten Fragmenten (wie im Beispiel in dem nachstehenden Diagramm zu sehen), was eine effektive Organisation sogar sehr komplexer Inhalte ermöglicht, ohne jemals aus dem grafischen Format herauszufallen (in „nicht-grafische“ Methoden/Klassen/Prozeduren usw.). Das heißt, falls erforderlich (was in den meisten Projekten zu erwarten ist), kann die gesamte AI/ML-Lösung in einem grafischen, selbstdokumentierenden Format implementiert werden. Wir möchten darauf hinweisen, dass im zentralen Teil des nachstehenden Diagramms, das ein höheres „Niveau der Verschachtelung“ zeigt, zu sehen ist, dass neben der eigentlichen Modelltrainingsarbeit (unter Verwendung von Python und R) auch die Analyse der sogenannten ROC-Kurve des trainierten Modells hinzugefügt wird, die es ermöglicht, die Trainingsqualität visuell (und rechnerisch ebenfalls) zu bewerten – und diese Analyse wird in der Sprache Julia realisiert (entsprechend in der Julia-Umgebung ausgeführt).

Abbildung 13 Visuelle Umgebung zur Komposition von AI/ML-Lösungen in InterSystems IRIS

Wie bereits erwähnt, erfolgt die initiale Entwicklung und in einigen Fällen die Anpassung bereits in die Plattform implementierter AI/ML-Mechanismen möglicherweise außerhalb der Plattform im Jupyter-Editor. In der untenstehenden Grafik sehen wir ein Beispiel für die Anpassung eines bestehenden Plattformprozesses (derselbe wie in der obigen Grafik) – so sieht der Teil in Jupyter aus, der für das Training des Modells verantwortlich ist. Der Inhalt in Python ist für Bearbeitungen, Debugging und Grafikausgaben direkt in Jupyter verfügbar. Änderungen (falls erforderlich) können mit einer sofortigen Synchronisierung in den Plattformprozess, einschließlich der produktiven Version, vorgenommen werden. Ebenso kann neuer Inhalt automatisch in die Plattform übertragen werden, wodurch ein neuer Plattformprozess entsteht.

Abbildung 14 Anwendung von Jupyter Notebook zur Bearbeitung des AI/ML-Mechanismus in der InterSystems IRIS-Plattform.

Die Anpassung des Plattformprozesses kann nicht nur im grafischen oder Laptop-Format erfolgen, sondern auch im ‚totalen‘ IDE-Format (Integrated Development Environment). Zu solchen IDEs gehören IRIS Studio (die native IRIS-Entwicklungsumgebung), Visual Studio Code (Erweiterung von InterSystems IRIS für VSCode) und Eclipse (Atelier-Plugin). In einigen Fällen kann das Entwicklerteam alle drei IDEs gleichzeitig nutzen. Die folgende Abbildung zeigt ein Beispiel für die Bearbeitung desselben Prozesses in IRIS Studio, Visual Studio Code und Eclipse. Für die Bearbeitung steht der gesamte Inhalt zur Verfügung: sowohl Python/R/Julia/SQL, als auch ObjectScript und Geschäftsprozess.

Abbildung 15 Entwicklung des InterSystems IRIS-Geschäftsprozesses in verschiedenen IDEs

Besondere Erwähnung verdienen die Mittel zur Beschreibung und Durchführung von Geschäftsprozessen mit InterSystems IRIS in der Business Process Language (BPL). BPL ermöglicht die Nutzung von "vorfertigten Integrationskomponenten" (Activities) in Geschäftsprozessen – was im Grunde genommen die vollständige Grundlage dafür bietet, dass in InterSystems IRIS eine "kontinuierliche Integration" realisiert ist. Die vorgefertigten Komponenten der Geschäftsprozesse (Aktivitäten und deren Verbindungen) sind ein äußerst leistungsstarker Beschleuniger für den Aufbau von AI/ML-Lösungen. Und nicht nur für den Aufbau: Dank der Aktivitäten und der Verbindungen zwischen ihnen entsteht über den verstreuten AI/ML-Entwicklungen und Mechanismen hinweg eine "autonome Managementebene", die in der Lage ist, situativ und in Echtzeit Entscheidungen zu treffen.

Abbildung 16 Vorfertigte Komponenten von Geschäftsprozessen für kontinuierliche Integration (CI) auf der InterSystems IRIS-Plattform

Das Konzept von Agentensystemen (auch "Multi-Agenten-Systeme" genannt) hat in der Robotik eine starke Stellung, und die InterSystems IRIS-Plattform unterstützt dies nahtlos durch den "Produktionsprozess"-Builder. Neben den unbegrenzten Möglichkeiten zur Anpassung jedes Prozesses mit den notwendigen Funktionen für die Gesamtlösung ermöglicht die Ausstattungen der Systemplattformprozesse mit der Eigenschaft der "Agentenfähigkeit" die Schaffung effektiver Lösungen für äußerst instabile modellierte Phänomene (das Verhalten sozialer/biologischer Systeme, teilweise beobachtbare technologische Prozesse usw.).

Abbildung 16 Funktionsweise von AI/ML-Lösungen als Agentensystem von Geschäftsprozessen in InterSystems IRIS

Wir setzen unseren Überblick über InterSystems IRIS mit der Anwendung der Plattform zur Lösung ganzer Klassen von Echtzeitanforderungen fort (eine recht detaillierte Einführung in einige der besten Praktiken der Plattform-AI/ML auf InterSystems IRIS findet in einem unserer vorherigen Webinare).

Auf Grundlage des vorherigen Diagramms zeigt das folgende Diagramm detailliert das Agentensystem. Es stellt dasselbe Prototyp-Modell dar, wobei alle vier Agentenprozesse sichtbar sind: GENERATOR – verantwortlich für die Datenerzeugung durch Sensoren, BUFFER – der die Datenwarteschlangen verwaltet, ANALYZER – zuständig für das maschinelle Lernen, und MONITOR – der die Qualität des maschinellen Lernens überwacht und das Signal für die Notwendigkeit einer Modellneuausbildung sendet.

Abbildung 17 Zusammensetzung der AI/ML-Lösung als Agentensystem von Geschäftsprozessen in InterSystems IRIS

Das folgende Diagramm zeigt das autonome Funktionieren eines anderen robotergestützten Prototyps (Emotionserkennung in Texten) über einen gewissen Zeitraum. Im oberen Bereich – die Entwicklung der Trainingsqualität des Modells (Qualität steigt), im unteren Bereich – die Dynamik der Anwendungsqualität des Modells und die Fakten zum erneuten Training (rote Balken). Wie zu sehen ist, hat die Lösung effektiv und autonom gelernt und funktioniert auf dem vorgegebenen Qualitätsniveau (die Qualitätswerte fallen nicht unter 80%).

Abbildung 18 Kontinuierliches (Selbst-)Training (CT) auf der InterSystems IRIS Plattform

Auch über „Auto-ML“ haben wir bereits gesprochen. Im folgenden Diagramm wird die Anwendung dieser Funktionalität anhand eines weiteren Prototyps detailliert dargestellt. Die grafische Darstellung eines Geschäftsprozessabschnitts zeigt die Aktivität, die das Modellieren im H2O-Stack auslöst, sowie die Ergebnisse dieser Modellierung (eine klare Dominanz des erhaltenen Modells über manuell erstellte Modelle, basierend auf dem Vergleichsdiagramm der ROC-Kurven, sowie die automatisierte Identifizierung der „einflussreichsten Variablen“ aus den verfügbaren Ausgangsdaten). Ein wichtiger Punkt hierbei ist die Zeit- und Ressourcenersparnis, die durch „Auto-ML“ erreicht wird: Das, was unser Plattformprozess in einer halben Minute erledigt (das Finden und Trainieren des optimalen Modells), kann für einen Experten von einer Woche bis zu einem Monat in Anspruch nehmen.

Abbildung 19 Integration von „Auto-ML“ in die AI/ML-Lösung auf der InterSystems IRIS-Plattform

Das Diagramm unten könnte die „Spannung“ etwas mindern, aber es ist eine gelungene Art, die Geschichte über die Klassen von Echtzeitanwendungen abzuschließen: Wir erinnern daran, dass das Training von Modellen unter der Verwaltung der InterSystems IRIS-Plattform trotz aller Möglichkeiten nicht zwingend erforderlich ist. Die Plattform kann externe PMML-Modellspezifikationen erhalten, die in einem nicht von der Plattform verwalteten Tool trainiert wurden, und dieses Modell in Echtzeit ab dem Zeitpunkt des Imports anwenden. PMML-Spezifikationen. Dabei ist zu beachten, dass nicht alle AI/ML-Artefakte in PMML-Spezifikationen umgewandelt werden können, auch wenn die meisten der am häufigsten vorkommenden Artefakte dies zulassen. Somit bietet die InterSystems IRIS-Plattform einen „offenen Rahmen“ und bedeutet kein „Plattform-Knechtschaft“ für die Nutzer.

Abbildung 20 Integration von „Auto-ML“ in die AI/ML-Lösung auf der InterSystems IRIS-Plattform

Lassen Sie uns die zusätzlichen plattformbezogenen Vorteile von InterSystems IRIS aufführen, die für das Management von technologischen Prozessen entscheidend sind, insbesondere bei der Automatisierung von Echtzeit-KI und maschinellem Lernen:

• Erweiterte Integrationsmöglichkeiten mit allen Datenquellen und -verbrauchern (APC/SCADA, Ausrüstung, Wartung, ERP usw.)
• Integrierte multimodale Datenbank für leistungsstarke transaktionale und analytische Verarbeitung (Hybrid Transaction/Analytical Processing, HTAP) beliebiger Datenmengen aus technologischen Prozessen
• Entwicklerwerkzeuge für die kontinuierliche Bereitstellung von Echtzeit-AI/ML-Lösungen basierend auf Python, R, Julia
• Adaptive Geschäftsprozesse für die kontinuierliche Integration und das (Selbst-)Lernen von Echtzeit-AI/ML-Lösungen
• Integrierte Business-Intelligence-Tools zur Datenvisualisierung von technologischen Prozessen und den Ergebnissen von AI/ML-Lösungen
• API-Management zur Bereitstellung der Ergebnisse von AI/ML-Lösungen in APC/SCADA, Informations- und Analysesystemen, Alarmbenachrichtigungen usw.

AI/ML-Lösungen auf der InterSystems IRIS-Plattform integrieren sich nahtlos in bestehende IT-Infrastrukturen. Die InterSystems IRIS-Plattform bietet eine hohe Zuverlässigkeit für AI/ML-Lösungen durch die Unterstützung von ausfallsicheren und katastrophensicheren Konfigurationen sowie durch flexible Bereitstellungen in virtuellen Umgebungen, auf physischen Servern, in privaten und öffentlichen Cloud-Umgebungen sowie in Docker-Containern.

Damit ist InterSystems IRIS eine universelle Plattform für Echtzeit-AI/ML-Berechnungen. Die Vielseitigkeit unserer Plattform zeigt sich in der praktischen Abwesenheit von de facto Einschränkungen bezüglich der Komplexität der umgesetzten Berechnungen. InterSystems IRIS kann (in Echtzeit) Szenarien aus den unterschiedlichsten Branchen verarbeiten und passt jede Funktion und jeden Mechanismus der Plattform hervorragend an die spezifischen Bedürfnisse der Nutzer an.

Abbildung 21 InterSystems IRIS — universelle Plattform für Echtzeit-AI/ML-Berechnungen

Für einen tiefergehenden Austausch mit unseren Lesern, die sich für die hier präsentierten Inhalte interessieren, empfehlen wir, sich nicht nur auf das Lesen zu beschränken, sondern den Dialog "live" fortzusetzen. Wir bieten gerne Unterstützung bei der Formulierung von Real-Time AI/ML-Anwendungen, die auf die spezifischen Anforderungen Ihres Unternehmens zugeschnitten sind, führen gemeinsames Prototyping auf der InterSystems IRIS-Plattform durch, und erstellen sowie implementieren eine Roadmap für die Einführung von Künstlicher Intelligenz und Maschinellem Lernen in Ihre Produktions- und Managementprozesse. Die Kontaktadresse unseres Expertenteams für AI/ML lautet: MLToolkit@intersystems.com.

Quelle: habr.com