InterSystems IRIS – universelle Echtzeit-KI/ML-Plattform

Autor: Sergey Lukyanchikov, InterSystems Consulting Engineer

Herausforderungen beim Echtzeit-KI/ML-Computing

Beginnen wir mit Beispielen aus der Erfahrung der Data Science-Praxis bei InterSystems:

• Das „geladene“ Käuferportal ist an ein Online-Empfehlungssystem angeschlossen. Es steht eine Umstrukturierung der Werbeaktionen auf der Ebene des Einzelhandelsnetzwerks an (anstelle einer „flachen“ Werbeaktionslinie wird beispielsweise jetzt die „Segment-Taktik“-Matrix verwendet). Was passiert mit Empfehlungsgebern? Was passiert mit der Übermittlung und Aktualisierung von Daten an den Empfehlungsmechanismus (das Volumen der Eingabedaten hat sich um das 25000-fache erhöht)? Was passiert mit der Entwicklung von Empfehlungen (die Notwendigkeit einer tausendfachen Verringerung der Filterschwelle der Empfehlungsregeln aufgrund einer tausendfachen Zunahme ihrer Anzahl und „Reichweite“)?
• Es gibt ein System zur Überwachung der Wahrscheinlichkeit der Entwicklung von Defekten in Geräteknoten. An das Überwachungssystem war ein Prozessleitsystem angeschlossen, das jede Sekunde Tausende von Prozessparametern übermittelte. Was passiert mit dem Überwachungssystem, das zuvor mit „manuellen Stichproben“ gearbeitet hat (ist es in der Lage, eine sekundengenaue Wahrscheinlichkeitsüberwachung bereitzustellen)? Was passiert, wenn in den Eingabedaten ein neuer Block mit mehreren hundert Spalten mit den Messwerten von Sensoren erscheint, die kürzlich zum Prozessleitsystem hinzugefügt wurden (ob und wie lange muss das Überwachungssystem angehalten werden, um Daten von neuen Sensoren in das Prozessleitsystem aufzunehmen? Analyse)?
• Unter Nutzung der Ergebnisse der gegenseitigen Arbeit wurde eine Reihe von KI/ML-Mechanismen (empfehlenswert, überwachend, prädiktiv) erstellt. Wie viele Arbeitsstunden sind monatlich erforderlich, um den Betrieb dieses Komplexes an Änderungen der Eingabedaten anzupassen? Was ist die allgemeine „Verlangsamung“, die durch den Entscheidungskomplex unterstützt wird (Häufigkeit des Auftretens neuer unterstützender Informationen im Verhältnis zur Häufigkeit des Auftretens neuer Eingabedaten)?

Durch die Zusammenfassung dieser und vieler anderer Beispiele kamen wir zu der Formulierung der Herausforderungen, die sich bei der Umstellung auf den Einsatz von maschinellem Lernen und Mechanismen der künstlichen Intelligenz in Echtzeit ergeben:

• Sind wir mit der Geschwindigkeit der Erstellung und Anpassung (an die sich ändernde Situation) von KI-/ML-Entwicklungen in unserem Unternehmen zufrieden?
• Inwieweit unterstützen die von uns eingesetzten KI/ML-Lösungen die Unternehmensführung in Echtzeit?
• Sind die von uns verwendeten KI/ML-Lösungen in der Lage, sich selbstständig (ohne Entwickler) an Änderungen in Daten und Geschäftsverwaltungspraktiken anzupassen?

Unser Artikel gibt einen detaillierten Überblick über die Fähigkeiten der InterSystems IRIS-Plattform im Hinblick auf die universelle Unterstützung für den Einsatz von KI-/ML-Mechanismen, die Montage (Integration) von KI-/ML-Lösungen und das Training (Testen) von KI-/ML-Lösungen auf der Grundlage intensiver Daten fließt. In diesem Artikel werden wir uns der Marktforschung, Fallstudien zu KI/ML-Lösungen und konzeptionellen Aspekten dessen zuwenden, was wir als Echtzeit-KI/ML-Plattform bezeichnen.

Was wir aus Umfragen wissen: Echtzeitanwendungen

Ergebnisse UmfrageDie von Lightbend im Jahr 800 unter rund 2019 IT-Experten durchgeführten Umfragen sprechen für sich:

Abbildung 1 Führende Konsumenten von Echtzeitdaten

Lassen Sie uns die für uns wichtigen Fragmente des Berichts über die Ergebnisse dieser Umfrage in unserer Übersetzung zitieren:

„…Trends in der Beliebtheit von Datenfluss-Integrationstools und gleichzeitig die Unterstützung von Container-Computing bieten eine synergetische Antwort auf die Marktnachfrage nach einem effizienteren, rationaleren und dynamischeren Vorschlag effektiver Lösungen.“ Datenströme ermöglichen eine schnellere Übertragung von Informationen als herkömmliche Paketdaten. Hinzu kommt die Möglichkeit, rechnerische Methoden, wie etwa KI/ML-basierte Empfehlungen, schnell anzuwenden, um Wettbewerbsvorteile durch erhöhte Kundenzufriedenheit zu schaffen. Der Wettlauf um Agilität wirkt sich auch auf alle Rollen im DevOps-Paradigma aus – wodurch die Anwendungsentwicklung und -bereitstellung effizienter wird. … Achthundertvier IT-Experten stellten Informationen zur Nutzung von Datenflüssen in ihren Organisationen bereit. Die Befragten waren überwiegend in westlichen Ländern ansässig (41 % in Europa und 37 % in Nordamerika) und verteilten sich nahezu gleichmäßig auf kleine, mittlere und große Unternehmen. …

… Künstliche Intelligenz ist kein Hype. XNUMX Prozent derjenigen, die Datenflussverarbeitung bereits in produktiven KI/ML-Anwendungen einsetzen, bestätigen, dass ihr Einsatz in KI/ML im nächsten Jahr die größten Zuwächse verzeichnen wird (im Vergleich zu anderen Anwendungen).

• Laut der Mehrheit der Befragten wird die Nutzung von Datenflüssen in KI-/ML-Szenarien im nächsten Jahr den größten Anstieg erfahren.
• Anwendungen in KI/ML werden nicht nur durch relativ neue Arten von Szenarien wachsen, sondern auch durch traditionelle Szenarien, in denen zunehmend Echtzeitdaten verwendet werden.
• Neben KI/ML ist auch die Begeisterung der Nutzer von IoT-Datenpipelines beeindruckend – 48 % derjenigen, die bereits IoT-Daten integriert haben, sagen, dass die Umsetzung von Szenarien auf diesen Daten in naher Zukunft einen deutlichen Anstieg erfahren wird. … »

Aus dieser recht interessanten Umfrage geht hervor, dass die Wahrnehmung von maschinellen Lern- und künstlichen Intelligenzszenarien als führend beim Verbrauch von Datenströmen bereits „auf dem Weg“ ist. Aber auch die Wahrnehmung von Echtzeit-KI/ML durch DevOps-Optik wird zu einer ebenso wichtigen Beobachtung: Hier können wir bereits von der Transformation der immer noch vorherrschenden Kultur der „einmaligen KI/ML mit vollständig zugänglichem Datensatz“ sprechen.

Echtzeit-KI/ML-Plattformkonzept

Eine typische Anwendung für Echtzeit-KI/ML ist die Steuerung von Produktionsprozessen. Anhand seines Beispiels und unter Berücksichtigung bisheriger Überlegungen werden wir das Konzept einer Echtzeit-KI/ML-Plattform formulieren.
Der Einsatz von künstlicher Intelligenz und maschinellem Lernen in der Prozesssteuerung weist eine Reihe von Merkmalen auf:

• Daten über den Stand des technologischen Prozesses werden intensiv empfangen: mit hoher Frequenz und über einen breiten Parameterbereich (bis zu Zehntausende Parameterwerte pro Sekunde vom Prozessleitsystem übertragen)
• Daten über die Erkennung von Mängeln, ganz zu schweigen von Daten über ihre Entwicklung, sind im Gegenteil rar und unregelmäßig und zeichnen sich durch eine unzureichende Typisierung der Mängel und ihre zeitliche Lokalisierung aus (häufig dargestellt durch Aufzeichnungen auf Papier).
• Aus praktischer Sicht steht für das Training und die Anwendung von Modellen nur das „Relevanzfenster“ der Ausgangsdaten zur Verfügung, das die Dynamik des technologischen Prozesses für ein angemessenes Gleitintervall widerspiegelt und mit den zuletzt gelesenen Werten der Prozessparameter endet

Diese Funktionen zwingen uns, neben dem Empfang und der grundlegenden Echtzeitverarbeitung intensiver „Breitbandeingaben“ aus dem Prozess (parallel) die Anwendung, Schulung und Qualitätskontrolle der Arbeitsergebnisse von KI-/ML-Modellen durchzuführen – auch in Echtzeit. Der „Rahmen“, den unsere Modelle im gleitenden Relevanzfenster „sehen“, ändert sich ständig – und damit ändert sich auch die Qualität der Ergebnisse der Arbeit von KI-/ML-Modellen, die in der Vergangenheit auf einem der „Rahmen“ trainiert wurden . Wenn sich die Qualität der Ergebnisse der Arbeit von KI-/ML-Modellen verschlechtert (z. B. wenn der Wert des Klassifizierungsfehlers „Alarmnorm“ die von uns definierten Grenzen überschreitet), sollte automatisch mit der Neuschulung der Modelle begonnen werden Relevanter „Rahmen“ – und die Wahl des Zeitpunkts für den Beginn der Umschulung von Modellen sollte die Dauer des Trainings selbst sowie die Dynamik der Verschlechterung der Qualität der aktuellen Version der Modelle (seit den aktuellen Versionen) berücksichtigen der Modelle werden weiterhin angewendet, während die Modelle trainiert werden und bis ihre „neu trainierten“ Versionen generiert werden.

InterSystems IRIS verfügt über wichtige Plattformfunktionen, um Echtzeit-KI/ML-Lösungen für die Prozesssteuerung zu ermöglichen. Diese Möglichkeiten lassen sich in drei Hauptgruppen einteilen:

• Kontinuierliche Bereitstellung (Continuous Deployment/Delivery, CD) neuer oder angepasster bestehender KI/ML-Mechanismen in eine produktive Lösung, die in Echtzeit auf der InterSystems IRIS-Plattform arbeitet
• Kontinuierliche Integration (CI) in eine einzige produktive Lösung eingehender Prozessdatenflüsse, Datenwarteschlangen für die Anwendung/Schulung/Qualitätskontrolle von KI-/ML-Mechanismen und Daten-/Code-/Steuerungsaustausch mit mathematischen Modellierungsumgebungen, die in Echtzeit orchestriert werden InterSystems IRIS-Plattform
• Kontinuierliches (Selbst-)Lernen (Continuous Training, CT) von KI-/ML-Mechanismen, das in mathematischen Modellierungsumgebungen unter Verwendung von Daten, Code und Kontrollaktionen („getroffene Entscheidungen“) durchgeführt wird, die von der InterSystems IRIS-Plattform übermittelt werden

Die Einordnung der Plattformfähigkeiten in Bezug auf maschinelles Lernen und künstliche Intelligenz in genau solche Gruppen ist kein Zufall. Lassen Sie uns die Methodik zitieren Veröffentlichung Google, das eine konzeptionelle Grundlage für diese Klassifizierung liefert, in unserer Übersetzung:

„… Das heutzutage populäre DevOps-Konzept umfasst die Entwicklung und den Betrieb großer Informationssysteme. Die Vorteile der Umsetzung dieses Konzepts sind die Verkürzung der Entwicklungszyklen, die Beschleunigung der Entwicklungsbereitstellung und die Flexibilität der Release-Planung. Um diese Vorteile zu erzielen, umfasst DevOps die Implementierung von mindestens zwei Praktiken:

• Kontinuierliche Integration (CI)
• Kontinuierliche Lieferung (CD)

Diese Praktiken gelten auch für KI/ML-Plattformen, um robuste und leistungsstarke Builds produktiver KI/ML-Lösungen sicherzustellen.

KI/ML-Plattformen unterscheiden sich von anderen Informationssystemen in folgenden Aspekten:

• Teamkompetenzen: Beim Aufbau einer KI/ML-Lösung umfasst das Team in der Regel Datenwissenschaftler oder Datenwissenschaftler, die Datenanalyse, Modellentwicklung und Validierung durchführen. Diese Teammitglieder sind möglicherweise keine professionellen Entwickler von Produktivcode.
• Entwicklung: KI/ML-Mechanismen sind experimenteller Natur. Um das Problem möglichst effizient zu lösen, ist es erforderlich, verschiedene Kombinationen von Eingabevariablen, Algorithmen, Modellierungsmethoden und Modellparametern zu sortieren. Die Komplexität einer solchen Suche besteht darin, nachzuverfolgen, „was funktioniert hat/nicht funktioniert“, die Reproduzierbarkeit von Episoden sicherzustellen und Entwicklungen für wiederkehrende Implementierungen zu verallgemeinern.
• Testen: Das Testen von KI-/ML-Mechanismen erfordert eine größere Auswahl an Tests als die meisten anderen Entwicklungen. Neben typischen Unit- und Integrationstests werden die Validität der Daten und die Qualität der Ergebnisse der Anwendung des Modells auf Trainings- und Kontrollproben getestet.
• Bereitstellung: Die Bereitstellung von KI/ML-Lösungen ist nicht auf Vorhersagedienste beschränkt, die ein einmal trainiertes Modell anwenden. KI-/ML-Lösungen basieren auf mehrstufigen Pipelines, die automatisiertes Training und Anwendung von Modellen durchführen. Der Einsatz solcher Pipelines erfordert die Automatisierung nicht trivialer Schritte, die traditionell von Datenwissenschaftlern manuell ausgeführt werden, um Modelle trainieren und testen zu können.
• Produktiv: KI/ML-Engines können nicht nur aufgrund ineffizienter Programmierung, sondern auch aufgrund der sich ständig ändernden Art der Eingabedaten nicht leistungsfähig sein. Mit anderen Worten: Die Leistung von KI-/ML-Mechanismen kann sich aus einer breiteren Palette von Gründen verschlechtern als die Leistung herkömmlicher Entwicklungen. Daraus ergibt sich die Notwendigkeit, die Leistung unserer KI/ML-Engines (online) zu überwachen und Warnungen zu senden oder Ergebnisse abzulehnen, wenn die Leistung nicht den Erwartungen entspricht.

KI/ML-Plattformen ähneln anderen Informationssystemen darin, dass beide eine kontinuierliche Codeintegration mit Versionskontrolle, Unit-Tests, Integrationstests und kontinuierlicher Entwicklungsbereitstellung erfordern. Im Fall von KI/ML gibt es jedoch einige wichtige Unterschiede:

• CI (Continuous Integration) beschränkt sich nicht mehr nur auf das Testen und Validieren des Codes bereitgestellter Komponenten – es umfasst auch das Testen und Validieren von Daten und KI/ML-Modellen.
• CD (Continuous Delivery/Deployment, kontinuierliche Bereitstellung) beschränkt sich nicht auf das Schreiben und Freigeben von Paketen oder Diensten, sondern impliziert eine Plattform zum Erstellen, Lernen und Anwenden von KI/ML-Lösungen.
• CT (Continuous Training, kontinuierliches Lernen) – ein neues Element [ca. vom Autor des Artikels: ein neues Element in Bezug auf das traditionelle Konzept von DevOps, bei dem CT normalerweise kontinuierliches Testen ist], das KI/ML-Plattformen innewohnt und für die autonome Verwaltung der Mechanismen zum Lernen und Anwenden von KI/ML-Modellen verantwortlich ist. ... "

Wir können feststellen, dass maschinelles Lernen und künstliche Intelligenz, die mit Echtzeitdaten arbeiten, ein breiteres Spektrum an Werkzeugen und Kompetenzen (von der Codeentwicklung bis zur Orchestrierung mathematischer Modellierungsumgebungen), eine engere Integration aller Funktions- und Fachbereiche sowie eine effizientere Organisation menschlicher und menschlicher Arbeit erfordern Maschinenressourcen.

Echtzeit-Szenario: Erkennen der Entstehung von Defekten an Förderpumpen

Nehmen wir weiterhin den Bereich der Prozesssteuerung als Beispiel und betrachten wir eine konkrete Aufgabe (die wir bereits zu Beginn erwähnt haben): Es geht darum, die Entwicklung von Defekten in Pumpen anhand des Flusses von Prozessparametern in Echtzeit zu überwachen und Berichte des Wartungspersonals über festgestellte Mängel.

Abbildung 2 Formulierung der Aufgabe zur Überwachung der Fehlerentwicklung

Die Besonderheit der meisten auf diese Weise in der Praxis gestellten Aufgaben besteht darin, dass die Regelmäßigkeit und Effizienz des Datenempfangs (APCS) vor dem Hintergrund des episodischen und unregelmäßigen Auftretens (und der Registrierung) verschiedener Arten von Fehlern betrachtet werden sollte. Mit anderen Worten: Die Daten aus dem Prozessleitsystem kommen im Sekundentakt richtig-genau und Mängel werden mit einem unauslöschlichen Bleistift mit Datum im allgemeinen Notizbuch in der Werkstatt festgehalten (zum Beispiel: „12.01 – Leck in den Deckel aus dem Seite des 3. Lagers“).

Somit ist es möglich, die Formulierung des Problems durch die folgende wichtige Einschränkung zu ergänzen: Wir haben nur eine „Beschriftung“ eines Fehlers eines bestimmten Typs (d. h. ein Beispiel eines Fehlers eines bestimmten Typs wird durch Daten aus dargestellt). Prozessleitsystem für ein bestimmtes Datum - und wir haben keine weiteren Beispiele für einen Defekt dieser Art). Diese Einschränkung führt uns sofort über den Rahmen des klassischen maschinellen Lernens (überwachtes Lernen) hinaus, für das es viele „Labels“ geben sollte.

Abbildung 3 Verfeinerung der Aufgabe der Überwachung der Fehlerentwicklung

Können wir das einzige „Etikett“, das uns zur Verfügung steht, irgendwie „vermehren“? Ja wir können. Der aktuelle Zustand der Pumpe wird durch den Grad der Ähnlichkeit mit registrierten Mängeln charakterisiert. Auch ohne den Einsatz quantitativer Methoden kann man auf der Ebene der visuellen Wahrnehmung durch Beobachtung der Dynamik der Datenwerte, die vom Prozessleitsystem kommen, bereits viel lernen:

Abbildung 4 Dynamik des Zustands der Pumpe vor dem Hintergrund der „Markierung“ eines Defekts eines bestimmten Typs

Aber die visuelle Wahrnehmung ist (zumindest im Moment) nicht der am besten geeignete Generator für „Tags“ in unserem sich schnell verändernden Szenario. Mithilfe eines statistischen Tests bewerten wir die Ähnlichkeit des aktuellen Zustands der Pumpe mit den gemeldeten Mängeln.

Abbildung 5: Anwenden eines statistischen Tests auf eingehende Daten vor dem Hintergrund einer „Kennzeichnung“ eines Fehlers

Der statistische Test ermittelt die Wahrscheinlichkeit, dass die Datensätze mit den Werten der technologischen Prozessparameter im vom Prozessleitsystem empfangenen „Flow-Paket“ den „Label“-Datensätzen einer bestimmten Fehlerart ähnlich sind. Der als Ergebnis der Anwendung eines statistischen Tests berechnete Wahrscheinlichkeitswert (statistischer Ähnlichkeitsindex) wird in einen Wert von 0 oder 1 umgewandelt und wird so zu einer „Kennzeichnung“ für maschinelles Lernen in jedem spezifischen Datensatz im Ähnlichkeitspaket. Das heißt, nachdem wir das neu empfangene Paket von Pumpenzustandsdatensätzen mit einem statistischen Test verarbeitet haben, haben wir die Möglichkeit, (a) dieses Paket zum Trainingsbeispiel für das Training des AI/ML-Modells hinzuzufügen und (b) die Qualität zu überwachen die aktuelle Version des Modells, wenn es auf dieses Paket angewendet wird.

Abbildung 6: Anwenden eines maschinellen Lernmodells auf eingehende Daten vor dem Hintergrund einer „Kennzeichnung“ eines Fehlers

In einem unserer vorherigen Webinare Wir zeigen und erklären, wie Sie mit der InterSystems IRIS-Plattform beliebige KI-/ML-Mechanismen in Form kontinuierlich ausgeführter Geschäftsprozesse implementieren können, die die Zuverlässigkeit von Simulationsergebnissen steuern und Modellparameter anpassen. Bei der Implementierung des Prototyps unseres Szenarios mit Pumpen nutzen wir alle im Webinar vorgestellten InterSystems IRIS-Funktionalitäten und implementieren im Analyseprozess als Teil unserer Lösung nicht klassisches überwachtes Lernen, sondern Verstärkungslernen, das die Probe automatisch für das Training steuert Modelle. In der Trainingsstichprobe werden Datensätze platziert, über die ein „Erkennungskonsens“ zustande kommt, nachdem sowohl der statistische Test als auch die aktuelle Version des Modells angewendet wurden – d. h. sowohl der statistische Test (nach der Transformation des Ähnlichkeitsindex auf 0 oder 1) als auch der Das Modell hat bei solchen Datensätzen ein Ergebnis erzeugt. 1. Bei einem neuen Training des Modells werden während seiner Validierung (das neu trainierte Modell wird auf seine eigene Trainingsstichprobe angewendet, mit einer vorläufigen Anwendung eines statistischen Tests darauf) die Datensätze, die „tat.“ „Nicht halten“ Das Ergebnis 1 wird nach der Verarbeitung durch den statistischen Test (aufgrund der ständigen Anwesenheit der Stichprobe von Datensätzen aus dem ursprünglichen „Label“ des Fehlers im Training) aus der Trainingsstichprobe entfernt und die neue Version des Modells lernt aus dem „Label“ des Fehlers plus den „gehaltenen“ Datensätzen aus dem Stream.

Abbildung 7 Robotisierung von KI/ML-Berechnungen in InterSystems IRIS

Wenn eine Art „zweite Meinung“ zur Erkennungsqualität durch lokales Computing in InterSystems IRIS benötigt wird, wird ein Beraterprozess erstellt, um Trainings-Anwendungsmodelle auf einem Kontrolldatensatz mithilfe von Cloud-Diensten (z. B. Microsoft Azure) durchzuführen , Amazon Web Services, Google Cloud Platform usw.):

Abbildung 8: Zweite Stellungnahme von Microsoft Azure, orchestriert von InterSystems IRIS

Der Prototyp unseres Szenarios in InterSystems IRIS besteht aus einem agentenbasierten System analytischer Prozesse, die mit dem Geräteobjekt (Pumpe) und mathematischen Modellierungsumgebungen (Python, R und Julia) interagieren und das Selbstlernen aller ermöglichen Beteiligte KI/ML-Mechanismen – an Echtzeit-Datenflüssen.

Abbildung 9 Hauptfunktionalität der Echtzeit-KI/ML-Lösung in InterSystems IRIS

Das praktische Ergebnis unseres Prototyps:

• Vom Modell erkanntes Fehlermuster (12. Januar):

• Ein vom Modell erkannter sich entwickelnder Defekt, der nicht in der Probe enthalten war (11. September, der Defekt selbst wurde vom Reparaturteam erst zwei Tage später - 13. September) festgestellt:

Die Simulation realer Daten mit mehreren Episoden desselben Defekts hat gezeigt, dass unsere auf der InterSystems IRIS-Plattform implementierte Lösung es uns ermöglicht, die Entwicklung solcher Defekte mehrere Tage vor der Entdeckung durch das Reparaturteam zu erkennen.

InterSystems IRIS – universelle Echtzeit-KI/ML-Computing-Plattform

Die InterSystems IRIS-Plattform vereinfacht die Entwicklung, Bereitstellung und den Betrieb von Echtzeit-Datenlösungen. InterSystems IRIS ist in der Lage, gleichzeitig transaktionale und analytische Datenverarbeitung durchzuführen; Aufrechterhaltung synchronisierter Datenansichten gemäß mehreren Modellen (einschließlich relationaler, hierarchischer, Objekt- und Dokumentmodelle); als Integrationsplattform für eine Vielzahl von Datenquellen und individuellen Anwendungen fungieren; Bereitstellung fortschrittlicher Echtzeitanalysen für strukturierte und unstrukturierte Daten. InterSystems IRIS bietet außerdem Mechanismen für den Einsatz externer Analysetools und ermöglicht die Flexibilität, Hosting in der Cloud und auf lokalen Servern zu kombinieren.

Auf der InterSystems IRIS-Plattform basierende Anwendungen wurden branchenübergreifend eingesetzt und helfen Unternehmen dabei, aus strategischer und operativer Sicht einen erheblichen wirtschaftlichen Wert zu erzielen, die Entscheidungsfindung zu verbessern und die Lücken zwischen Ereignis, Analyse und Aktion zu schließen.

Abbildung 10 InterSystems IRIS-Architektur im Kontext von Echtzeit-KI/ML

Wie das vorherige Diagramm kombiniert das folgende Diagramm das neue „Koordinatensystem“ (CD/CI/CT) mit dem Informationsfluss zwischen Plattformarbeitselementen. Die Visualisierung beginnt mit dem CD-Makromechanismus und wird mit den CI- und CT-Makromechanismen fortgesetzt.

Abbildung 11 Schema des Informationsflusses zwischen KI/ML-Elementen der InterSystems IRIS-Plattform

Die Essenz des CD-Mechanismus in InterSystems IRIS: Plattformbenutzer (KI-/ML-Lösungsentwickler) passen bestehende KI-/ML-Entwicklungen an und/oder erstellen neue KI-/ML-Entwicklungen mithilfe eines speziellen Code-Editors für KI-/ML-Mechanismen: Jupyter (vollständiger Name: Jupyter Notebook; auch Der Kürze halber werden in diesem Editor erstellte Dokumente manchmal auch als „Dokumente“ bezeichnet. In Jupyter hat ein Entwickler die Möglichkeit, eine bestimmte KI-/ML-Entwicklung zu schreiben, zu debuggen und deren Leistung (einschließlich der Verwendung von Grafiken) zu überprüfen, bevor sie in InterSystems IRIS gehostet („bereitgestellt“) wird. Es ist klar, dass eine auf diese Weise erstellte Neuentwicklung nur ein grundlegendes Debugging erhält (insbesondere da Jupyter nicht mit Echtzeit-Datenströmen arbeitet) – dies ist an der Tagesordnung, da das Hauptergebnis der Entwicklung in Jupyter liegt ist eine Bestätigung der grundsätzlichen Funktionsfähigkeit eines separaten KI-/ML-Mechanismus („zeigt das erwartete Ergebnis auf der Datenprobe“). Ebenso kann ein Mechanismus, der bereits vor dem Debuggen in Jupyter in der Plattform platziert ist (siehe die folgenden Makromechanismen), ein „Rollback“ auf die „Vor-Plattform“-Form erfordern (Lesen von Daten aus Dateien, Arbeiten mit Daten über xDBC statt Tabellen, direkte Interaktion mit Globals – mehrdimensionale Datenarrays InterSystems IRIS – etc.).

Ein wichtiger Aspekt der CD-Implementierung in InterSystems IRIS besteht darin, dass eine bidirektionale Integration zwischen der Plattform und Jupyter implementiert wird, die es Ihnen ermöglicht, Inhalte in Python, R und Julia (alle drei sind es) auf die Plattform zu übertragen (und weiter auf der Plattform zu verarbeiten). Programmiersprachen in den entsprechenden führenden Open-Source-Source-Umgebungen der mathematischen Modellierung). Somit haben Entwickler von AI/ML-Inhalten die Möglichkeit, diese Inhalte „kontinuierlich“ auf der Plattform bereitzustellen, indem sie in ihrem vertrauten Jupyter-Editor mit vertrauten Bibliotheken arbeiten, die in Python, R, Julia verfügbar sind, und grundlegendes Debugging (falls erforderlich) außerhalb der Plattform durchführen .

Kommen wir zum Makromechanismus von CI in InterSystems IRIS. Das Diagramm zeigt den Makroprozess des „Echtzeitroboters“ (einen Komplex aus Datenstrukturen, Geschäftsprozessen und von ihnen orchestrierten Codefragmenten in den Sprachen Mats und der ObjectScript-Sprache – der nativen Entwicklungssprache von InterSystems). IRIS). Die Aufgabe dieses Makroprozesses besteht darin, die für den Betrieb von KI-/ML-Mechanismen erforderlichen Datenwarteschlangen aufrechtzuerhalten (basierend auf Datenflüssen, die in Echtzeit an die Plattform übertragen werden), Entscheidungen über die Reihenfolge der Anwendung und die „Reichweite“ von KI-/ML-Mechanismen zu treffen. ML-Mechanismen (sie sind auch „mathematische Algorithmen“, „Modelle“ usw. – können je nach Implementierungsspezifikationen und terminologischen Präferenzen unterschiedlich bezeichnet werden) halten Datenstrukturen auf dem neuesten Stand, um die Ergebnisse der Arbeit von KI-/ML-Mechanismen zu analysieren (Cubes, Tabellen, mehrdimensionale Datenarrays usw.). usw. – für Berichte, Dashboards usw.).

Ein wichtiger Aspekt der Implementierung von CI in InterSystems IRIS besteht darin, dass eine bidirektionale Integration zwischen der Plattform und den mathematischen Modellierungsumgebungen implementiert wird, was die Ausführung der auf der Plattform in Python, R und Julia gehosteten Inhalte in ihren jeweiligen Umgebungen mit Rückgabe von Ausführungsergebnissen ermöglicht . Diese Integration wird sowohl im „Terminalmodus“ (d. h. AI/ML-Inhalte werden als ObjectScript-Code formuliert, der Mats aufruft) als auch im „Geschäftsprozessmodus“ (d. h. AI/ML-Inhalte werden als Geschäftsprozess mithilfe eines Grafikeditors formuliert) implementiert. oder manchmal mit Jupyter oder mit einer IDE (IRIS Studio, Eclipse, Visual Studio Code). Die Bearbeitbarkeit von Geschäftsprozessen in Jupyter spiegelt sich in der Beziehung zwischen IRIS auf CI-Ebene und Jupyter auf CD-Ebene wider. Nachfolgend finden Sie einen detaillierteren Überblick über die Integration mit mathematischen Modellierungsumgebungen. Zum jetzigen Zeitpunkt gibt es unserer Meinung nach allen Grund, das Vorhandensein aller notwendigen Tools auf der Plattform festzulegen, um die „kontinuierliche Integration“ von KI-/ML-Entwicklungen (ausgehend von „kontinuierlicher Bereitstellung“) in Echtzeit-KI/ML zu implementieren. ML-Lösungen.

Und der wichtigste Makromechanismus: CT. Ohne sie wird es keine KI-/ML-Plattform geben (obwohl „Echtzeit“ über CD/CI implementiert wird). Das Wesentliche an CT ist die Arbeit der Plattform mit den „Artefakten“ des maschinellen Lernens und der künstlichen Intelligenz direkt in den Arbeitssitzungen mathematischer Modellierungsumgebungen: Modelle, Verteilungstabellen, Matrixvektoren, Schichten neuronaler Netze usw. Diese „Arbeit“ besteht in den meisten Fällen darin, die genannten Artefakte in den Umgebungen zu erstellen (bei Modellen besteht die „Erstellung“ beispielsweise aus der Festlegung der Modellspezifikation und der anschließenden Auswahl der Werte seiner Parameter – der sogenanntes „Training“ des Modells), ihre Anwendung (bei Modellen: Verwendung zur Berechnung von „Modell“-Werten von Zielvariablen – Prognosen, Zugehörigkeit zu einer Kategorie, Eintrittswahrscheinlichkeit eines Ereignisses usw.) und Verbesserung bereits erstellte und angewendete Artefakte (z. B. Neudefinition des Satzes von Modelleingabevariablen basierend auf den Ergebnissen der Anwendung – optional zur Erhöhung der Vorhersagegenauigkeit). Der entscheidende Punkt beim Verständnis der Rolle von CT ist seine „Abstraktion“ von den Realitäten von CD und CI: CT wird alle Artefakte implementieren und sich dabei auf die rechnerischen und mathematischen Besonderheiten der KI/ML-Lösung im Rahmen der von bestimmten Umgebungen bereitgestellten Fähigkeiten konzentrieren . Die Verantwortung für die „Bereitstellung von Eingabedaten“ und die „Lieferung von Ergebnissen“ liegt bei CD und CI.

Ein wichtiger Aspekt der CT-Implementierung in InterSystems IRIS: Durch die oben bereits erwähnte Integration mit mathematischen Modellierungsumgebungen ist die Plattform in der Lage, dieselben Artefakte aus Arbeitssitzungen zu extrahieren, die unter ihrer Kontrolle in den Umgebungen laufen, und (was am wichtigsten ist) sie in eine Plattform umzuwandeln Datenobjekte. Beispielsweise kann eine Verteilungstabelle, die gerade in einer laufenden Python-Sitzung erstellt wurde, (ohne die Sitzung in Python zu stoppen) in Form beispielsweise eines globalen (multidimensionalen InterSystems IRIS-Datenarrays) an die Plattform übertragen und verwendet werden für Berechnungen in einem anderen AI/ML-Mechanismus (bereits implementiert in der Sprache einer anderen Umgebung – zum Beispiel in R) – oder einer virtuellen Tabelle. Ein weiteres Beispiel: Parallel zum „Normalmodus“ der Modelloperation (in der Python-Arbeitssitzung) wird „Auto-ML“ an seinen Eingabedaten durchgeführt: automatische Auswahl optimaler Eingabevariablen und Parameterwerte. Und neben dem „regulären“ Training erhält das produktive Modell in Echtzeit auch einen „Optimierungsvorschlag“ für seine Spezifikation – bei dem sich der Satz der Eingabevariablen ändert, die Parameterwerte sich ändern (nicht als Ergebnis des Trainings in Python). , sondern als Ergebnis des Trainings einer „alternativen Version von sich selbst, wie z. B. im H2O-Stack“), wodurch die gesamte KI/ML-Lösung autonom mit unvorhergesehenen Änderungen in der Art der Eingabedaten und der modellierten Phänomene umgehen kann.

Machen wir uns am Beispiel eines realen Prototyps näher mit der Plattform-KI/ML-Funktionalität von InterSystems IRIS vertraut.

Im Diagramm unten, auf der linken Seite der Folie, gibt es einen Teil des Geschäftsprozesses, der die Verarbeitung von Skripten in Python und R implementiert. Im mittleren Teil gibt es visuelle Protokolle für die Ausführung einiger dieser Skripte. jeweils in Python und R. Direkt dahinter befinden sich Beispiele für Inhalte in der einen und einer anderen Sprache, die zur Ausführung in den entsprechenden Umgebungen eingereicht werden. Am Ende rechts befinden sich Visualisierungen, die auf den Ergebnissen der Skriptausführung basieren. Die Visualisierungen oben werden auf IRIS Analytics erstellt (die Daten werden von Python zur InterSystems IRIS-Datenplattform übertragen und über die Plattform auf dem Dashboard angezeigt), unten werden sie direkt in der R-Arbeitssitzung erstellt und von dort ausgegeben Grafikdateien. Ein wichtiger Aspekt: ​​Das im Prototyp präsentierte Fragment ist für das Training des Modells (Klassifizierung von Gerätezuständen) anhand von Daten verantwortlich, die in Echtzeit vom Prozesssimulator der Ausrüstung kommen, auf Befehl des Prozessmonitors für die Qualität der Klassifizierung während der Anwendung des Modells beobachtet. Die Implementierung einer KI/ML-Lösung als eine Reihe interagierender Prozesse („Agenten“) wird weiter diskutiert.

Abbildung 12 Interaktion mit Python, R und Julia in InterSystems IRIS

Plattformprozesse (sie sind je nach Kontext auch „Geschäftsprozesse“, „analytische Prozesse“, „Pipelines“ usw.) werden primär in einem grafischen Geschäftsprozesseditor in der Plattform selbst bearbeitet, und zwar so, dass beides funktioniert Sein Blockdiagramm und der entsprechende AI/ML-Mechanismus (Programmcode) werden gleichzeitig erstellt. Wenn wir über die Tatsache sprechen, dass „ein KI/ML-Mechanismus erhalten wird“, meinen wir zunächst Hybridität (innerhalb desselben Prozesses): Inhalte in Sprachen mathematischer Modellierungsumgebungen grenzen an Inhalte in SQL (einschließlich Erweiterungen von) an IntegratedML), in InterSystems ObjectScript, mit anderen unterstützten Sprachen. Darüber hinaus bietet der Plattformprozess sehr umfangreiche Möglichkeiten zum „Zeichnen“ in Form hierarchisch verschachtelter Fragmente (wie im Beispiel im Diagramm unten zu sehen ist), wodurch Sie selbst sehr komplexe Inhalte effektiv organisieren können, ohne „herauszufallen“. das Grafikformat an einer beliebigen Stelle (in „nichtgrafische“ Methoden/Klassen/Prozeduren usw.). Das heißt, bei Bedarf (und dies wird in den meisten Projekten erwartet) können absolut alle KI-/ML-Lösungen in einem grafischen Selbstkommentierungsformat implementiert werden. Bitte beachten Sie, dass im mittleren Teil des Diagramms unten, das eine höhere „Verschachtelungsebene“ zeigt, neben der eigentlichen Arbeit des Modelltrainings (mit Python und R) auch eine Analyse des sogenannten ROC zu sehen ist Es wird eine Kurve des trainierten Modells hinzugefügt, die es ermöglicht, die Qualität des Trainings visuell (und auch rechnerisch) zu bewerten – und diese Analyse wird in der Julia-Sprache implementiert (sie wird entsprechend in der Julia-Umgebung ausgeführt).

Abbildung 13 Visuelle Umgebung zum Erstellen von KI/ML-Lösungen in InterSystems IRIS

Wie bereits erwähnt, wird/kann die anfängliche Entwicklung und (in einigen Fällen) Anpassung von KI-/ML-Mechanismen, die bereits in der Plattform implementiert sind, außerhalb der Plattform im Jupyter-Editor erfolgen. Im Diagramm unten sehen wir ein Beispiel für die Anpassung eines bestehenden Plattformprozesses (das gleiche wie im Diagramm oben) – so sieht das Fragment, das für das Training des Modells verantwortlich ist, in Jupyter aus. Python-Inhalte stehen zum Bearbeiten, Debuggen und zur Grafikausgabe direkt in Jupyter zur Verfügung. Änderungen (falls erforderlich) können mit sofortiger Synchronisierung des Plattformprozesses, einschließlich seiner Produktionsversion, vorgenommen werden. Ebenso können neue Inhalte auf die Plattform übertragen werden (es wird automatisch ein neuer Plattformprozess generiert).

Abbildung 14: Verwenden von Jupyter Notebook zum Bearbeiten der AI/ML-Engine in der InterSystems IRIS-Plattform

Die Anpassung des Plattformprozesses kann nicht nur im Grafik- oder Notebook-Format, sondern auch im „gesamten“ IDE-Format (Integrated Development Environment) erfolgen. Diese IDEs sind IRIS Studio (natives IRIS Studio), Visual Studio Code (InterSystems IRIS-Erweiterung für VSCode) und Eclipse (Atelier-Plugin). In manchen Fällen ist es für das Entwicklungsteam möglich, alle drei IDEs gleichzeitig zu verwenden. Das folgende Diagramm zeigt ein Beispiel für die Bearbeitung desselben Prozesses in IRIS Studio, in Visual Studio Code und in Eclipse. Absolut alle Inhalte stehen zur Bearbeitung zur Verfügung: Python / R / Julia / SQL und ObjectScript sowie ein Geschäftsprozess.

Abbildung 15 Entwicklung des InterSystems IRIS-Geschäftsprozesses in verschiedenen IDEs

Besonders hervorzuheben sind die Geschäftsprozessbeschreibungs- und Ausführungstools von InterSystems IRIS in der Business Process Language (BPL). BPL ermöglicht den Einsatz „vorgefertigter Integrationskomponenten“ (Aktivitäten) in Geschäftsprozessen – was in der Tat allen Grund zu der Annahme gibt, dass „kontinuierliche Integration“ in InterSystems IRIS implementiert ist. Vorgefertigte Geschäftsprozesskomponenten (Aktivitäten und Verbindungen zwischen ihnen) sind der stärkste Beschleuniger für die Zusammenstellung einer KI/ML-Lösung. Und nicht nur Baugruppen: Dank der Aktivitäten und Verbindungen zwischen ihnen, über unterschiedliche KI-/ML-Entwicklungen und -Mechanismen entsteht eine „autonome Verwaltungsebene“, die in der Lage ist, Entscheidungen je nach Situation und in Echtzeit zu treffen.

Abbildung 16 Vorgefertigte Geschäftsprozesskomponenten für Continuous Integration (CI) auf der InterSystems IRIS-Plattform

Das Konzept der Agentensysteme (auch „Multiagentensysteme“ genannt) nimmt in der Robotik eine starke Stellung ein und wird von der InterSystems IRIS-Plattform durch das „Produkt-Prozess“-Konstrukt organisch unterstützt. Zusätzlich zu den unbegrenzten Möglichkeiten, jeden Prozess mit der für die Gesamtlösung notwendigen Funktionalität zu „stopfen“, ermöglicht die Ausstattung des Systems von Plattformprozessen mit der Eigenschaft der „Agentur“, effektive Lösungen für extrem instabile simulierte Phänomene (Verhalten von Sozial-/Biosystemen) zu schaffen , teilweise beobachtbare technologische Prozesse usw.).

Abbildung 16 Betrieb der KI/ML-Lösung als Geschäftsprozess-Agentensystem in InterSystems IRIS

Wir setzen unsere Überprüfung von InterSystems IRIS mit einer Geschichte über die Anwendung der Plattform zur Lösung ganzer Klassen von Echtzeitproblemen fort (eine ziemlich detaillierte Bekanntschaft mit einigen der Best Practices der Plattform-KI/ML auf InterSystems IRIS finden Sie in einem unserer vorherigen Artikel). Webinare).

In Fortsetzung des vorherigen Diagramms finden Sie unten ein detaillierteres Diagramm des Agentensystems. Das Diagramm zeigt den gleichen Prototyp, alle vier Agentenprozesse sind sichtbar, die Beziehungen zwischen ihnen sind schematisch dargestellt: GENERATOR – übernimmt die Erstellung von Daten durch Gerätesensoren, BUFFER – verwaltet Datenwarteschlangen, ANALYZER – führt selbst maschinelles Lernen durch, MONITOR – steuert die Qualität des maschinellen Lernens und gibt ein Signal, dass das Modell neu trainiert werden muss.

Abbildung 17 Aufbau einer KI/ML-Lösung als Business Process Agent System in InterSystems IRIS

Das folgende Diagramm veranschaulicht die autonome Funktionsweise eines anderen Roboterprototyps (emotionale Texterkennung) über einen längeren Zeitraum. Im oberen Teil - die Entwicklung des Modelllernqualitätsindikators (die Qualität wächst), im unteren Teil - die Dynamik des Modellanwendungsqualitätsindikators und die Fakten wiederholten Trainings (rote Balken). Wie Sie sehen, hat die Lösung selbst effizient und autonom gelernt und arbeitet auf einem bestimmten Qualitätsniveau (die Werte des Qualitätsindikators fallen nicht unter 80 %).

Abbildung 18 Kontinuierliches (Selbst-)Lernen (CT) auf der InterSystems IRIS-Plattform

„Auto-ML“ haben wir bereits erwähnt, aber die folgende Abbildung zeigt die Anwendung dieser Funktionalität im Detail am Beispiel eines anderen Prototyps. Das grafische Diagramm des Geschäftsprozessfragments zeigt die Aktivität, die die Simulation im H2O-Stack startet, und zeigt die Ergebnisse dieser Simulation (offensichtliche Dominanz des resultierenden Modells gegenüber den „künstlichen“ Modellen, gemäß dem Vergleichsdiagramm der ROC-Kurven). , sowie automatisierte Identifizierung der „einflussreichsten Variablen“ aus dem verfügbaren Originaldatensatz). Der wichtige Punkt hierbei ist die Einsparung von Zeit und Expertenressourcen, die durch „Auto-ML“ erreicht wird: Was unser Plattformprozess in einer halben Minute erledigt (Finden und Trainieren des optimalen Modells), kann ein Experte eine Woche bis eine Woche brauchen Monat.

Abbildung 19 Auto-ML-Integration in eine AI/ML-Lösung basierend auf der InterSystems IRIS-Plattform

Das folgende Diagramm „dämpft den Höhepunkt“ ein wenig, aber dies ist eine gute Möglichkeit, die Geschichte über die Klassen von Echtzeitproblemen zu vervollständigen, die gelöst werden: Wir erinnern Sie daran, dass mit allen Funktionen der InterSystems IRIS-Plattform die Trainingsmodelle unter seine Kontrolle ist nicht zwingend. Die Plattform kann extern eine sogenannte PMML-Modellspezifikation beziehen, die in einem nicht von der Plattform kontrollierten Tool trainiert wurde – und dieses Modell ab dem Zeitpunkt des Imports in Echtzeit anwenden PMML-Spezifikationen. Gleichzeitig ist zu berücksichtigen, dass nicht alle AI/ML-Artefakte auf eine PMML-Spezifikation reduziert werden können, auch wenn die meisten der gängigsten Artefakte dies zulassen. Somit verfügt die InterSystems IRIS-Plattform über einen „offenen Regelkreis“ und bedeutet keine „Plattformsklaverei“ für Benutzer.

Abbildung 20 Auto-ML-Integration in eine AI/ML-Lösung basierend auf der InterSystems IRIS-Plattform

Wir listen die zusätzlichen Plattformvorteile von InterSystems IRIS (der Übersichtlichkeit halber in Bezug auf die Prozesssteuerung) auf, die bei der Automatisierung von künstlicher Intelligenz und maschinellem Lernen in Echtzeit von großer Bedeutung sind:

• Erweiterte Integrationstools mit beliebigen Datenquellen und Verbrauchern (PCS/SCADA, Ausrüstung, MRO, ERP usw.)
• Eingebaut Multimodell-DBMS zur hochperformanten transaktionsanalytischen Verarbeitung (Hybrid Transaction/Analytical Processing, HTAP) beliebiger Prozessdatenmengen
• Entwicklungstools für die kontinuierliche Bereitstellung von Echtzeit-KI/ML-Entscheidungs-Engines basierend auf Python, R, Julia
• Adaptive Geschäftsprozesse für kontinuierliche Integration und (selbst-)lernende Mechanismen von Echtzeit-KI/ML-Lösungen
• Eingebettete Business-Intelligence-Tools zur Visualisierung von Prozessdaten und KI/ML-Lösungsergebnissen
• API-Management um die Ergebnisse der KI-/ML-Lösung an Prozessleitsysteme/SCADA, Informations- und Analysesysteme zu liefern, Warnungen zu senden usw.

KI-/ML-Lösungen auf Basis der InterSystems IRIS-Plattform fügen sich problemlos in die bestehende IT-Infrastruktur ein. Die InterSystems IRIS-Plattform bietet eine hohe Zuverlässigkeit von KI/ML-Lösungen durch Unterstützung fehlertoleranter und katastrophentoleranter Konfigurationen und flexibler Bereitstellung in virtuellen Umgebungen, auf physischen Servern, in privaten und öffentlichen Clouds sowie Docker-Containern.

Damit ist InterSystems IRIS eine universelle Echtzeit-KI/ML-Computing-Plattform. Die Universalität unserer Plattform wird in der Praxis durch das Fehlen faktischer Einschränkungen hinsichtlich der Komplexität der implementierten Berechnungen, die Fähigkeit von InterSystems IRIS, die Verarbeitung von Szenarien aus den unterschiedlichsten Branchen (in Echtzeit) zu kombinieren, und die außergewöhnliche Anpassungsfähigkeit bestätigt Anpassung aller Funktionen und Mechanismen der Plattform an spezifische Benutzerbedürfnisse.

Abbildung 21 InterSystems IRIS – Universelle Echtzeit-KI/ML-Computing-Plattform

Für eine substanziellere Interaktion mit denjenigen unserer Leser, die sich für das hier präsentierte Material interessieren, empfehlen wir Ihnen, sich nicht auf die Lektüre zu beschränken und den Dialog „live“ fortzusetzen. Gerne unterstützen wir Sie bei der Formulierung von Echtzeit-KI/ML-Szenarien in Bezug auf die Besonderheiten Ihres Unternehmens, führen gemeinsames Prototyping auf der InterSystems IRIS-Plattform durch, erarbeiten und setzen eine Roadmap für die Einführung von künstlicher Intelligenz und maschinellem Lernen um in Ihre Produktions- und Managementprozesse. Die Kontakt-E-Mail-Adresse unserer KI/ML-Expertengruppe lautet [E-Mail geschützt] .

Source: habr.com