InterSystems IRIS - 범용 실시간 AI/ML 플랫폼

작성자: Sergey Lukyanchikov, InterSystems의 컨설팅 엔지니어

실시간 AI/ML 컴퓨팅 호출

InterSystems의 데이터 과학 실무 경험에서 얻은 예부터 시작해 보겠습니다.

• 로드된 구매자 포털은 온라인 추천 시스템과 연결됩니다. 소매 네트워크 전반에 걸쳐 판촉 구조가 조정될 것입니다(예를 들어, "단순한" 판촉 라인 대신 이제 "세그먼트 전술" 매트릭스가 사용됩니다). 추천 엔진은 어떻게 되나요? 추천 엔진에 데이터를 제출하고 업데이트하면 어떻게 되나요?(입력 데이터의 양이 25000배 증가했습니다.) 추천 개발은 어떻게 됩니까(추천 규칙의 수와 "범위"가 천 배 증가함에 따라 추천 규칙의 필터링 임계값을 천 배로 줄여야 하는 필요성)?
• 장비 부품에 결함이 발생할 가능성을 모니터링하는 시스템이 있습니다. 자동화된 공정 제어 시스템이 모니터링 시스템에 연결되어 매초 수천 개의 기술 공정 매개변수를 전송했습니다. 이전에 "수동 샘플"로 작업했던 모니터링 시스템은 어떻게 되나요(초 단위 확률 모니터링 기능 제공 가능)? 최근 프로세스 제어 시스템에 추가된 센서의 판독값과 함께 수백 개의 열로 구성된 새로운 블록이 입력 데이터에 나타나면 어떻게 될까요(분석에 새 센서의 데이터를 포함하기 위해 모니터링 시스템을 중지하는 것이 필요한지, 그리고 얼마나 오랫동안 모니터링해야 하는지) )?
• 서로의 작업 결과를 활용하는 일련의 AI/ML 메커니즘(추천, 모니터링, 예측)이 생성되었습니다. 입력 데이터의 변화에 ​​따라 이 단지의 운영을 조정하는 데 매달 몇 시간의 인력이 필요합니까? 경영 의사결정 콤플렉스의 지원을 받을 때 일반적인 "둔화"는 무엇입니까(새로운 입력 데이터의 발생 빈도에 비해 새로운 지원 정보의 발생 빈도)는 무엇입니까?

이러한 예와 기타 많은 예를 요약하여 우리는 기계 학습 및 인공 지능 메커니즘을 실시간으로 사용할 때 발생하는 문제를 공식화했습니다.

• 우리 회사의 AI/ML 개발 생성 및 적응(변화하는 상황에 대한) 속도에 만족합니까?
• 우리가 사용하는 AI/ML 솔루션은 실시간 비즈니스 관리를 얼마나 지원하나요?
• 우리가 사용하는 AI/ML 솔루션은 개발자 없이 독립적으로 데이터 및 비즈니스 관리 관행의 변화에 ​​적응할 수 있습니까?

우리의 기사는 AI/ML 메커니즘 배포, AI/ML 솔루션 조립(통합), AI/ML 솔루션 교육(테스트)에 대한 보편적 지원 측면에서 InterSystems IRIS 플랫폼의 기능에 대한 철저한 개요입니다. 데이터 스트림. 이 기사에서는 시장 조사, AI/ML 솔루션 사례 연구, 실시간 AI/ML 플랫폼의 개념적 측면을 살펴보겠습니다.

설문조사를 통해 알게 된 사실: 실시간 애플리케이션

조사 결과 심문800년 Lightbend가 약 2019명의 IT 전문가를 대상으로 실시한 설문조사에서는 다음과 같은 내용이 나와 있습니다.

그림 1 실시간 데이터의 주요 소비자

이 설문 조사 결과에 대한 보고서의 중요한 부분을 번역에서 인용하겠습니다.

“... 데이터 스트림을 통합하는 동시에 컨테이너에서 컴퓨팅을 지원하는 도구의 인기 추세는 효과적인 솔루션에 대한 보다 즉각적이고 합리적이며 역동적인 제안을 요구하는 시장의 요구에 시너지 효과를 제공합니다. 스트리밍 데이터는 기존 패킷 데이터보다 빠르게 정보를 전송합니다. 여기에 AI/ML 기반 추천과 같은 컴퓨팅 방법을 신속하게 적용하여 고객 만족도 향상을 통해 경쟁 우위를 창출하는 기능도 추가되었습니다. 민첩성을 위한 경쟁은 DevOps 패러다임의 모든 역할에도 영향을 미쳐 애플리케이션 개발 및 배포를 더욱 효율적으로 만듭니다. … 41명의 IT 전문가가 조직의 데이터 흐름 사용에 대한 정보를 제공했습니다. 응답자들은 주로 서구 국가에 위치해 있었고(유럽 37%, 북미 XNUMX%) 중소기업과 대기업 간에 거의 고르게 분포되어 있었습니다. ...

... 인공지능은 과대광고가 아닙니다. 생산성 AI/ML 애플리케이션에서 이미 데이터 스트림 처리를 사용하고 있는 사용자 중 XNUMX%는 AI/ML 사용이 내년에 다른 애플리케이션과 비교하여 가장 큰 성장을 보일 것이라고 확인했습니다.

• 대다수의 응답자에 따르면 AI/ML 시나리오에서 데이터 스트림의 사용은 내년에 가장 큰 성장을 보일 것이라고 합니다.
• AI/ML의 애플리케이션은 상대적으로 새로운 유형의 시나리오뿐만 아니라 실시간 데이터 사용이 점점 늘어나는 기존 시나리오로 인해 성장할 것입니다.
• AI/ML 외에도 IoT 데이터 파이프라인 사용자의 열정 수준은 인상적입니다. 이미 IoT 데이터를 통합한 사용자 중 48%는 이 데이터에 대한 시나리오 구현이 가까운 미래에 크게 증가할 것이라고 말합니다. ..."

다소 흥미로운 이 설문 조사를 통해 데이터 스트림 소비의 리더로서 기계 학습 및 인공 지능 시나리오에 대한 인식이 이미 "진행 중"이라는 것이 분명해졌습니다. 그러나 똑같이 중요한 관찰은 DevOps의 렌즈를 통한 실시간 AI/ML에 대한 인식입니다. 여기서 우리는 이미 "완전히 액세스 가능한 데이터 세트를 갖춘 일회용 AI/ML"이라는 여전히 지배적인 문화의 변화에 ​​대해 이야기하기 시작할 수 있습니다.

실시간 AI/ML 플랫폼 개념

실시간 AI/ML의 일반적인 응용 분야 중 하나는 제조 공정 제어입니다. 그녀의 사례를 사용하고 이전 생각을 고려하여 실시간 AI/ML 플랫폼의 개념을 공식화하겠습니다.
공정 제어에 인공 지능과 기계 학습을 사용하면 다음과 같은 다양한 기능을 사용할 수 있습니다.

• 기술 프로세스 상태에 대한 데이터는 높은 빈도와 광범위한 매개변수(프로세스 제어 시스템에서 초당 최대 수만 개의 매개변수 값이 전송됨)에 대해 집중적으로 수신됩니다.
• 반대로 개발에 관한 데이터는 말할 것도 없고 결함 식별에 관한 데이터는 부족하고 불규칙하며, 결함의 유형화가 불충분하고 시간에 따른 위치 파악(종종 종이 기록으로 표시됨)이 특징입니다.
• 실용적인 관점에서 볼 때 소스 데이터의 "관련성 창"만 모델 훈련 및 적용에 사용할 수 있으며 프로세스 매개변수의 마지막 읽기 값으로 끝나는 합리적인 슬라이딩 간격에 대한 기술 프로세스의 역학을 반영합니다.

이러한 기능으로 인해 우리는 기술 프로세스에서 집중적인 "광대역 입력 신호"를 실시간으로 수신하고 기본 처리하는 것 외에도 AI 결과의 적용, 교육 및 품질 관리를 (병행) 수행해야 합니다. ML 모델 - 실시간으로도 가능합니다. 관련성 슬라이딩 창에서 우리 모델이 "보는" "프레임"은 지속적으로 변화하고 있으며, 이에 따라 과거 "프레임" 중 하나에서 훈련된 AI/ML 모델 작업 결과의 품질도 변경됩니다. . AI/ML 모델 작업 결과의 품질이 저하되는 경우(예: "경보-표준" 분류 오류 값이 우리가 정의한 한도를 초과한 경우) 모델에 대한 추가 교육이 자동으로 시작되어야 합니다. 보다 최신의 "프레임" - 모델의 추가 교육을 시작하는 순간을 선택할 때 교육 자체의 기간과 현재 모델 버전의 작업 품질 저하 역학을 고려해야 합니다(이후 모델이 훈련되는 동안 그리고 "새로 훈련된" 버전이 형성될 때까지 모델의 현재 버전이 계속 사용됩니다.

InterSystems IRIS는 실시간 프로세스 제어를 위한 AI/ML 솔루션을 활성화하는 핵심 플랫폼 기능을 갖추고 있습니다. 이러한 기능은 세 가지 주요 그룹으로 나눌 수 있습니다.

• InterSystems IRIS 플랫폼에서 실시간으로 작동하는 생산적인 솔루션에 새로운 AI/ML 메커니즘을 지속적으로 배포(지속적인 배포/배달, CD)합니다.
• 들어오는 기술 프로세스 데이터 스트림, AI/ML 메커니즘의 애플리케이션/훈련/품질 제어를 위한 데이터 대기열 및 수학적 모델링 환경과의 데이터/코드/제어 작업 교환을 실시간으로 조율하는 단일 생산 솔루션으로의 CI(지속적 통합) 플랫폼 인터시스템즈 IRIS
• InterSystems IRIS 플랫폼에서 전송된 데이터, 코드 및 제어 작업("결정")을 사용하여 수학적 모델링 환경에서 수행되는 AI/ML 메커니즘의 지속적인(자체) 훈련(CT)

기계 학습 및 인공 지능과 관련된 플랫폼 기능을 정확하게 이러한 그룹으로 분류하는 것은 우연이 아닙니다. 방법론을 인용해보자. 출판 이 분류에 대한 개념적 기초를 제공하는 Google의 번역은 다음과 같습니다.

“... 요즘 인기 있는 DevOps 개념은 대규모 정보 시스템의 개발 및 운영을 다룹니다. 이 개념을 구현하면 개발 주기 단축, 개발 배포 속도 향상, 릴리스 계획 유연성 등의 이점이 있습니다. 이러한 이점을 달성하기 위해 DevOps에는 최소한 두 가지 사례를 구현해야 합니다.

• 연속 통합 (CI)
• 지속적 전달(CD)

이러한 관행은 AI/ML 플랫폼에도 적용되어 생산적인 AI/ML 솔루션의 안정적이고 성능 높은 조립을 보장합니다.

AI/ML 플랫폼은 다음 측면에서 다른 정보 시스템과 다릅니다.

• 팀 역량: AI/ML 솔루션을 만들 때 팀에는 일반적으로 데이터 분석을 수행하고 모델을 개발 및 테스트하는 데이터 연구 분야의 데이터 과학자 또는 "학술" 전문가가 포함됩니다. 이러한 팀 구성원은 전문적인 생산 코드 개발자가 아닐 수도 있습니다.
• 개발: AI/ML 엔진은 본질적으로 실험적입니다. 가장 효율적인 방법으로 문제를 해결하기 위해서는 입력 변수, 알고리즘, 모델링 방법 및 모델 매개변수의 다양한 조합을 거쳐야 합니다. 이러한 검색의 복잡성은 "작동한/작동하지 않은 것"을 추적하여 에피소드의 재현성을 보장하고 반복 구현을 위한 개발 일반화에 있습니다.
• 테스트: AI/ML 엔진을 테스트하려면 대부분의 다른 개발보다 더 광범위한 테스트가 필요합니다. 표준 단위 및 통합 테스트 외에도 데이터 유효성과 훈련 및 제어 샘플에 모델을 적용한 결과의 품질이 테스트됩니다.
• 배포: AI/ML 솔루션 배포는 한 번 훈련된 모델을 사용하는 예측 서비스에만 국한되지 않습니다. AI/ML 솔루션은 자동화된 모델 교육 및 적용을 수행하는 다단계 파이프라인을 기반으로 구축되었습니다. 이러한 파이프라인을 배포하려면 모델을 훈련하고 테스트할 수 있도록 데이터 과학자가 전통적으로 수동으로 수행했던 중요 작업을 자동화해야 합니다.
• 생산성: AI/ML 엔진은 비효율적인 프로그래밍뿐만 아니라 입력 데이터의 끊임없이 변화하는 특성으로 인해 생산성이 부족할 수 있습니다. 즉, AI/ML 메커니즘의 성능은 기존 개발의 성능보다 더 다양한 이유로 저하될 수 있습니다. 따라서 AI/ML 엔진의 성능을 (온라인으로) 모니터링하고 성능 지표가 기대치를 충족하지 못하는 경우 경고를 보내거나 결과를 거부해야 합니다.

AI/ML 플랫폼은 버전 제어, 단위 테스트, 통합 테스트 및 지속적인 개발 배포를 통한 지속적인 코드 통합이 필요하다는 점에서 다른 정보 시스템과 유사합니다. 그러나 AI/ML의 경우 몇 가지 중요한 차이점이 있습니다.

• CI(지속적 통합)는 더 이상 배포된 구성 요소의 코드를 테스트하고 검증하는 데 국한되지 않고 데이터와 AI/ML 모델을 테스트하고 검증하는 것도 포함됩니다.
• CD(Continuous Delivery/Deployment, 지속적 배포)는 패키지나 서비스를 작성하고 출시하는 데 국한되지 않고 AI/ML 솔루션의 구성, 교육 및 적용을 위한 플랫폼을 의미합니다.
• CT(Continuous Training, 지속적인 훈련)은 새로운 요소입니다. 기사 작성자: CT가 일반적으로 연속 테스트인 DevOps의 전통적인 개념과 관련된 새로운 요소]는 AI 훈련 및 적용 메커니즘의 자율 관리를 담당하는 AI/ML 플랫폼에 내재되어 있습니다. /ML 모델. ..."

실시간 데이터를 다루는 기계 학습과 인공 지능에는 더 광범위한 도구와 역량(코드 개발부터 수학적 모델링 환경의 조정까지), 모든 기능 영역과 주제 영역 간의 긴밀한 통합, 인간과 인간의 보다 효율적인 조직이 필요하다고 말할 수 있습니다. 기계 자원.

실시간 시나리오: 공급 펌프의 결함 발생 인식

계속해서 프로세스 제어 영역을 예로 사용하여 특정 문제를 고려하십시오(처음부터 이미 언급했습니다). 프로세스 매개변수 값의 흐름을 기반으로 펌프의 결함 발생에 대한 실시간 모니터링을 제공해야 합니다. 확인된 결함에 대해 수리 담당자가 보고합니다.

그림 2 결함 발생 모니터링을 위한 문제 공식화

실제로 이러한 방식으로 제기되는 대부분의 작업의 특징은 다양한 유형의 결함이 간헐적이고 불규칙적으로 발생(및 등록)하는 상황을 배경으로 데이터 수신(APCS)의 규칙성과 효율성을 고려해야 한다는 것입니다. 즉, 프로세스 제어 시스템의 데이터는 정확하고 정확하게 12.01초에 한 번씩 도착하며, 작업장의 일반 노트에 날짜를 나타내는 화학 연필을 사용하여 결함에 대한 메모를 작성합니다(예: “3 – 덮개에 누출됨). 세 번째 베어링 측면에서').

따라서 우리는 다음과 같은 중요한 제한으로 문제의 공식화를 보완할 수 있습니다. 특정 유형의 결함에 대한 "라벨"은 하나만 있습니다(즉, 특정 유형의 결함의 예는 프로세스 제어의 데이터로 표시됩니다). 특정 날짜의 시스템 - 이 특정 유형의 결함에 대한 더 이상의 예는 없습니다). 이러한 제한은 많은 "태그"가 있어야 하는 기존 기계 학습(지도 학습)의 범위를 즉시 벗어나게 합니다.

그림 3 결함 발생 모니터링 작업에 대한 설명

우리가 사용할 수 있는 유일한 "태그"를 어떻게든 "곱"할 수 있습니까? 그래 우리는 할 수있어. 펌프의 현재 상태는 등록된 결함과의 유사성 정도를 특징으로 합니다. 정량적 방법을 사용하지 않더라도 시각적 인식 수준에서 프로세스 제어 시스템에서 나오는 데이터 값의 역학을 관찰하면 이미 많은 것을 배울 수 있습니다.

그림 4 특정 유형의 결함에 대한 "표시"를 배경으로 한 펌프 상태의 역학

그러나 시각적 인식(적어도 현재로서는)은 빠르게 변화하는 시나리오에서 가장 적합한 "태그" 생성기가 아닙니다. 통계 테스트를 사용하여 현재 펌프 상태와 보고된 결함의 유사성을 평가합니다.

그림 5 결함 "라벨"을 배경으로 수신 데이터에 통계 테스트 적용

통계 테스트는 프로세스 제어 시스템에서 수신된 "흐름 패킷"의 기술 프로세스 매개변수 값이 있는 레코드가 특정 유형의 결함 "태그" 레코드와 유사할 확률을 결정합니다. 통계적 테스트를 적용한 결과 계산된 확률값(통계적 유사성 지수)은 0 또는 1의 값으로 변환되어 유사성을 검사하는 패킷 내 특정 레코드 각각에 대해 머신러닝을 위한 '라벨'이 됩니다. 즉, 새로 수신된 펌프 상태 기록 패키지를 통계 테스트로 처리한 후 (a) 이 패키지를 AI/ML 모델 교육용 교육 세트에 추가하고 (b) 해당 패키지의 품질 관리를 수행할 수 있는 기회가 있습니다. 이 패키지에 사용할 때 모델의 현재 버전.

그림 6 결함 "라벨"을 배경으로 들어오는 데이터에 기계 학습 모델 적용

이전 중 하나에서 웨비나 InterSystems IRIS 플랫폼을 사용하면 모델링 결과의 신뢰성을 모니터링하고 모델 매개변수를 조정하는 비즈니스 프로세스를 지속적으로 실행하는 형태로 AI/ML 메커니즘을 구현할 수 있는 방법을 보여주고 설명합니다. 펌프를 사용하여 시나리오의 프로토타입을 구현할 때 웨비나에서 제시된 모든 InterSystems IRIS 기능을 사용합니다. 즉, 기존 지도 학습이 아닌 교육 모델 선택을 자동으로 관리하는 강화 학습 솔루션의 일부로 분석기 프로세스에서 구현합니다. . 학습 샘플에는 통계 테스트와 모델의 현재 버전을 모두 적용한 후 "탐지 합의"가 발생하는 레코드가 포함되어 있습니다. 즉, 통계 테스트(유사성 지수를 0 또는 1로 변환한 후)와 모델이 결과를 생성한 경우입니다. 해당 레코드에 대한 1. 모델의 새로운 훈련 중, 검증 중에(새로 훈련된 모델은 통계 테스트를 예비 적용하여 자체 훈련 샘플에 적용됨) 처리 후 결과 1을 "보존하지 않음" 기록 통계 테스트에 의해(결함의 원래 "레이블"에서 레코드 샘플이 훈련에 지속적으로 존재하기 때문에) 훈련 세트에서 제거되고 모델의 새 버전은 결함의 "레이블"에서 학습합니다. 결함과 스트림의 "보유된" 레코드를 합산합니다.

그림 7 InterSystems IRIS의 AI/ML 컴퓨팅 로봇화

InterSystems IRIS에서 로컬 계산 중에 얻은 탐지 품질에 대한 일종의 "XNUMX차 의견"이 필요한 경우 클라우드 서비스(예: Microsoft Azure, Amazon Web Services, Google Cloud Platform 등):

그림 8 InterSystems IRIS에 의해 조정된 Microsoft Azure의 두 번째 의견

InterSystems IRIS의 시나리오 프로토타입은 장비 개체(펌프), 수학적 모델링 환경(Python, R 및 Julia)과 상호 작용하고 관련된 모든 AI/ ML 메커니즘 - 실시간 데이터 스트림.

그림 9 InterSystems IRIS 실시간 AI/ML 솔루션의 주요 기능

프로토타입의 실제 결과는 다음과 같습니다.

• 모델이 인식한 샘플 결함(12월 XNUMX일):

• 샘플에 포함되지 않았지만 모델에서 인식된 개발 중인 결함(11월 13일, 불과 이틀 후인 XNUMX월 XNUMX일에 수리팀에 의해 결함 자체가 확인됨):

동일한 결함의 여러 에피소드가 포함된 실제 데이터에 대한 시뮬레이션을 통해 InterSystems IRIS 플랫폼에 구현된 우리 솔루션을 통해 수리 팀이 이러한 유형의 결함을 발견하기 며칠 전에 이러한 유형의 결함 발생을 식별할 수 있음이 나타났습니다.

InterSystems IRIS - 범용 실시간 AI/ML 컴퓨팅 플랫폼

InterSystems IRIS 플랫폼은 실시간 데이터 솔루션의 개발, 배포 및 운영을 단순화합니다. InterSystems IRIS는 트랜잭션 및 분석 데이터 처리를 동시에 수행할 수 있습니다. 여러 모델(관계형, 계층형, 개체 및 문서 포함)에 따라 동기화된 데이터 보기를 지원합니다. 광범위한 데이터 소스와 개별 애플리케이션을 통합하기 위한 플랫폼 역할을 합니다. 정형 및 비정형 데이터에 대한 고급 실시간 분석을 제공합니다. InterSystems IRIS는 또한 외부 분석 도구를 사용하기 위한 메커니즘을 제공하고 클라우드와 로컬 서버에서의 호스팅을 유연하게 결합할 수 있도록 합니다.

InterSystems IRIS 플랫폼을 기반으로 구축된 애플리케이션은 다양한 산업 분야에 배포되어 기업이 전략 및 운영 관점에서 상당한 경제적 이익을 실현할 수 있도록 돕고, 정보에 입각한 의사 결정을 높이고 이벤트, 분석 및 조치 간의 격차를 해소합니다.

그림 10 실시간 AI/ML 맥락에서의 InterSystems IRIS 아키텍처

이전 다이어그램과 마찬가지로 아래 다이어그램은 새로운 "좌표계"(CD/CI/CT)를 플랫폼의 작업 요소 간 정보 흐름 다이어그램과 결합합니다. 시각화는 매크로메커니즘 CD로 시작하여 매크로메커니즘 CI 및 CT로 계속됩니다.

그림 11 InterSystems IRIS 플랫폼의 AI/ML 요소 간 정보 흐름 다이어그램

InterSystems IRIS의 CD 메커니즘의 본질: 플랫폼 사용자(AI/ML 솔루션 개발자)는 AI/ML 메커니즘을 위한 특수 코드 편집기를 사용하여 기존 AI/ML 개발을 조정하거나 새로운 AI/ML 개발을 만듭니다. Jupyter(전체 이름: Jupyter Notebook; 간결하게 하기 위해 이 편집기에서 생성된 문서도 호출됩니다.) Jupyter에서 개발자는 InterSystems IRIS에 배치("배포")되기 전에 특정 AI/ML 개발의 성능(그래픽 사용 포함)을 작성, 디버깅 및 검증할 수 있는 기회를 갖습니다. 이러한 방식으로 생성된 새로운 개발은 기본적인 디버깅만 받게 될 것이 분명합니다(특히 Jupyter는 실시간 데이터 스트림에서 작동하지 않기 때문에). 이것은 순서대로입니다. 왜냐하면 Jupyter 개발의 주요 결과는 별도의 AI/ML 메커니즘의 근본적인 운용성을 확인하는 것입니다(“데이터 샘플에서 예상되는 결과를 보여줍니다”). 마찬가지로, Jupyter에서 디버깅하기 전에 플랫폼에 이미 배치된 메커니즘(다음 매크로 메커니즘 참조)에는 "플랫폼 이전" 형식으로의 "롤백"이 필요할 수 있습니다(파일에서 데이터 읽기, 테이블 대신 xDBC를 통해 데이터 작업, 전역과의 직접적인 상호 작용 - 다차원 데이터 배열 InterSystems IRIS 등).

InterSystems IRIS의 CD 구현의 중요한 측면: 플랫폼과 Jupyter 간에 양방향 통합이 구현되어 Python, R 및 Julia의 콘텐츠가 플랫폼으로 전송되고 플랫폼에서 처리될 수 있습니다(세 가지 모두 프로그래밍 해당 주요 오픈 소스 언어의 언어), 소스 수학적 모델링 환경). 따라서 AI/ML 콘텐츠 개발자는 Python, R, Julia에서 사용할 수 있는 친숙한 라이브러리를 사용하여 친숙한 Jupyter 편집기에서 작업하고 기본 디버깅(필요한 경우)을 수행하여 플랫폼에서 이 콘텐츠의 "지속적인 배포"를 수행할 수 있는 기회를 갖습니다. 플랫폼 외부.

InterSystems IRIS의 CI 매크로 메커니즘으로 넘어가겠습니다. 다이어그램은 "실시간 로보타이저"(수학 언어 및 InterSystems IRIS의 기본 개발 언어인 ObjectScript로 조정된 데이터 구조, 비즈니스 프로세스 및 코드 조각의 복합체)의 매크로 프로세스를 보여줍니다. 이 매크로 프로세스의 임무는 AI/ML 메커니즘의 작동에 필요한 데이터 대기열(실시간으로 플랫폼에 전송되는 데이터 스트림을 기반으로 함)을 유지하고 적용 순서와 AI/ML의 "구분"에 대한 결정을 내리는 것입니다. ML 메커니즘(“수학적 알고리즘”, “모델” 등이기도 합니다. 구현의 세부 사항 및 용어 선호도에 따라 다르게 호출될 수 있음)은 AI 작업 결과를 분석하기 위해 데이터 구조를 최신 상태로 유지합니다. ML 메커니즘(큐브, 테이블, 다차원 데이터 배열 등) 등 - 보고서, 대시보드 등).

InterSystems IRIS의 CI 구현의 중요한 측면: 플랫폼과 수학적 모델링 환경 간에 양방향 통합이 구현되어 플랫폼에 호스팅된 콘텐츠를 Python, R 및 Julia의 각 환경에서 실행하고 실행 결과를 다시 받을 수 있습니다. 이 통합은 "터미널 모드"(즉, AI/ML 콘텐츠가 환경을 호출하는 ObjectScript 코드로 공식화됨)와 "비즈니스 프로세스 모드"(즉, AI/ML 콘텐츠가 비즈니스 프로세스로 공식화됨) 모두에서 구현됩니다. 그래픽 편집기를 사용하거나 때로는 Jupyter를 사용하거나 IDE(IRIS Studio, Eclipse, Visual Studio Code)를 사용합니다. Jupyter에서 편집할 수 있는 비즈니스 프로세스의 가용성은 CI 수준의 IRIS와 CD 수준의 Jupyter 간의 연결을 통해 반영됩니다. 수학적 모델링 환경과의 통합에 대한 보다 자세한 개요는 아래에 제공됩니다. 이 단계에서는 플랫폼이 AI/ML 개발(“지속적 배포”에서 비롯됨)의 “지속적 통합”을 실시간 AI/ML 솔루션으로 구현하는 데 필요한 모든 도구를 갖추고 있는지 확인해야 할 모든 이유가 있다고 생각합니다.

주요 매크로 메커니즘은 CT입니다. 그것이 없으면 AI/ML 플랫폼은 없을 것입니다(물론 CD/CI를 통해 "실시간"이 구현되겠지만). CT의 본질은 모델, 분포 테이블, 행렬 벡터, 신경망 레이어 등 수학적 모델링 환경의 작업 세션에서 직접 기계 학습 및 인공 지능의 "아티팩트"를 사용하는 플랫폼의 작업입니다. 대부분의 경우 이 "작업"은 환경에서 언급된 아티팩트를 생성하는 것으로 구성됩니다(예를 들어 모델의 경우 "생성"은 모델 사양 설정과 그에 따른 매개변수 값 선택으로 구성됩니다. 소위 모델의 "훈련"), 적용(모델의 경우: 대상 변수의 "모델" 값을 사용하여 계산(예측, 카테고리 멤버십, 이벤트 확률 등)) 및 이미 개선 아티팩트 생성 및 적용(예: 예측 정확도를 높이기 위해 적용 결과를 기반으로 모델 입력 변수 세트를 옵션으로 재정의) CT의 역할을 이해하는 핵심 포인트는 CD 및 CI의 현실로부터의 "추상화"입니다. CT는 특정 환경에서 제공되는 기능 내에서 AI/ML 솔루션의 계산 및 수학적 특성에 중점을 두고 모든 아티팩트를 구현합니다. "입력 제공"과 "출력 제공"에 대한 책임은 CD와 CI의 책임이 됩니다.

특히 InterSystems IRIS에서 CT 구현의 중요한 측면: 위에서 이미 언급한 수학적 모델링 환경과의 통합을 사용하여 플랫폼은 수학적 환경에서 제어 하에 실행되는 작업 세션에서 바로 아티팩트를 추출하고 (가장 중요한) 전환할 수 있는 기능을 갖습니다. 플랫폼 데이터 개체로 변환합니다. 예를 들어, 작동 중인 Python 세션에서 방금 생성된 배포 테이블은 (Python 세션을 중지하지 않고) 전역(다차원 InterSystems IRIS 데이터 배열)의 형태로 플랫폼으로 전송되어 사용될 수 있습니다. 다른 AI/ML 메커니즘(예: R에서 다른 환경의 언어로 구현됨) 또는 가상 테이블에서의 계산을 위해. 또 다른 예: 모델 작업의 "일반 모드"(Python 작업 세션에서)와 병행하여 입력 데이터에 대해 "자동 ML"이 수행됩니다. 즉, 최적의 입력 변수 및 매개변수 값이 자동으로 선택됩니다. 그리고 "정기적인" 훈련과 함께 실시간으로 생산적인 모델은 사양의 "최적화 제안"도 받습니다. 여기서 입력 변수 세트가 변경되고 매개변수 값이 변경됩니다(더 이상 훈련의 결과가 아님). Python에서는 H2O 스택과 같은 "대체" 버전으로 훈련한 결과 전체 AI/ML 솔루션이 입력 데이터의 성격과 모델링되는 현상의 예상치 못한 변화에 자율적으로 대처할 수 있습니다. .

실제 프로토타입의 예를 통해 InterSystems IRIS의 플랫폼 AI/ML 기능에 대해 더 자세히 알아봅시다.

아래 다이어그램에서 슬라이드 왼쪽에는 Python 및 R에서 스크립트 실행을 구현하는 비즈니스 프로세스의 일부가 있습니다. 중앙 부분에는 각각 이러한 스크립트 중 일부의 실행에 대한 시각적 로그가 있습니다. Python 및 R에서 바로 뒤에는 실행을 위해 적절한 환경으로 전송된 하나 및 다른 언어의 콘텐츠 예가 있습니다. 오른쪽 끝에는 스크립트 실행 결과를 기반으로 한 시각화가 있습니다. 상단의 시각화는 IRIS Analytics에서 생성되었으며(데이터는 Python에서 InterSystems IRIS 데이터 플랫폼으로 가져와 플랫폼을 사용하여 대시보드에 표시됨) 하단의 시각화는 R 작업 세션에서 직접 생성되어 거기에서 그래픽 파일로 출력되었습니다. . 중요한 측면: 프로토타입에 제시된 조각은 모델 적용 중에 관찰된 분류 품질 모니터 프로세스의 명령에 따라 장비 시뮬레이터 프로세스에서 실시간으로 수신된 데이터에 대한 모델(장비 상태 분류)을 훈련하는 역할을 담당합니다. 일련의 상호 작용 프로세스("에이전트") 형태로 AI/ML 솔루션을 구현하는 방법에 대해 자세히 설명합니다.

그림 12 InterSystems IRIS에서 Python, R 및 Julia와의 상호 작용

플랫폼 프로세스(상황에 따라 "비즈니스 프로세스", "분석 프로세스", "파이프라인" 등이기도 함)는 우선 플랫폼 자체의 그래픽 비즈니스 프로세스 편집기에서 편집됩니다. 블록 다이어그램과 해당 AI/ML 메커니즘(프로그램 코드)이 동시에 생성되는 방식입니다. "AI/ML 메커니즘이 획득되었습니다"라고 말할 때 처음에는 하이브리드성(하나의 프로세스 내)을 의미합니다. 수학적 모델링 환경의 언어 콘텐츠는 SQL의 콘텐츠(확장 포함)에 인접합니다. 통합ML), InterSystems ObjectScript에서 기타 지원되는 언어를 사용합니다. 더욱이, 플랫폼 프로세스는 계층적으로 중첩된 조각 형태로 "렌더링"을 위한 매우 광범위한 기회를 제공하므로(아래 다이어그램의 예에서 볼 수 있듯이) 매우 복잡한 콘텐츠라도 "떨어지는" 일 없이 효과적으로 구성할 수 있습니다. 그래픽 형식("비그래픽" 형식으로) » 메소드/클래스/프로시저 등). 즉, 필요한 경우(대부분의 프로젝트에서 예상되는 경우) 전체 AI/ML 솔루션을 그래픽 자체 문서화 형식으로 구현할 수 있습니다. 더 높은 "중첩 수준"을 나타내는 아래 다이어그램의 중앙 부분에서는 모델을 훈련하는 실제 작업(Python 및 R 사용) 외에도 소위 훈련된 모델의 ROC 곡선이 추가되어 훈련 품질을 시각적으로(계산적으로도) 평가할 수 있으며, 이 분석은 Julia 언어로 구현됩니다(따라서 Julia 수학적 환경에서 실행됨).

그림 13 InterSystems IRIS의 AI/ML 솔루션 구성을 위한 시각적 환경

앞서 언급했듯이 플랫폼에 이미 구현된 AI/ML 메커니즘의 초기 개발 및 (경우에 따라) 조정은 플랫폼 외부의 Jupyter 편집기에서 수행될 수 있습니다. 아래 다이어그램에서는 기존 플랫폼 프로세스를 조정하는 예를 볼 수 있습니다(위 다이어그램과 동일). 이것이 Jupyter에서 모델 훈련을 담당하는 프래그먼트의 모습입니다. Python 콘텐츠는 Jupyter에서 직접 편집, 디버깅 및 그래픽 출력에 사용할 수 있습니다. (필요한 경우) 생산 버전을 포함하여 플랫폼 프로세스에 대한 즉각적인 동기화를 통해 변경할 수 있습니다. 새로운 콘텐츠는 비슷한 방식으로 플랫폼으로 이전될 수 있습니다(새로운 플랫폼 프로세스가 자동으로 생성됩니다).

그림 14 Jupyter Notebook을 사용하여 InterSystems IRIS 플랫폼에서 AI/ML 엔진 편집

플랫폼 프로세스의 조정은 그래픽 또는 노트북 형식뿐만 아니라 "전체" IDE(통합 개발 환경) 형식으로도 수행될 수 있습니다. 이러한 IDE는 IRIS Studio(네이티브 IRIS 스튜디오), Visual Studio Code(VSCode용 InterSystems IRIS 확장) 및 Eclipse(Atelier 플러그인)입니다. 어떤 경우에는 개발팀이 세 가지 IDE를 모두 동시에 사용할 수도 있습니다. 아래 다이어그램은 IRIS Studio, Visual Studio Code 및 Eclipse에서 동일한 프로세스를 편집하는 예를 보여줍니다. Python/R/Julia/SQL, ObjectScript, 비즈니스 프로세스 등 모든 콘텐츠를 편집할 수 있습니다.

그림 15 다양한 IDE에서의 InterSystems IRIS 비즈니스 프로세스 개발

BPL(Business Process Language)로 InterSystems IRIS 비즈니스 프로세스를 설명하고 실행하는 도구는 특별히 언급할 가치가 있습니다. BPL을 사용하면 비즈니스 프로세스에서 "기성 통합 구성 요소"(활동)를 사용할 수 있습니다. 이는 실제로 InterSystems IRIS에서 "지속적인 통합"이 구현된다고 말할 수 있는 모든 이유를 제공합니다. 기성 비즈니스 프로세스 구성 요소(활동 및 이들 간의 연결)는 AI/ML 솔루션을 조립하기 위한 강력한 가속기입니다. 그리고 어셈블리뿐만 아니라 서로 다른 AI/ML 개발 및 메커니즘에 대한 어셈블리 간의 활동과 연결 덕분에 상황에 따라 실시간으로 결정을 내릴 수 있는 "자율 관리 계층"이 발생합니다.

그림 16 InterSystems IRIS 플랫폼의 지속적인 통합(CI)을 위해 이미 만들어진 비즈니스 프로세스 구성 요소

에이전트 시스템("다중 에이전트 시스템"이라고도 함)의 개념은 로봇화에서 강력한 위치를 차지하고 있으며 InterSystems IRIS 플랫폼은 "제품 프로세스" 구성을 통해 이를 유기적으로 지원합니다. 전체 솔루션에 필요한 기능으로 각 프로세스를 "채우기" 위한 무한한 가능성 외에도 플랫폼 프로세스 시스템에 "에이전시" 속성을 부여하면 극도로 불안정한 시뮬레이션 현상(사회적/행동적 행동)에 대한 효과적인 솔루션을 만들 수 있습니다. 바이오시스템, 부분적으로 관찰 가능한 기술 프로세스 등).

그림 16 InterSystems IRIS의 에이전트 기반 비즈니스 프로세스 시스템인 AI/ML 솔루션의 운영

우리는 실시간 문제의 전체 클래스를 해결하기 위해 플랫폼을 적용한 이야기를 통해 InterSystems IRIS에 대한 검토를 계속합니다(InterSystems IRIS의 AI/ML 플랫폼 모범 사례에 대한 상당히 자세한 소개는 다음 중 하나에서 찾을 수 있습니다). 우리의 이전 웨비나).

이전 다이어그램에 이어 에이전트 시스템에 대한 보다 자세한 다이어그램이 아래에 나와 있습니다. 다이어그램은 동일한 프로토타입을 보여주고 XNUMX개의 에이전트 프로세스가 모두 표시되며 이들 사이의 관계가 개략적으로 그려져 있습니다. GENERATOR - 장비 센서에 의한 데이터 생성을 처리하고, BUFFER - 데이터 대기열을 관리하고, ANALYZER - 기계 학습 자체를 수행하고, MONITOR - 모니터링합니다. 기계 학습의 품질을 확인하고 모델을 재교육해야 한다는 신호를 제출합니다.

그림 17 InterSystems IRIS의 에이전트 기반 비즈니스 프로세스 시스템 형태의 AI/ML 솔루션 구성

아래 다이어그램은 한동안 또 다른 로봇 프로토타입의 자율적 기능(텍스트의 감정적 색상 인식)을 보여줍니다. 상단에는 모델 훈련의 품질 지표의 진화(품질이 향상됨)가 있고, 하단에는 모델 적용의 품질 지표의 역학과 반복 훈련 사실(빨간색 줄무늬)이 있습니다. 보시다시피 솔루션은 효율적이고 자율적으로 스스로 학습했으며 특정 품질 수준에서 작동합니다(품질 점수 값은 80% 이하로 떨어지지 않습니다).

그림 18 InterSystems IRIS 플랫폼의 지속적인 (자체) 훈련(CT)

앞서 “auto-ML”에 대해서도 언급했지만 아래 다이어그램에서는 다른 프로토타입의 예를 사용하여 이 기능의 사용을 자세히 보여줍니다. 비즈니스 프로세스의 일부에 대한 그래픽 다이어그램은 H2O 스택에서 모델링을 촉발하는 활동을 보여주고, 이 모델링의 결과를 보여줍니다(비교 다이어그램에 따르면 "인공" 모델에 대한 결과 모델의 명확한 지배력). ROC 곡선 및 원본 데이터 세트에서 사용할 수 있는 "가장 영향력 있는 변수"의 자동 식별). 여기서 중요한 점은 "자동 ML"을 통해 달성되는 시간과 전문가 리소스의 절약입니다. 우리의 플랫폼 프로세스가 XNUMX분 만에 수행하는 작업(최적 모델 찾기 및 훈련)은 전문가가 일주일에서 한 달까지 걸릴 수 있습니다.

그림 19 InterSystems IRIS 플랫폼의 AI/ML 솔루션에 "auto-ML" 통합

아래 다이어그램은 요점을 약간 놓쳤지만 해결 중인 실시간 문제 클래스에 대한 이야기를 마무리하는 좋은 방법입니다. InterSystems IRIS 플랫폼의 모든 기능을 통해 제어되는 훈련 모델은 다음과 같습니다. 의무가 아닌. 플랫폼은 외부로부터 모델의 PMML 사양을 수신하고, 플랫폼의 제어를 받지 않는 도구에서 훈련을 받을 수 있으며, 이 모델을 가져오는 순간부터 실시간으로 적용할 수 있습니다. PMML 사양. 가장 일반적인 아티팩트 대부분이 이를 허용하더라도 모든 AI/ML 아티팩트를 PMML 사양으로 축소할 수는 없다는 점을 고려하는 것이 중요합니다. 따라서 InterSystems IRIS 플랫폼은 "개방 루프"이며 사용자에게 "플랫폼 노예"를 의미하지 않습니다.

그림 20 InterSystems IRIS 플랫폼의 AI/ML 솔루션에 "auto-ML" 통합

인공 지능 및 실시간 기계 학습 자동화에 매우 중요한 InterSystems IRIS(명확성을 위해 프로세스 제어와 관련하여)의 추가적인 플랫폼 이점을 나열해 보겠습니다.

• 모든 데이터 소스 및 소비자(프로세스 제어 시스템/SCADA, 장비, MRO, ERP 등)와의 통합 도구 개발
• 내장 다중 모델 DBMS 모든 볼륨의 기술 프로세스 데이터에 대한 고성능 트랜잭션 및 분석 처리(하이브리드 트랜잭션/분석 처리, HTAP)
• Python, R, Julia 기반의 실시간 솔루션을 위한 AI/ML 엔진의 지속적인 배포를 위한 개발 도구
• 실시간 AI/ML 솔루션 엔진의 지속적인 통합 및 (자체) 학습을 위한 적응형 비즈니스 프로세스
• 프로세스 데이터와 AI/ML 솔루션 결과를 시각화하기 위한 내장형 비즈니스 인텔리전스 도구
• API 관리 AI/ML 솔루션의 결과를 프로세스 제어 시스템/SCADA, 정보 및 분석 시스템에 전달, 경고 전송 등에 사용합니다.

InterSystems IRIS 플랫폼의 AI/ML 솔루션은 기존 IT 인프라에 쉽게 적합합니다. InterSystems IRIS 플랫폼은 가상 환경, 물리적 서버, 프라이빗 및 퍼블릭 클라우드, Docker 컨테이너에서 내결함성 및 재해 방지 구성과 유연한 배포를 지원함으로써 AI/ML 솔루션의 높은 신뢰성을 보장합니다.

따라서 InterSystems IRIS는 범용 실시간 AI/ML 컴퓨팅 플랫폼입니다. 우리 플랫폼의 보편성은 구현된 계산의 복잡성에 대한 사실상의 제한이 없음, 다양한 산업의 시나리오 처리를 (실시간) 결합하는 InterSystems IRIS의 능력, 뛰어난 적응성으로 인해 실제로 확인됩니다. 사용자의 특정 요구에 맞는 모든 플랫폼 기능 및 메커니즘.

그림 21 InterSystems IRIS - 범용 실시간 AI/ML 컴퓨팅 플랫폼

여기에 제시된 자료에 관심이 있는 독자들과 보다 실질적인 상호 작용을 위해서는 자료를 읽고 "라이브" 대화를 계속하는 데 국한되지 않는 것이 좋습니다. 귀사의 세부 사항과 관련된 실시간 AI/ML 시나리오 구성을 지원하고, InterSystems IRIS 플랫폼에서 공동 프로토타입을 수행하고, 인공 지능 및 머신 러닝 도입을 위한 로드맵을 실제로 공식화 및 구현해 드리겠습니다. 생산 및 관리 프로세스에 참여하세요. AI/ML 전문가 팀 연락처 이메일 – [이메일 보호].

출처 : habr.com