Framtiden Àr hÀr, teknologier inom artificiell intelligens och maskininlÀrning anvÀnds redan framgÄngsrikt av dina favoritbutiker, transportföretag och till och med gÄrdar som odlar kalkoner.
Och om nÄgot existerar, finns det redan information om det pÄ internet... ett öppet projekt! Se hur Open Data Hub hjÀlper till att skala nya teknologier och undvika svÄrigheter vid deras implementering.
Trots alla fördelar med artificiell intelligens (AI) och maskininlÀrning (ML) har organisationer ofta svÄrt att skala dessa teknologier. De största problemen Àr vanligtvis följande:
- Informationsutbyte och samarbete â att utbyta information utan onödiga anstrĂ€ngningar och samarbeta i snabba iterationer Ă€r praktiskt taget omöjligt.
- TillgĂ„ng till data â för varje uppgift mĂ„ste den byggas om och göras manuellt, vilket tar mycket tid.
- TillgĂ„ng pĂ„ begĂ€ran â det finns ingen möjlighet att fĂ„ tillgĂ„ng till verktyg och plattformar för maskininlĂ€rning samt till den berĂ€kningsinfrastruktur som krĂ€vs.
- Produktion â modellerna förblir pĂ„ prototypstadiet och nĂ„r inte produktionsanvĂ€ndning.
- SpĂ„rning och förklaring av AI-resultat â reproducerbarhet, spĂ„rning och förklaring av AI/ML-resultat Ă€r besvĂ€rligt.
Om dessa problem lÀmnas olösta pÄverkar de negativt hastigheten, effektiviteten och produktiviteten hos vÀrdefulla databehandlare och analytiker. Detta leder till frustration, arbetsmissnöje och i slutÀndan krossas affÀrens förvÀntningar pÄ AI/ML.
Ansvar för att lösa dessa problem vilar pĂ„ IT-specialister, som mĂ„ste förse dataanalytiker med â korrekt, en molnlösning. Mer specifikt behövs en plattform som ger valfrihet och har enkel och bekvĂ€m tillgĂ„ng. Den bör vara snabb, lĂ€tt att omkonfigurera, skalbar pĂ„ begĂ€ran och motstĂ„ndskraftig mot fel. Att bygga en sĂ„dan plattform pĂ„ öppna kĂ€llkodsteknologier hjĂ€lper till att undvika leverantörsberoende och behĂ„lla en lĂ„ngsiktig strategisk fördel nĂ€r det gĂ€ller kostnadskontroll.
För flera Är sedan skedde nÄgot liknande inom applikationsutveckling, vilket ledde till framvÀxten av mikrotjÀnster, hybrida molnmiljöer, IT-automatisering och agila processer. För att hantera allt detta började IT-specialister anvÀnda containrar, Kubernetes och öppna hybrida moln.
Nu tillÀmpas denna erfarenhet för att möta utmaningarna inom AI. DÀrför skapar IT-specialister plattformar som bygger pÄ containrar, möjliggör skapandet av AI/ML-tjÀnster inom ramen för agila processer, accelererar innovation och byggs med sikte pÄ hybrida moln.
Vi kommer att starta byggandet av en sÄdan plattform med Red Hat OpenShift, vÄr Kubernetes-plattform för hybrida moln, som har ett snabbt vÀxande ekosystem av mjukvaru- och hÄrdvarulösningar för ML (NVIDIA, H2O.ai, Starburst, PerceptiLabs m.fl.). NÄgra av Red Hats kunder, sÄsom BMW Group, ExxonMobil och andra, har redan implementerat containrariserade kedjor av ML-verktyg och DevOps-processer baserade pÄ denna plattform och dess ekosystem för att driva sina ML-arkitekturer mot industriell produktion och pÄskynda arbetet för dataanalytiker.
En annan anledning till att vi startade projektet Open Data Hub Àr att demonstrera ett exempel pÄ en arkitektur baserad pÄ flera öppna programvaruprojekt och visa hur hela livscykeln av en ML-lösning kan implementeras baserat pÄ OpenShift-plattformen.
Projektet Open Data Hub
Det hĂ€r Ă€r ett projekt med öppen kĂ€llkod som utvecklas inom den relevanta utvecklingsgemenskapen och implementerar hela cykeln av operationer â frĂ„n laddning och konvertering av ursprungliga data till skapande, trĂ€ning och underhĂ„ll av modeller â nĂ€r man löser AI/ML-uppgifter med hjĂ€lp av containrar och Kubernetes pĂ„ OpenShift-plattformen. Detta projekt kan ses som en referensimplementation, ett exempel pĂ„ hur man bygger en öppen lösning av typen "AI/ML som tjĂ€nst" baserat pĂ„ OpenShift och relevanta verktyg med öppen kĂ€llkod, sĂ„som Tensorflow, JupyterHub, Spark och andra. Det Ă€r viktigt att notera att Red Hat sjĂ€lv anvĂ€nder detta projekt för att erbjuda sina AI/ML-tjĂ€nster. Dessutom integreras OpenShift med nyckelprogramvaror och hĂ„rdvarulösningar för ML frĂ„n NVIDIA, Seldon, Starburst och andra leverantörer, vilket underlĂ€ttar byggandet och lanseringen av egna maskininlĂ€rningssystem.
Projektet Open Data Hub riktar sig till följande anvÀndarkategorier och anvÀndningsscenarier:
- En dataanalytiker som behöver en lösning för att genomföra ML-projekt, organiserad som en molnbaserad tjÀnst med sjÀlvbetjÀningsegenskaper.
- En dataanalytiker som behöver det största utbudet av alla de senaste AI/ML-verktygen och plattformarna med öppen kÀllkod.
- En dataanalytiker som behöver tillgÄng till datakÀllor nÀr han trÀnar modeller.
- En dataanalytiker som behöver tillgÄng till datorkÀllor (CPU, GPU, minne).
- En dataanalytiker som behöver möjlighet att samarbeta och dela sina resultat med kollegor, fÄ feedback och göra förbÀttringar genom snabba iterationer.
- En dataanalytiker som vill interagera med utvecklare (och devops-team) för att se till att hans ML-modeller och resultat gÄr i produktion.
- En dataingenjör som behöver ge dataanalytikern tillgÄng till en mÀngd olika datakÀllor med efterlevnad av normer och sÀkerhetskrav.
- En IT-systemadministratör/operator som behöver möjlighet att enkelt övervaka livscykeln (installation, konfiguration, uppdatering) av komponenter och teknologier med öppen kÀllkod. Dessutom behövs lÀmpliga hanterings- och kvoteringsverktyg.
Projektet Open Data Hub samlar en rad verktyg med öppen kÀllkod för att genomföra hela cykeln av AI/ML-operationer. Den primÀra arbetsverktyget för dataanalytikern Àr hÀr Jupyter Notebook. Detta verktyg Àr idag mycket populÀrt bland specialister inom datahantering och analys, och Open Data Hub gör det enkelt för dem att skapa och hantera Jupyter Notebook-arbetsytor med inbyggd JupyterHub. Förutom att skapa och importera Jupyter-notebookar innehÄller projektet Open Data Hub ocksÄ en rad fÀrdiga notebookar i form av AI Library.
Det hÀr biblioteket Àr en samling av open-source komponenter för maskininlÀrning och lösningar för typiska scenarier som förenklar snabb prototypering. JupyterHub Àr integrerat med RBAC-Ätkomstmodellen av OpenShift, vilket gör det möjligt att anvÀnda befintliga OpenShift-konton och implementera single sign-on. Dessutom erbjuder JupyterHub ett anvÀndarvÀnligt grÀnssnitt som kallas spawner, dÀr anvÀndaren enkelt kan stÀlla in mÀngden berÀkningsresurser (CPU-kÀrnor, minne, GPU) för den valda Jupyter Notebooken.
NÀr datanalytikern har skapat och konfigurerat notebooken tar Kubernetes-schedulern, som Àr en del av OpenShift, hand om alla andra bekymmer. AnvÀndarna kan fokusera pÄ att utföra sina experiment, spara och dela resultaten av sitt arbete. Dessutom kan avancerade anvÀndare direkt fÄ tillgÄng till OpenShift CLI frÄn Jupyter notebooks för att anvÀnda Kubernetes-primitiv sÄsom Job, eller funktioner i OpenShift, som Tekton eller Knative. Alternativt kan man anvÀnda det bekvÀma OpenShift-grÀnssnittet som kallas "OpenShift webbkonsol".
Vid övergÄngen till nÀsta steg möjliggör Open Data Hub hantering av data pipelines. Detta görs med hjÀlp av en Ceph-objekt som tillhandahÄlls som en S3-kompatibel objektlagring. Apache Spark sÀkerstÀller datastreaming frÄn externa kÀllor eller det inbyggda Ceph S3-lagringsutrymmet och möjliggör Àven förbehandling av data. Apache Kafka tillhandahÄller avancerad hantering av data pipelines (dÀr man kan utföra multipla uppladdningar samt transformationer, analyser och lagring av data).
SÄ, datanalytikern har fÄtt tillgÄng till data och byggt en modell. Nu vill han dela de uppnÄdda resultaten med kollegor eller applikationsutvecklare, och ge dem sin modell som en tjÀnst. För detta krÀvs en output-server, och Open Data Hub har en sÄdan server, den kallas Seldon och möjliggör publicering av modellen som en RESTful-tjÀnst.
Vid nÄgon tidpunkt finns det flera sÄdana modeller pÄ Seldon-servern, och behovet av att övervaka hur de anvÀnds uppstÄr. För detta erbjuder Open Data Hub en samling relevanta metrics och en rapportmotor baserad pÄ de populÀra övervakningsverktygen med öppen kÀllkod Prometheus och Grafana. Som ett resultat fÄr vi Äterkoppling för övervakning av anvÀndningen av AI-modeller, sÀrskilt i produktionsmiljöer.
SÄledes ger Open Data Hub en molnbaserad strategi genom hela cykeln för AI/ML-operationer, frÄn Ätkomst och databereddning till trÀning och industriell drift av modellen.
Sammanfattar allt
Nu uppstÄr frÄgan om hur allt detta ska organiseras av OpenShift-administratören. HÀr kommer en speciell Kubernetes-operator för Open Data Hub-projekt in i bilden.
Denna operator hanterar installation, konfiguration och livscykel för Open Data Hub-projektet, inklusive distribution av ovan nÀmnda verktyg som JupyterHub, Ceph, Spark, Kafka, Seldon, Prometheus och Grafana. Open Data Hub-projektet kan hittas i OpenShift-webbkonsolen under community-operators. PÄ sÄ sÀtt kan OpenShift-administratören ange att de relevanta OpenShift-projekten tillhör kategorin "Open Data Hub-projekt". Detta görs en gÄng. Efter det gÄr dataanalytikern in i sitt projektutrymme via OpenShift-webbkonsolen och ser att den relevanta Kubernetes-operatören Àr installerad och tillgÀnglig för sina projekt. Sedan skapar han ett exemplar av Open Data Hub-projektet med ett musklick och fÄr omedelbar tillgÄng till de ovan beskrivna verktygen. Och allt detta kan konfigureras för hög tillgÀnglighet och redundans.
Om du vill prova Open Data Hub-projektet sjĂ€lv, börja med . Tekniska detaljer om Open Data Hubs arkitektur finns att hitta , projektets utvecklingsplaner â . I framtiden planeras ytterligare integration med Kubeflow, lösning pĂ„ en rad frĂ„gor kring reglering av data och sĂ€kerhet, samt organisering av integrering med regeldrivna system som Drools och Optaplanner. Du kan dela din Ă„sikt och delta i projektet pĂ„ sidan .
Sammanfattningsvis hindrar allvarliga skalningsproblem organisationer frÄn att fullt ut förverkliga potentialen hos artificiell intelligens och maskininlÀrning. Red Hat OpenShift har lÀnge och framgÄngsrikt anvÀnts för att lösa liknande problem inom mjukvaruindustrin. Projektet Open Data Hub, som genomförts inom ramen för ett öppen kÀllkod-gemenskap, erbjuder en referensarkitektur för att organisera hela cykeln av AI/ML-operationer baserat pÄ hybridmolnet OpenShift. Vi har en tydlig och genomtÀnkt utvecklingsplan för detta projekt och vi Àr fast beslutna att skapa en aktiv och fruktbar gemenskap för utveckling av öppna AI-lösningar pÄ plattformen OpenShift.
KĂ€lla: habr.com
