ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Ua hiki mai ka wā e hiki mai ana, a ke hoʻohana maikaʻi ʻia nei nā ʻenehana loea a me nā mīkini aʻo e kāu mau hale kūʻai punahele, nā hui lawe kaʻa a me nā mahiʻai pipi.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

A inā loaʻa kekahi mea, aia kekahi mea e pili ana iā ia ma ka Pūnaewele ... he papahana wehe! E ʻike pehea e kōkua ai ka Open Data Hub iā ʻoe e hoʻonui i nā ʻenehana hou a pale i nā pilikia hoʻokō.

Me nā mea maikaʻi a pau o ka naʻauao artificial (AI) a me ke aʻo ʻana i ka mīkini (ML), paʻakikī pinepine nā hui i ka hoʻonui ʻana i kēia mau ʻenehana. ʻO nā pilikia nui ma kēia hihia ka mea maʻamau:

  • Hoʻololi ʻike a hui pū - ʻaneʻane hiki ʻole ke hoʻololi i ka ʻike me ka maʻalahi a me ka hana pū ʻana me ka wikiwiki.
  • Loaʻa ʻikepili - no kēlā me kēia hana e pono ke kūkulu hou ʻia a me ka lima, e lōʻihi ana ka manawa.
  • Loaʻa ma ke koi - ʻaʻohe ala e loaʻa ai ma ke koi ʻana i nā hāmeʻa aʻo mīkini a me ka paepae, a me ka ʻōnaehana helu.
  • Iecaianoaaiiuo - mau nā hiʻohiʻona ma ke kahua prototype a ʻaʻole lawe ʻia i ka hoʻohana ʻana i ka ʻoihana.
  • E hahai a wehewehe i nā hopena AI - paʻakikī ka hana hou ʻana, ka nānā ʻana a me ka wehewehe ʻana i nā hopena AI/ML.

ʻAʻole i hoʻoponopono ʻia, hoʻopilikia maikaʻi kēia mau pilikia i ka wikiwiki, kūpono, a me ka huahana o nā ʻepekema data waiwai. Ke alakaʻi nei kēia i ko lākou huhū, hōʻino i kā lākou hana, a ma muli o ka hopena, pau nā manaʻolana ʻoihana e pili ana iā AI/ML.

Aia ke kuleana no ka hoʻoponopono ʻana i kēia mau pilikia ma luna o nā loea IT, pono lākou e hāʻawi i nā ʻikepili ʻikepili me - ʻo ia ka pololei, e like me ke ao. Ma nā kikoʻī hou aku, pono mākou i kahi kahua e hāʻawi i ke kūʻokoʻa o ke koho a loaʻa kahi maʻalahi a maʻalahi. I ka manawa like, he wikiwiki, maʻalahi e hoʻoponopono hou, hiki ke hoʻonui ʻia ma ke koi a kū i nā hemahema. ʻO ke kūkulu ʻana i ia kahua ma nā ʻenehana open source e kōkua i ka pale ʻana i ka mea kūʻai aku i ka laka a mālama i kahi pōmaikaʻi hoʻolālā no ka wā lōʻihi e pili ana i ka mālama kumukūʻai.

I kekahi mau makahiki i hala aku nei, ua hana ʻia kekahi mea like i ka hoʻomohala noiʻi a alakaʻi ʻia i ka puka ʻana o nā microservices, hybrid clouds, IT automation, a me nā kaʻina hana agile. No ka hoʻokō ʻana i kēia mau mea a pau, ua huli ka poʻe loea IT i nā ipu, Kubernetes a me nā ao hybrid wehe.

Ke hoʻohana ʻia nei kēia ʻike e pane i nā pilikia a Al. ʻO ia ke kumu e kūkulu nei ka poʻe loea IT i nā paepae i hoʻokumu ʻia i ka ipu, hiki ke hana i nā lawelawe AI/ML i loko o nā kaʻina agile, hoʻolalelale i ka hana hou, a kūkulu ʻia me ka maka i ke ao hybrid.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

E hoʻomaka mākou e kūkulu i kahi kahua me Red Hat OpenShift, kā mākou pahu Kubernetes i hoʻopaʻa ʻia no ke ao hybrid, kahi e ulu wikiwiki nei ka kaiaola o nā polokalamu a me nā hāmeʻa ML solutions (NVIDIA, H2O.ai, Starburst, PerceptiLabs, etc.). ʻO kekahi o nā mea kūʻai aku o Red Hat, e like me BMW Group, ExxonMobil a me nā mea ʻē aʻe, ua kau mua i nā pahu pahu pahu pahu ML a me nā kaʻina hana DevOps ma luna o ka paepae a me kāna kaiaolaola e lawe i kā lākou ML architectures i ka hana a me ka wikiwiki i ka hana a nā ʻikepili ʻikepili.

ʻO ke kumu ʻē aʻe a mākou i hoʻomaka ai i ka papahana Open Data Hub no ka hōʻike ʻana i kahi laʻana o kahi hoʻolālā e pili ana i kekahi mau papahana polokalamu open source a hōʻike i ke ʻano o ka hoʻokō ʻana i ke ola holoʻokoʻa o kahi hopena ML e pili ana i ka platform OpenShift.

E wehe i ka Papahana Hub Data

He papahana open source kēia i hoʻomohala ʻia i loko o ke kaiāulu hoʻomohala kūpono a hoʻokō i kahi pōʻai holoʻokoʻa o nā hana - mai ka hoʻouka ʻana a me ka hoʻololi ʻana i ka ʻikepili mua i ka hana ʻana, hoʻomaʻamaʻa a mālama ʻana i kahi kumu hoʻohālike - i ka wā e hoʻoponopono ai i nā pilikia AI / ML me ka hoʻohana ʻana i nā ipu a me nā Kubernetes ma OpenShift. anuu. Hiki ke noʻonoʻo ʻia kēia papahana he hoʻokō kuhikuhi, he laʻana o ke kūkulu ʻana i kahi hāmama AI/ML-as-a-service e pili ana i OpenShift a me nā mea hana open source e pili ana e like me Tensorflow, JupyterHub, Spark a me nā mea ʻē aʻe. He mea nui e hoʻomaopopo i ka hoʻohana ʻana o Red Hat i kēia papahana e hoʻolako i kāna mau lawelawe AI/ML. Eia kekahi, hoʻohui pū ʻo OpenShift me nā polokalamu kī nui a me nā hāmeʻa ML mai NVIDIA, Seldon, Starbust a me nā mea kūʻai aku ʻē aʻe, e maʻalahi ke kūkulu a holo i kāu ʻōnaehana aʻo mīkini.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Hoʻokumu ʻia ka papahana Open Data Hub i nā ʻāpana o nā mea hoʻohana a me nā hihia hoʻohana:

  • ʻIkepili ʻikepili e pono ai kahi hopena no ka hoʻokō ʻana i nā papahana ML, i hoʻonohonoho ʻia e like me ke ao me nā hana lawelawe ponoʻī.
  • ʻIkepili ʻikepili e pono ai ke koho kiʻekiʻe loa mai nā mea hoʻohana AI/ML open source hou loa a me nā paepae.
  • ʻIkepili ʻikepili e pono ai ke komo i nā kumu ʻikepili ke aʻo ʻia nā kumu hoʻohālike.
  • ʻIkepili ʻikepili e pono ai ke komo i nā kumuwaiwai computing (CPU, GPU, hoʻomanaʻo).
  • ʻIkepili ʻikepili e koi ana i ka hiki ke hana like a kaʻana like i ka hana me nā hoa hana, loaʻa ka manaʻo manaʻo, a hoʻomaikaʻi i ka hoʻololi wikiwiki.
  • He ʻikepili ʻikepili makemake e launa pū me nā mea hoʻomohala (a me nā hui devops) i hiki i kāna mau hiʻohiʻona ML a me kāna mau hopena hana i ka hana.
  • ʻEnekinia ʻikepili pono e hāʻawi i kahi mea ʻikepili me ka loaʻa ʻana o nā kumu ʻikepili like ʻole me ka mālama ʻana i nā koi hoʻoponopono a me ka palekana.
  • ʻO ka luna hoʻomalu/mea hana ʻōnaehana IT e koi ana i ka hiki ke hoʻopaʻa maʻalahi i ke ola holoʻokoʻa (hoʻokomo, hoʻonohonoho, hoʻomaikaʻi) o nā ʻāpana kumu a me nā ʻenehana. Pono pū mākou i nā mea hoʻokele kūpono a me nā mea hana quota.

Hoʻopili ka papahana Open Data Hub i nā ʻano mea hana open source e hoʻokō i kahi pōʻai holoʻokoʻa o nā hana AI/ML. Hoʻohana ʻia ʻo Jupyter Notebook ma ʻaneʻi ma ke ʻano he mea hana nui no ka ʻikepili ʻikepili. Ua kaulana ka pahu hana ma waena o nā ʻepekema ʻikepili i kēia lā, a hiki iā Open Data Hub ke hana maʻalahi a mālama i nā wahi hana Jupyter Notebook me ka hoʻohana ʻana i ka JupyterHub i kūkulu ʻia. Ma waho aʻe o ka hana ʻana a me ka lawe ʻana mai i nā puke puke Jupyter, loaʻa pū ka papahana Open Data Hub i kahi helu o nā puke i hoʻomākaukau ʻia ma ke ʻano o kahi waihona AI.

ʻO kēia waihona he hōʻuluʻulu o nā ʻāpana aʻo ʻana i nā mīkini wehe a me nā hoʻonā no nā hiʻohiʻona maʻamau e maʻalahi i ka prototyping wikiwiki. Hoʻohui ʻia ʻo JupyterHub me ka OpenShift's RBAC access model, kahi e hiki ai iā ʻoe ke hoʻohana i nā moʻokāki OpenShift i loaʻa a hoʻokō i kahi hōʻailona hoʻokahi. Eia kekahi, hāʻawi ʻo JupyterHub i kahi mea hoʻohana i kapa ʻia ʻo spawner, kahi e hiki ai i ka mea hoʻohana ke hoʻonohonoho maʻalahi i ka nui o nā kumuwaiwai (CPU cores, memory, GPU) no ka Jupyter Notebook i koho ʻia.

Ma hope o ka hana ʻana a me ka hoʻonohonoho ʻana o ka ʻikepili i ka pona, mālama ʻia nā mea hopohopo ʻē aʻe e ka Kubernetes scheduler, ʻo ia kahi ʻāpana o OpenShift. Hiki i nā mea hoʻohana ke hoʻokō i kā lākou mau hoʻokolohua, mālama a kaʻana like i nā hopena o kā lākou hana. Eia hou, hiki i nā mea hoʻohana kiʻekiʻe ke komo pololei i ka pūpū OpenShift CLI mai nā puke puke Jupyter e hoʻohana i nā mea kahiko Kubernetes e like me Job a OpenShift hana e like me Tekton a i ʻole Knative. A i ʻole no kēia hiki iā ʻoe ke hoʻohana i ka GUI kūpono o OpenShift, i kapa ʻia ʻo "OpenShift web console".

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Ke neʻe nei i ka pae aʻe, wehe ʻo Open Data Hub i hiki ke hoʻokele i nā pipeline data. No kēia, hoʻohana ʻia kahi mea Ceph, i hāʻawi ʻia ma ke ʻano he S3-compatible object data storage. Hāʻawi ʻo Apache Spark i ka kahe ʻana o ka ʻikepili mai nā kumu waho a i ʻole ka mālama ʻana i ka Ceph S3 i kūkulu ʻia, a hiki iā ʻoe ke hana i nā hoʻololi ʻikepili mua. Hāʻawi ʻo Apache Kafka i ka hoʻokele holomua o nā pipeline data (kahi hiki ke hoʻouka ʻia ka ʻikepili i nā manawa he nui, a me ka hoʻololi ʻana o ka ʻikepili, ka nānā ʻana, a me nā hana hoʻomau).

No laila, ua komo ka ʻikepili i ka ʻikepili a kūkulu i kahi hoʻohālike. I kēia manawa, makemake ʻo ia e kaʻana like i nā hopena i loaʻa me nā hoa hana a i ʻole nā ​​​​mea hoʻomohala noi, a hāʻawi iā lākou i kāna kumu hoʻohālike ma nā kumu o kahi lawelawe. Pono kēia i kahi kikowaena inference, a loaʻa iā Open Data Hub kahi kikowaena, ua kapa ʻia ʻo Seldon a hiki iā ʻoe ke hoʻolaha i ke kumu hoʻohālike ma ke ʻano he lawelawe RESTful.

I kekahi manawa, aia kekahi mau hiʻohiʻona ma ka server Seldon, a pono e nānā i ke ʻano o ka hoʻohana ʻana. No ka hoʻokō ʻana i kēia, hāʻawi ʻo Open Data Hub i kahi hōʻiliʻili o nā metric kūpono a me kahi ʻenekini hōʻike e pili ana i nā hāmeʻa mākaʻikaʻi open source Prometheus a me Grafana. ʻO ka hopena, loaʻa iā mākou nā manaʻo manaʻo e nānā i ka hoʻohana ʻana i nā hiʻohiʻona AI, ʻoi aku hoʻi i kahi ʻano hana.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Ma kēia ala, hāʻawi ʻo Open Data Hub i kahi ala e like me ke ao i loko o ke ola holoʻokoʻa AI/ML, mai ka loaʻa ʻana o ka ʻikepili a me ka hoʻomākaukau ʻana i ke aʻo ʻana a me ka hana ʻana.

Hoʻohui pū ʻia

I kēia manawa ua kū mai ka nīnau pehea e hoʻonohonoho ai i kēia mau mea āpau no ka luna hoʻomalu OpenShift. A ʻo kēia kahi e hoʻokani ai kahi mea hoʻohana Kubernetes kūikawā no nā papahana Open Data Hub.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Mālama kēia mea hoʻohana i ka hoʻonohonoho, hoʻonohonoho a me ke ola o ka papahana Open Data Hub, me ka hoʻokomo ʻana i nā mea hana i ʻōlelo ʻia e like me JupyterHub, Ceph, Spark, Kafka, Seldon, Prometheus a me Grafana. Hiki ke ʻike ʻia ka papahana Open Data Hub ma ka OpenShift web console, ma ka ʻāpana hana kaiaulu. No laila, hiki i ka luna hoʻomalu OpenShift ke kuhikuhi i nā papahana OpenShift e like me ka "Open Data Hub project". Hana ʻia kēia i hoʻokahi manawa. Ma hope o kēia, hoʻopaʻa ʻia ka mea ʻikepili i loko o kāna wahi papahana ma o ka OpenShift web console a ʻike ʻo ia ua hoʻokomo ʻia ka mea hoʻohana Kubernetes pili a loaʻa no kāna mau papahana. A laila hana ʻo ia i kahi papahana Open Data Hub me hoʻokahi kaomi a loaʻa koke i nā mea hana i hōʻike ʻia ma luna. A hiki ke hoʻonohonoho ʻia kēia mau mea a pau i ka loaʻa kiʻekiʻe a me ke ʻano hoʻomanawanui hewa.

ʻO ka papahana Open Data Hub kahi kahua aʻo mīkini wehe e pili ana i ka Red Hat OpenShift

Inā makemake ʻoe e hoʻāʻo i ka papahana Open Data Hub nou iho, e hoʻomaka me nā ʻōlelo aʻoaʻo hoʻonohonoho a me ke aʻo hoʻomaka. Hiki ke loaʻa nā kikoʻī kikoʻī o ka hoʻolālā Open Data Hub maanei, papahana hoʻolālā papahana - maanei. I ka wā e hiki mai ana, hoʻolālā mākou e hoʻokō i ka hoʻohui hou ʻana me Kubeflow, e hoʻoholo i kekahi mau pilikia me ka hoʻoponopono ʻikepili a me ka palekana, a hoʻonohonoho pū i ka hoʻohui ʻana me nā ʻōnaehana e pili ana i nā lula Drools a me Optaplanner. E hōʻike i kou manaʻo a lilo i mea komo i ka papahana E wehe i ka Hub Data hiki ma ka ʻaoʻao kaiāulu.

No ka hoʻopaʻa hou ʻana: Ke pale aku nei nā pilikia scaling koʻikoʻi i nā hui mai ka ʻike ʻana i ka mana piha o ka naʻauao artificial a me ke aʻo ʻana i ka mīkini. Ua hoʻohana maikaʻi ʻia ʻo Red Hat OpenShift e hoʻoponopono i nā pilikia like i ka ʻoihana polokalamu. ʻO ka papahana Open Data Hub, i hoʻokō ʻia i loko o ke kaiāulu hoʻomohala kumu wehe, hāʻawi i kahi papa kuhikuhi no ka hoʻonohonoho ʻana i kahi pōʻai holoʻokoʻa o nā hana AI/ML e pili ana i ka OpenShift hybrid cloud. Loaʻa iā mākou kahi hoʻolālā noʻonoʻo a noʻonoʻo no ka hoʻomohala ʻana i kēia papahana, a ke koʻikoʻi nei mākou i ka hoʻokumu ʻana i kahi kaiāulu ikaika a huaʻai a puni ia no ka hoʻomohala ʻana i nā haʻina AI hāmama ma ka platform OpenShift.

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka