Na Jenụwarị 24, ndị injinia Intel wepụtara nnukwu mmelite na ngwa ọgụgụ isi mepere emepe OpenVINO 2023.3. Ọ na-enye nkwado zuru oke maka ndị nrụpụta Emerald Rapids na Meteor Lake ọhụrụ, yana nkwalite ngwaike Intel ndị ọzọ maka ọgụgụ isi mmadụ (GenAI) na ụdị asụsụ buru ibu (LLM).
OpenVINO 2023.3 na-ewebata ebe nchekwa OpenVINO Gen AI iji gosipụta ihe atụ nwa amaala nke pipeline ụdị asụsụ C/C++ wee nwalee ụdị ndị ọzọ gụnyere Mistral, Zephyr, ChatGLM3 na ndị ọzọ. Torch.compile ejikọtala na OpenVINO nke ọma.
Iji kwalite nkwado maka ụdị asụsụ buru ibu, a na-akwado ụdị mkpakọ INT4 na ndị nrụpụta Intel Xeon, yana Intel Core na Intel iGPU processors. Ọrụ LLM gbadoro ụkwụ na-eme nke ọma na CPU na GPUs, nkwalite dị mfe maka ụdị ịmakụ ihu, na ndị ọzọ.
Maka ntụnye aka, OpenVINO bụ ngwá ọrụ na-emeghe, nke na-enye aka na-enyere ndị mmepe na ndị nyocha data aka ngwa ngwa mmepe nke ngwọta dị elu maka iji mee ihe na usoro vidiyo dị iche iche. Ngwá ọrụ a zuru oke na-akwado usoro ọhụụ kọmputa zuru oke, na-eme ka ntinye mmụta dị omimi na-arụ ọrụ, ma na-eme ka ọ dị mfe igbu n'ofe ọtụtụ nyiwe Intel. OpenVINO na-edozikwa nsogbu dịgasị iche iche, gụnyere nchọpụta ihu, njirimara akpaaka nke ihe, ederede na okwu, nhazi onyonyo na ọtụtụ ndị ọzọ.
isi: linux.org.ru