Nan dat 24 janvye, enjenyè Intel yo te pibliye yon gwo aktyalizasyon nan twous zouti entèlijans atifisyèl OpenVINO 2023.3. Li bay tout sipò pou nouvo processeurs Emerald Rapids ak Meteor Lake, ansanm ak lòt amelyorasyon pyès ki nan konpitè Intel pou entèlijans atifisyèl jeneratif (GenAI) ak modèl gwo langaj (LLM).
OpenVINO 2023.3 prezante depo OpenVINO Gen AI pou montre echantiyon natif natal nan tiyo modèl gwo lang C/C++ epi teste modèl adisyonèl tankou Mistral, Zephyr, ChatGLM3 ak lòt moun. Torch.compile kounye a konplètman entegre ak OpenVINO.
Pou amelyore sipò pou modèl lang gwo, fòma modèl konpresyon INT4 sipòte sou processeurs Intel Xeon, ansanm ak processeurs Intel Core ak Intel iGPU. Amelyore pèfòmans LLM ki baze sou transfòmatè sou CPU ak GPU, optimize senplifye pou modèl Hugging Face, ak plis ankò.
Pou referans, OpenVINO se yon seri zouti ouvè, gratis ki ede devlopè ak analis done akselere devlopman solisyon pèfòmans segondè pou itilize nan yon varyete sistèm videyo. Ansanm konplè zouti sa a sipòte yon seri konplè solisyon vizyon òdinatè, rasyonalize deplwaman aprantisaj pwofon, epi pèmèt ekzekisyon fasil atravè plizyè platfòm Intel. OpenVINO tou rezoud yon gran varyete pwoblèm, ki gen ladan deteksyon figi, rekonesans otomatik nan objè, tèks ak lapawòl, pwosesis imaj ak plis ankò.
Sous: linux.org.ru