
24. januara inženjeri Intela su objavili značajno ažuriranje glavnog skupa alata za veštačku inteligenciju sa otvorenim kodom OpenVINO 2023.3. Ovaj skup alata pruža potpunu podršku novim procesorima Emerald Rapids i Meteor Lake, kao i druge hardverske poboljšanja Intela za generativnu veštačku inteligenciju (GenAI) i velike jezičke modele (LLM).
OpenVINO 2023.3 predstavlja OpenVINO Gen AI repozitorijum za demonstraciju vlastitih uzoraka lanca C/C++ velikih jezičkih modela i proveru dodatnih modela, uključujući Mistral, Zephyr, ChatGLM3 i druge. Torch.compile je sada potpuno integrisan sa OpenVINO.
Za proširenje podrške za velike jezičke modele, podržava se format modela kompresije INT4 na Intel Xeon procesorima, kao i na Intel Core i Intel iGPU. Povećana je performansa LLM zasnovanih na transformatorima kako na centralnim, tako i na grafičkim procesorima, pojednostavljena je optimizacija za modele Hugging Face i još mnogo toga.
Za informaciju: OpenVINO je besplatan skup alata otvorenog koda koji pomaže programerima i analitičarima podataka da ubrzaju razvoj visokoperformantnih rešenja za korišćenje u raznim video sistemima. Ovaj sveobuhvatni skup alata podržava celu lepezu rešenja za računarsku viziju, optimizuje implementaciju dubokog učenja i omogućava lako izvršavanje na raznim Intel platformama. Takođe, OpenVINO rešava razne zadatke, uključujući prepoznavanje lica, automatsko prepoznavanje objekata, teksta i govora, obradu slika i još mnogo toga.
Izvor: linux.org.ru
