OpenVINO 2023.3

OpenVINO 2023.3

24. januara inženjeri Intela su objavili značajno ažuriranje glavnog skupa alata za veštačku inteligenciju sa otvorenim kodom OpenVINO 2023.3. Ovaj skup alata pruža potpunu podršku novim procesorima Emerald Rapids i Meteor Lake, kao i druge hardverske poboljšanja Intela za generativnu veštačku inteligenciju (GenAI) i velike jezičke modele (LLM).

OpenVINO 2023.3 predstavlja OpenVINO Gen AI repozitorijum za demonstraciju vlastitih uzoraka lanca C/C++ velikih jezičkih modela i proveru dodatnih modela, uključujući Mistral, Zephyr, ChatGLM3 i druge. Torch.compile je sada potpuno integrisan sa OpenVINO.

Za proširenje podrške za velike jezičke modele, podržava se format modela kompresije INT4 na Intel Xeon procesorima, kao i na Intel Core i Intel iGPU. Povećana je performansa LLM zasnovanih na transformatorima kako na centralnim, tako i na grafičkim procesorima, pojednostavljena je optimizacija za modele Hugging Face i još mnogo toga.

Za informaciju: OpenVINO je besplatan skup alata otvorenog koda koji pomaže programerima i analitičarima podataka da ubrzaju razvoj visokoperformantnih rešenja za korišćenje u raznim video sistemima. Ovaj sveobuhvatni skup alata podržava celu lepezu rešenja za računarsku viziju, optimizuje implementaciju dubokog učenja i omogućava lako izvršavanje na raznim Intel platformama. Takođe, OpenVINO rešava razne zadatke, uključujući prepoznavanje lica, automatsko prepoznavanje objekata, teksta i govora, obradu slika i još mnogo toga.

Izvor: linux.org.ru

Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere 🔥 Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere | ProHoster