Január 24-én az Intel mérnökei kiadták az OpenVINO 2023.3 nyílt forráskódú mesterséges intelligencia eszközkészletének jelentős frissítését. Ez teljes körű támogatást nyújt az új Emerald Rapids és Meteor Lake processzorokhoz, valamint más Intel hardverfejlesztésekhez, amelyek a generatív mesterséges intelligenciát (GenAI) és a nagyméretű nyelvi modelleket (LLM) szolgálják.
Az OpenVINO 2023.3 bemutatja az OpenVINO Gen AI tárolót, amely bemutató példákat kínál a nagyméretű nyelvi modellek C/C++ cs pipeline-járól és a további modellek teszteléséről, beleértve a Mistral, Zephyr, ChatGLM3 és másokat. A Torch.compile most teljesen integrálva van az OpenVINO-val.
A nagyméretű nyelvi modellek támogatásának kiterjesztése érdekében INT4 tömörítési modellefektus támogatott az Intel Xeon processzorokon, valamint az Intel Core és Intel iGPU rendszereken. A transzformátorok alapú LLM teljesítménye javult mind a központi, mind a grafikus processzorokon, egyszerűsödött a Hugging Face modellek optimalizálása és még sok más.
Az OpenVINO egy ingyenes nyílt eszközkészlet, amely segíti a fejlesztőket és az adatkutatókat a nagy teljesítményű megoldások fejlesztésének felgyorsításában, amelyeket különféle videós rendszerekben alkalmazhatnak. Ez a komplex eszközkészlet lefedi a számítógépes látás megoldásainak teljes spektrumát, optimalizálja a mélytanulási telepítések végrehajtását, és egyszerű futtatást biztosít különböző Intel platformokon. Az OpenVINO emellett a legkülönbözőbb feladatokra is megoldásokat kínál, beleértve az arcfelismerést, az automatikus objektum-, szöveg- és beszédfelismerést, a képfeldolgozást és még sok mást.
Forrás: linux.org.ru
