Dne 24. januarja so inženirji Intela izdali veliko posodobitev vodilnega nabora orodij za umetno inteligenco z odprtokodno kodo OpenVINO 2023.3. Ta ponuja popolno podporo za nove procesorje Emerald Rapids in Meteor Lake ter druge izboljšave strojne opreme Intela za generativno umetno inteligenco (GenAI) in velike jezikovne modele (LLM).
OpenVINO 2023.3 uvaja repozitorij OpenVINO Gen AI za prikaz lastnih vzorcev cevi C/C++ velikih jezikovnih modelov in preverjanje dodatnih modelov, vključno z Mistralom, Zephyrom, ChatGLM3 in drugimi. Torch.compile je zdaj popolnoma integriran z OpenVINO.
Za razširitev podpore za velike jezikovne modele je podprt format modela stiskanja INT4 na procesorjih Intel Xeon, pa tudi Intel Core in Intel iGPU. Izboljšana je zmogljivost LLM na osnovi transformatorjev tako na centralnih kot grafičnih procesorjih, kar poenostavi optimizacijo za modele Hugging Face in še več.
Za referenco: OpenVINO je odprt brezplačen nabor orodij, ki pomaga razvijalcem in analitikom podatkov pospešiti razvoj visoko zmogljivih rešitev za uporabo v različnih videoprogramih. Ta obsežen nabor orodij podpira celoten spekter rešitev za računalniški vid, optimizira uvajanje globokega učenja in omogoča preprosto izvajanje na različnih platformah Intel. OpenVINO prav tako rešuje najrazličnejše naloge, vključno z zaznavanjem obrazov, samodejnim prepoznavanjem predmetov, besedila in govora, obdelavo slik in še več.
Izvor: linux.org.ru
