Op 24 Januarie het Intel-ingenieurs 'n groot opdatering vrygestel van die toonaangewende open source kunsmatige intelligensie-nutsmiddelstel OpenVINO 2023.3. Dit bied volledige ondersteuning vir die nuwe Emerald Rapids en Meteor Lake verwerkers, sowel as ander Intel hardeware verbeterings vir generatiewe kunsmatige intelligensie (GenAI) en groot taal modelle (LLM).
OpenVINO 2023.3 stel die OpenVINO Gen AI-bewaarplek bekend om inheemse voorbeelde van die C/C++-groottaalmodel-pyplyn ten toon te stel en bykomende modelle te toets, insluitend Mistral, Zephyr, ChatGLM3 en ander. Torch.compile is nou ten volle geïntegreer met OpenVINO.
Om ondersteuning vir die groottaalmodel te verbeter, word die INT4-kompressiemodelformaat op Intel Xeon-verwerkers, sowel as Intel Core- en Intel iGPU-verwerkers ondersteun. Verbeterde transformator-gebaseerde LLM-werkverrigting op beide SVE's en GPU's, vereenvoudigde optimalisering vir Hugging Face-modelle, en meer.
Ter verwysing, OpenVINO is 'n oop, gratis stel gereedskap wat ontwikkelaars en data-ontleders help om die ontwikkeling van hoëprestasie-oplossings vir gebruik in 'n verskeidenheid videostelsels te versnel. Hierdie omvattende stel gereedskap ondersteun 'n volledige reeks rekenaarvisie-oplossings, stroomlyn diepleer-ontplooiings en maak maklike uitvoering oor verskeie Intel-platforms moontlik. OpenVINO los ook 'n wye verskeidenheid probleme op, insluitend gesigbespeuring, outomatiese herkenning van voorwerpe, teks en spraak, beeldverwerking en nog baie meer.
Bron: linux.org.ru