Þann 24. janúar gáfu verkfræðingar Intel út stóra uppfærslu á leiðandi opnum gervigreindarverkfærum OpenVINO 2023.3. Það veitir fullan stuðning fyrir nýju Emerald Rapids og Meteor Lake örgjörvana, auk annarra Intel vélbúnaðarauka fyrir generative gervigreind (GenAI) og stór tungumálalíkön (LLM).
OpenVINO 2023.3 kynnir OpenVINO Gen AI geymsluna til að sýna innfædd sýnishorn af C/C++ stóru tungumálamódelleiðslunni og prófa fleiri gerðir þar á meðal Mistral, Zephyr, ChatGLM3 og fleiri. Torch.compile er nú að fullu samþætt við OpenVINO.
Til að auka stuðning við stóra tungumálalíkanið er INT4 þjöppunarlíkanið stutt á Intel Xeon örgjörvum, sem og Intel Core og Intel iGPU örgjörvum. Bætt LLM-afköst sem byggjast á spenni bæði á örgjörva og GPU, einfaldari fínstillingu fyrir Hugging Face módel og fleira.
Til viðmiðunar, OpenVINO er opið, ókeypis sett af verkfærum sem hjálpar forriturum og gagnafræðingum að flýta fyrir þróun afkastamikilla lausna til notkunar í ýmsum myndbandskerfum. Þetta yfirgripsmikla sett af verkfærum styður alhliða tölvusjónlausna, hagræðir djúpnámsuppfærslum og gerir auðvelda framkvæmd á mörgum Intel kerfum. OpenVINO leysir einnig margs konar vandamál, þar á meðal andlitsgreiningu, sjálfvirka greiningu á hlutum, texta og tal, myndvinnslu og margt fleira.
Heimild: linux.org.ru