Ar Ionawr 24, rhyddhaodd peirianwyr Intel ddiweddariad mawr i'r pecyn cymorth deallusrwydd artiffisial ffynhonnell agored blaenllaw OpenVINO 2023.3. Mae'n darparu cefnogaeth lawn i'r proseswyr Emerald Rapids a Meteor Lake newydd, yn ogystal â gwelliannau caledwedd Intel eraill ar gyfer deallusrwydd artiffisial cynhyrchiol (GenAI) a modelau iaith mawr (LLM).
Mae OpenVINO 2023.3 yn cyflwyno ystorfa OpenVINO Gen AI i arddangos samplau brodorol o'r biblinell model iaith fawr C / C ++ a phrofi modelau ychwanegol gan gynnwys Mistral, Zephyr, ChatGLM3 ac eraill. Mae Torch.compile bellach wedi'i integreiddio'n llawn ag OpenVINO.
Er mwyn gwella cefnogaeth i'r model iaith mawr, cefnogir fformat model cywasgu INT4 ar broseswyr Intel Xeon, yn ogystal â phroseswyr Intel Core ac Intel iGPU. Gwell perfformiad LLM yn seiliedig ar drawsnewidydd ar CPUs a GPUs, optimeiddiadau symlach ar gyfer modelau Hugging Face, a mwy.
Er gwybodaeth, mae OpenVINO yn set agored, rhad ac am ddim o offer sy'n helpu datblygwyr a dadansoddwyr data i gyflymu datblygiad datrysiadau perfformiad uchel i'w defnyddio mewn amrywiaeth o systemau fideo. Mae'r set gynhwysfawr hon o offer yn cefnogi ystod lawn o atebion gweledigaeth gyfrifiadurol, yn symleiddio gosodiadau dysgu dwfn, ac yn galluogi gweithrediad hawdd ar draws sawl platfform Intel. Mae OpenVINO hefyd yn datrys amrywiaeth eang o broblemau, gan gynnwys canfod wynebau, adnabod gwrthrychau yn awtomatig, testun a lleferydd, prosesu delweddau a llawer mwy.
Ffynhonnell: linux.org.ru