Ni Oṣu Kini Ọjọ 24, awọn onimọ-ẹrọ Intel ṣe idasilẹ imudojuiwọn pataki si ohun elo irinṣẹ itetisi atọwọda ṣiṣi-orisun ṣiṣi OpenVINO 2023.3. O pese atilẹyin ni kikun fun Emerald Rapids tuntun ati awọn ilana Meteor Lake, ati awọn imudara ohun elo Intel miiran fun itetisi atọwọda ti ipilẹṣẹ (GenAI) ati awọn awoṣe ede nla (LLM).
OpenVINO 2023.3 ṣafihan ibi ipamọ OpenVINO Gen AI lati ṣe afihan awọn ayẹwo abinibi ti opo gigun ti awoṣe ede C / C ++ nla ati idanwo awọn awoṣe afikun pẹlu Mistral, Zephyr, ChatGLM3 ati awọn miiran. Torch.compile ti wa ni kikun ni kikun pẹlu OpenVINO.
Lati jẹki atilẹyin fun awoṣe ede nla, ọna kika awoṣe funmorawon INT4 ni atilẹyin lori awọn ilana Intel Xeon, bakanna bi Intel Core ati awọn ilana iGPU Intel. Imudara iṣẹ LLM ti o da lori oluyipada lori awọn Sipiyu mejeeji ati awọn GPUs, awọn iṣapeye irọrun fun awọn awoṣe Face Face, ati diẹ sii.
Fun itọkasi, OpenVINO jẹ ṣiṣi silẹ, awọn irinṣẹ ọfẹ ti o ṣe iranlọwọ fun awọn olupilẹṣẹ ati awọn atunnkanka data lati mu idagbasoke awọn solusan iṣẹ ṣiṣe giga fun lilo ni ọpọlọpọ awọn eto fidio. Eto awọn irinṣẹ okeerẹ yii ṣe atilẹyin sakani kikun ti awọn solusan iran kọnputa, ṣe imuṣiṣẹ awọn imuṣiṣẹ ikẹkọ jinlẹ, ati ṣiṣe ipaniyan irọrun kọja awọn iru ẹrọ Intel pupọ. OpenVINO tun yanju ọpọlọpọ awọn iṣoro pupọ, pẹlu wiwa oju, idanimọ aifọwọyi ti awọn nkan, ọrọ ati ọrọ, ṣiṣe aworan ati pupọ diẹ sii.
orisun: linux.org.ru