
2023. gada 24. janvÄrÄ« Intel inženieri laiduÅ”i klajÄ ievÄrojamu atjauninÄjumu atvÄrtÄ koda mÄkslÄ«gÄ intelekta rÄ«ku komplektam OpenVINO 2023.3. Tas nodroÅ”ina pilnÄ«gu jauno procesoru Emerald Rapids un Meteor Lake atbalstu, kÄ arÄ« citus Intel aparatÅ«ras uzlabojumus Ä£eneratÄ«vÄ mÄkslÄ«gÄ intelekta (GenAI) un lielo valodas modeļu (LLM) vajadzÄ«bÄm.
OpenVINO 2023.3 piedÄvÄ OpenVINO Gen AI repozitoriju, lai demonstrÄtu savus C/C++ lielo valodas modeļu sÄrijas paraugus un pÄrbaudÄ«tu papildu modeļus, tostarp Mistral, Zephyr, ChatGLM3 un citus. Torch.compile tagad ir pilnÄ«bÄ integrÄts ar OpenVINO.
Lai paplaÅ”inÄtu lielo valodas modeļu atbalstu, tiek atbalstÄ«ts INT4 modeļa saspiestÄ formÄta formÄts Intel Xeon, kÄ arÄ« Intel Core un Intel iGPU procesoros. Uzlabota LLM veiktspÄja, kas balstÄ«ta uz transformatoriem, gan centrÄlajos, gan grafiskajos procesoros, atvieglota optimizÄcija Hugging Face modeļiem un daudzi citi uzlabojumi.
InformÄcijai: OpenVINO ir atvÄrts bezmaksas rÄ«ku komplekts, kas palÄ«dz izstrÄdÄtÄjiem un datu analÄ«tiÄ·iem paÄtrinÄt augstas veiktspÄjas risinÄjumu izstrÄdi dažÄdÄm vizuÄlajÄm sistÄmÄm. Å is visaptveroÅ”ais rÄ«ku komplekts atbalsta visu datorredzes risinÄjumu klÄstu, optimizÄ dziļÄs mÄcīŔanÄs izvietojumu un nodroÅ”ina vienkÄrÅ”u izpildi uz dažÄdÄm Intel platformÄm. TurklÄt OpenVINO risina visdažÄdÄkos uzdevumus, tostarp sejas atpazīŔanu, automÄtisko objektu, teksta un runas atpazīŔanu, attÄlu apstrÄdi un daudz ko citu.
Avots: linux.org.ru
