24. jaanuaril vabastas Intel oma kunstlikku intellekti avatud lähtekoodiga tööriistade komplekti OpenVINO 2023.3 olulise värskenduse. See pakub täielikku tuge uutele Emerald Rapids ja Meteor Lake protsessoritele, samuti muid Intel'i riistvara täiustusi genereeriva tehisintellekti (GenAI) ja suurte keelemudelite (LLM) jaoks.
OpenVINO 2023.3 tutvustab OpenVINO Gen AI hoidlat, et demonstreerida omadest C/C++ keeles suurte keelemudelite töövooge ja kontrollida täiendavaid mudeleid, sealhulgas Mistral, Zephyr, ChatGLM3 ning teisi. Torch.compile on nüüd täielikult integreeritud OpenVINO-ga.
Suurte keelemudelite toetamiseks toetatakse INT4 mudeli kompressiooniformaati Intel Xeon, samuti Intel Core ja Intel iGPU protsessoritel. LLM-i jõudlust on parandatud nii kesk- kui ka graafikaprotsessoritel, lihtsustatud on Hugging Face mudelite optimeerimist ja palju muud.
Viidatud: OpenVINO on avatud tasuta tööriistade komplekt, mis aitab arendajatel ja andmeanalüütikutel kiirendada kõrge jõudlusega lahenduste arendamist erinevates visioonisüsteemides. See põhjalik tööriistade komplekt toetab kogu arvutinägemise lahenduste spektrit, optimeerib süvaõppe ja võimaldab lihtsat rakendamist erinevatel Intel'i platvormidel. Samuti lahendab OpenVINO mitmesuguseid ülesandeid, sealhulgas näotuvastust, automaatset objektide, teksti ja hääle tuvastamist, pilditöötlust ja palju muud.
Allikas: linux.org.ru
