Sausio 24 d. „Intel“ inžinieriai išleido pagrindinį pirmaujančio atvirojo kodo dirbtinio intelekto įrankių rinkinio „OpenVINO 2023.3“ naujinį. Jis visiškai palaiko naujus „Emerald Rapids“ ir „Meteor Lake“ procesorius, taip pat kitus „Intel“ aparatinės įrangos patobulinimus, skirtus generatyviniam dirbtiniam intelektui (GenAI) ir didelių kalbų modeliams (LLM).
„OpenVINO 2023.3“ pristato „OpenVINO Gen AI“ saugyklą, skirtą C/C++ didelės kalbos modelio konvejerio vietiniams pavyzdžiams demonstruoti ir papildomiems modeliams, įskaitant „Mistral“, „Zephyr“, „ChatGLM3“ ir kitus, išbandyti. Torch.compile dabar yra visiškai integruota su OpenVINO.
Siekiant pagerinti didelės kalbos modelio palaikymą, INT4 glaudinimo modelio formatas palaikomas Intel Xeon procesoriuose, taip pat Intel Core ir Intel iGPU procesoriuose. Patobulintas transformatoriumi pagrįstas LLM našumas tiek CPU, tiek GPU, supaprastintas Hugging Face modelių optimizavimas ir kt.
„OpenVINO“ yra atviras, nemokamas įrankių rinkinys, padedantis kūrėjams ir duomenų analitikams paspartinti didelio našumo sprendimų, skirtų naudoti įvairiose vaizdo sistemose, kūrimą. Šis išsamus įrankių rinkinys palaiko visą spektrą kompiuterinės vizijos sprendimų, supaprastina giluminio mokymosi diegimą ir leidžia lengvai vykdyti kelias „Intel“ platformas. OpenVINO taip pat išsprendžia daugybę įvairių problemų, įskaitant veido aptikimą, automatinį objektų, teksto ir kalbos atpažinimą, vaizdo apdorojimą ir daug daugiau.
Šaltinis: linux.org.ru