Më 24 janar, inxhinierët e Intel publikuan një përditësim të madh për OpenVINO 2023.3, paketën kryesore open-source të mjeteve për inteligjencën artificiale. Ai ofron mbështetje të plotë për procesorët e rinj Emerald Rapids dhe Meteor Lake, si edhe përmirësime të tjera për harduerin Intel për inteligjencën artificiale gjeneruese (GenAI) dhe modelet e mëdha gjuhësore (LLM).
OpenVINO 2023.3 sjell depozitën OpenVINO Gen AI për demonstrimin e mostrave të veta të pipeline-it C/C++ për modelet e mëdha gjuhësore dhe për verifikimin e modeleve shtesë, përfshirë Mistral, Zephyr, ChatGLM3 dhe të tjera. Torch.compile tani është plotësisht i integruar me OpenVINO.
PĂ«r tĂ« zgjeruar mbĂ«shtetjen pĂ«r modelet e mĂ«dha gjuhĂ«sore, tashmĂ« mbĂ«shtetet formati i kompresimit tĂ« modeleve INT4 nĂ« procesorĂ«t Intel Xeon, si edhe nĂ« Intel Core dhe Intel iGPU. ĂshtĂ« pĂ«rmirĂ«suar performanca e LLM-ve tĂ« bazuara nĂ« transformer si nĂ« CPU ashtu edhe nĂ« GPU, Ă«shtĂ« thjeshtuar optimizimi pĂ«r modelet Hugging Face dhe janĂ« shtuar edhe shumĂ« pĂ«rmirĂ«sime tĂ« tjera.
Për informacion: OpenVINO është një paketë mjetesh open-source dhe falas që i ndihmon zhvilluesit dhe analistët e të dhënave të përshpejtojnë zhvillimin e zgjidhjeve me performancë të lartë për përdorim në sisteme të ndryshme video. Kjo paketë gjithëpërfshirëse mbështet të gjithë spektrin e zgjidhjeve për computer vision, optimizon vendosjen e deep learning dhe siguron ekzekutim të thjeshtë në platforma të ndryshme Intel. OpenVINO gjithashtu zgjidh një gamë të gjerë detyrash, duke përfshirë zbulimin e fytyrës, njohjen automatike të objekteve, tekstit dhe të folurit, përpunimin e imazheve dhe shumë të tjera.
Burimi: linux.org.ru
