Më 24 janar, inxhinierët e Intel publikuan një përditësim të madh për paketën udhëheqëse të mjeteve open-source për inteligjencën artificiale, OpenVINO 2023.3. Kjo ofron mbështetje të plotë për procesorët e rinj Emerald Rapids dhe Meteor Lake, si dhe përmirësime të tjera të harduerit Intel për inteligjencën artificiale gjenerative (GenAI) dhe modelet e mëdha gjuhësore (LLM).
OpenVINO 2023.3 prezanton depot OpenVINO Gen AI për të demonstruar mostra të tij për tubat C/C++ të modeleve të mëdha gjuhësore dhe verifikimin e modeleve të tjera, duke përfshirë Mistral, Zephyr, ChatGLM3 dhe të tjera. Torch.compile tani është plotësisht i integruar me OpenVINO.
Për të zgjeruar mbështetje për modelet gjuhësore të mëdha, mbështetet formati i kompresionit të modelit INT4 në procesorët Intel Xeon, si dhe në Intel Core dhe Intel iGPU. Performanca e LLM-së që bazohen në transformatorë është përmirësuar si në procesorët qendrorë ashtu edhe në grafikat, dhe optimizimi për modelet Hugging Face është bërë më i lehtë dhe shumë më tepër.
PĂ«r informacion: OpenVINO Ă«shtĂ« njĂ« paketĂ« e hapur dhe falas e mjeteve qĂ« ndihmon zhvilluesit dhe analistĂ«t e tĂ« dhĂ«nave tĂ« ŃŃĐșĐŸŃojnĂ« zhvillimin e zgjidhjeve me performancĂ« tĂ« lartĂ« pĂ«r pĂ«rdorim nĂ« sisteme tĂ« ndryshme vizuale. Ky grup i plotĂ« mjetesh mbĂ«shtet njĂ« gamĂ« tĂ« gjerĂ« zgjidhjesh pĂ«r tĂ« parĂ« kompjuterike, optimizon shpĂ«rndarjen e tĂ« mĂ«suarit tĂ« thellĂ« dhe siguron ekzekutimin e lehtĂ« nĂ« platforma tĂ« ndryshme Intel. Po ashtu, OpenVINO zgjidh shumĂ«llojshmĂ«ri problemesh, duke pĂ«rfshirĂ« detektimin e fytyrĂ«s, njohjen automatike tĂ« objekteve, teksteve dhe zĂ«rit, pĂ«rpunimin e imazheve dhe shumĂ« mĂ« tepĂ«r.
Burimi: linux.org.ru
