Den 24. januar lanserte ingeni\u00f8rer fra Intel en omfattende oppdatering av det ledende verkt\u00f8ysettet for kunstig intelligens med \u00e5pen kildekode, OpenVINO 2023.3. Det gir full st\u00f8tte for de nye prosessorene Emerald Rapids og Meteor Lake, samt andre forbedringer av Intel-hardware for generativ kunstig intelligens (GenAI) og store spr\u00e5kmodeller (LLM).<\/p>\n
OpenVINO 2023.3 introduserer OpenVINO Gen AI-repositoriet for \u00e5 demonstrere egne C\/C++ pipeline-eksempler av store spr\u00e5kmodeller og verifisere ekstra modeller, inkludert Mistral, Zephyr, ChatGLM3 og flere. Torch.compile er n\u00e5 fullstendig integrert med OpenVINO.<\/p>\n
For \u00e5 utvide st\u00f8tten for store spr\u00e5kmodeller st\u00f8ttes INT4-modellkomprimeringsformatet p\u00e5 Intel Xeon-prosessorer, samt Intel Core og Intel iGPU. Ytelsen for LLM basert p\u00e5 transformatorer er forbedret b\u00e5de p\u00e5 sentrale prosessorer og grafikkprosessorer, og optimaliseringen for Hugging Face-modeller er forenklet.<\/p>\n
Til referanse: OpenVINO er et gratis verkt\u00f8ysett med \u00e5pen kildekode som hjelper utviklere og datasanalytikere med \u00e5 akselerere utviklingen av h\u00f8yt ytende l\u00f8sninger for bruk i ulike videobaserte systemer. Dette omfattende verkt\u00f8ysettet st\u00f8tter et bredt spekter av l\u00f8sninger for datamaskinsyn, optimaliserer distribusjonen av dyp l\u00e6ring og gir enkel implementering p\u00e5 forskjellige Intel-plattformer. OpenVINO l\u00f8ser ogs\u00e5 ulike oppgaver, inkludert ansiktsdeteksjon, automatisk gjenkjenning av objekter, tekst og tale, bildebehandling og mye mer.<\/p>\n
![\"OpenVINO](\"\/wp-content\/uploads\/2024\/01\/6a91550ef8c9ed32d2ec8e3d346da068.jpg\")
<\/p>\n