Den 24 januari sl\u00e4ppte Intel ingenj\u00f6rerna en stor uppdatering av det ledande OpenVINO 2023.3 verktygssatsen f\u00f6r \u00f6ppen k\u00e4llkod f\u00f6r artificiell intelligens. Den erbjuder fullst\u00e4ndigt st\u00f6d f\u00f6r de nya processorerna Emerald Rapids och Meteor Lake, samt andra h\u00e5rdvaruf\u00f6rb\u00e4ttringar fr\u00e5n Intel f\u00f6r generativ artificiell intelligens (GenAI) och stora spr\u00e5kmodeller (LLM).<\/p>\n
OpenVINO 2023.3 introducerar OpenVINO Gen AI-repositoriet f\u00f6r att demonstrera egna exempel p\u00e5 pipeline C\/C++ f\u00f6r stora spr\u00e5kmodeller och testning av ytterligare modeller, inklusive Mistral, Zephyr, ChatGLM3 och andra. Torch.compile \u00e4r nu helt integrerat med OpenVINO.<\/p>\n
F\u00f6r att ut\u00f6ka st\u00f6det f\u00f6r stora spr\u00e5kmodeller st\u00f6ds INT4-modellkompressionsformatet p\u00e5 Intel Xeon-processorer, samt Intel Core och Intel iGPU. Prestandan f\u00f6r transformerbaserade LLM har f\u00f6rb\u00e4ttrats b\u00e5de p\u00e5 centrala enheter och grafikkort, optimeringen f\u00f6r Hugging Face-modeller har f\u00f6renklats och mycket mer.<\/p>\n
F\u00f6r referens: OpenVINO \u00e4r en \u00f6ppen och gratis verktygssats som hj\u00e4lper utvecklare och datanalytiker att p\u00e5skynda utvecklingen av h\u00f6gpresterande l\u00f6sningar f\u00f6r anv\u00e4ndning i olika videosystem. Denna omfattande verktygssats st\u00f6der hela spektrumet av l\u00f6sningar f\u00f6r datorseende, optimerar distributionen av djupinl\u00e4rning och m\u00f6jligg\u00f6r enkel k\u00f6rning p\u00e5 olika Intel-plattformar. Dessutom hanterar OpenVINO en m\u00e4ngd olika uppgifter, inklusive ansiktsigenk\u00e4nning, automatisk objekts-, text- och taligenk\u00e4nning, bildbehandling och mycket mer.<\/p>\n
![\"OpenVINO](\"\/wp-content\/uploads\/2024\/01\/6a91550ef8c9ed32d2ec8e3d346da068.jpg\")
<\/p>\n