Am 24. Januar ver\u00f6ffentlichten Intel-Ingenieure ein gro\u00dfes Update des f\u00fchrenden, Open-Source-Toolkits f\u00fcr k\u00fcnstliche Intelligenz, OpenVINO 2023.3. Es bietet vollst\u00e4ndige Unterst\u00fctzung f\u00fcr die neuen Prozessoren Emerald Rapids und Meteor Lake sowie weitere Verbesserungen der Intel-Hardware f\u00fcr generative k\u00fcnstliche Intelligenz (GenAI) und gro\u00dfe Sprachmodelle (LLM).<\/p>\n
OpenVINO 2023.3 stellt das OpenVINO Gen AI-Repository zur Verf\u00fcgung, um eigene Pipeline-Beispiele von C\/C++ gro\u00dfen Sprachmodellen zu demonstrieren und zus\u00e4tzliche Modelle zu testen, darunter Mistral, Zephyr, ChatGLM3 und andere. Torch.compile ist jetzt vollst\u00e4ndig in OpenVINO integriert.<\/p>\n
Zur Erweiterung der Unterst\u00fctzung f\u00fcr gro\u00dfe Sprachmodelle wird das INT4-Komprimierungsmodell auf Intel Xeon-Prozessoren sowie Intel Core und Intel iGPU unterst\u00fctzt. Die Leistung von LLMs, die auf Transformatoren basieren, wurde sowohl auf CPUs als auch auf GPUs verbessert, die Optimierung f\u00fcr Hugging Face-Modelle vereinfacht und vieles mehr.<\/p>\n
Zur Erinnerung: OpenVINO ist ein kostenloses, offenes Toolkit, das Entwicklern und Datenanalysten hilft, die Entwicklung leistungsstarker L\u00f6sungen f\u00fcr verschiedene Videosysteme zu beschleunigen. Diese umfassende Tool-Sammlung unterst\u00fctzt das gesamte Spektrum an Computer Vision-L\u00f6sungen, optimiert die Bereitstellung von Deep Learning und erm\u00f6glicht die einfache Ausf\u00fchrung auf verschiedenen Intel-Plattformen. Zudem l\u00f6st OpenVINO eine Vielzahl von Aufgaben, darunter Gesichtserkennung, automatische Objekt-, Text- und Spracherkennung, Bildverarbeitung und vieles mehr.<\/p>\n
![\"OpenVINO](\"\/wp-content\/uploads\/2024\/01\/6a91550ef8c9ed32d2ec8e3d346da068.jpg\")
<\/p>\n