Στις 24 Ιανουαρίου, οι μηχανικοί της Intel κυκλοφόρησαν μια σημαντική ενημέρωση για την κορυφαία εργαλειοθήκη τεχνητής νοημοσύνης ανοιχτού κώδικα OpenVINO 2023.3. Παρέχει πλήρη υποστήριξη για τους νέους επεξεργαστές Emerald Rapids και Meteor Lake, καθώς και άλλες βελτιώσεις υλικού της Intel για γενετική τεχνητή νοημοσύνη (GenAI) και μεγάλα γλωσσικά μοντέλα (LLM).
Το OpenVINO 2023.3 εισάγει το αποθετήριο OpenVINO Gen AI για την προβολή εγγενών δειγμάτων της σειράς μοντέλων μεγάλων γλωσσών C/C++ και τη δοκιμή πρόσθετων μοντέλων, συμπεριλαμβανομένων των Mistral, Zephyr, ChatGLM3 και άλλων. Το Torch.compile είναι πλέον πλήρως ενσωματωμένο στο OpenVINO.
Για να ενισχυθεί η υποστήριξη για το μοντέλο μεγάλων γλωσσών, η μορφή μοντέλου συμπίεσης INT4 υποστηρίζεται σε επεξεργαστές Intel Xeon, καθώς και σε επεξεργαστές Intel Core και Intel iGPU. Βελτιωμένη απόδοση LLM που βασίζεται σε μετασχηματιστή τόσο σε CPU όσο και σε GPU, απλοποιημένες βελτιστοποιήσεις για μοντέλα Hugging Face και πολλά άλλα.
Για αναφορά, το OpenVINO είναι ένα ανοιχτό, δωρεάν σύνολο εργαλείων που βοηθά τους προγραμματιστές και τους αναλυτές δεδομένων να επιταχύνουν την ανάπτυξη λύσεων υψηλής απόδοσης για χρήση σε μια ποικιλία συστημάτων βίντεο. Αυτό το ολοκληρωμένο σύνολο εργαλείων υποστηρίζει ένα πλήρες φάσμα λύσεων όρασης υπολογιστή, βελτιστοποιεί τις αναπτύξεις βαθιάς εκμάθησης και επιτρέπει την εύκολη εκτέλεση σε πολλές πλατφόρμες Intel. Το OpenVINO επιλύει επίσης μια μεγάλη ποικιλία προβλημάτων, όπως ανίχνευση προσώπου, αυτόματη αναγνώριση αντικειμένων, κειμένου και ομιλίας, επεξεργασία εικόνας και πολλά άλλα.
Πηγή: linux.org.ru
