ಜನವರಿ 24 ರಂದು, ಇಂಟೆಲ್ ಎಂಜಿನಿಯರ್‌ಗಳು ಪ್ರಮುಖ ಓಪನ್ ಸೋರ್ಸ್ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಟೂಲ್‌ಕಿಟ್ OpenVINO 2023.3 ಗೆ ಪ್ರಮುಖ ನವೀಕರಣವನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದರು. ಇದು ಹೊಸ ಎಮರಾಲ್ಡ್ ರಾಪಿಡ್ಸ್ ಮತ್ತು ಮೆಟಿಯರ್ ಲೇಕ್ ಪ್ರೊಸೆಸರ್‌ಗಳಿಗೆ ಸಂಪೂರ್ಣ ಬೆಂಬಲವನ್ನು ನೀಡುತ್ತದೆ, ಜೊತೆಗೆ ಉತ್ಪಾದಕ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (GenAI) ಮತ್ತು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಿಗೆ (LLM) ಇತರ ಇಂಟೆಲ್ ಹಾರ್ಡ್‌ವೇರ್ ವರ್ಧನೆಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ.
OpenVINO 2023.3 C/C++ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಯ ಪೈಪ್‌ಲೈನ್‌ನ ಸ್ಥಳೀಯ ಮಾದರಿಗಳನ್ನು ಪ್ರದರ್ಶಿಸಲು OpenVINO Gen AI ರೆಪೊಸಿಟರಿಯನ್ನು ಪರಿಚಯಿಸುತ್ತದೆ ಮತ್ತು Mistral, Zephyr, ChatGLM3 ಮತ್ತು ಇತರವುಗಳನ್ನು ಒಳಗೊಂಡಂತೆ ಹೆಚ್ಚುವರಿ ಮಾದರಿಗಳನ್ನು ಪರೀಕ್ಷಿಸುತ್ತದೆ. Torch.compile ಈಗ ಸಂಪೂರ್ಣವಾಗಿ OpenVINO ನೊಂದಿಗೆ ಸಂಯೋಜಿಸಲ್ಪಟ್ಟಿದೆ.
ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗೆ ಬೆಂಬಲವನ್ನು ಹೆಚ್ಚಿಸಲು, INT4 ಕಂಪ್ರೆಷನ್ ಮಾಡೆಲ್ ಫಾರ್ಮ್ಯಾಟ್ ಅನ್ನು Intel Xeon ಪ್ರೊಸೆಸರ್‌ಗಳು ಮತ್ತು Intel Core ಮತ್ತು Intel iGPU ಪ್ರೊಸೆಸರ್‌ಗಳಲ್ಲಿ ಬೆಂಬಲಿಸಲಾಗುತ್ತದೆ. CPU ಗಳು ಮತ್ತು GPU ಗಳಲ್ಲಿ ಸುಧಾರಿತ ಟ್ರಾನ್ಸ್‌ಫಾರ್ಮರ್-ಆಧಾರಿತ LLM ಕಾರ್ಯಕ್ಷಮತೆ, ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಮಾದರಿಗಳಿಗೆ ಸರಳೀಕೃತ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳು ಮತ್ತು ಇನ್ನಷ್ಟು.
ಉಲ್ಲೇಖಕ್ಕಾಗಿ, OpenVINO ಎನ್ನುವುದು ಮುಕ್ತ, ಉಚಿತ ಪರಿಕರಗಳಾಗಿದ್ದು, ಇದು ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಡೇಟಾ ವಿಶ್ಲೇಷಕರಿಗೆ ವಿವಿಧ ವೀಡಿಯೊ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಬಳಕೆಗಾಗಿ ಉನ್ನತ-ಕಾರ್ಯಕ್ಷಮತೆಯ ಪರಿಹಾರಗಳ ಅಭಿವೃದ್ಧಿಯನ್ನು ವೇಗಗೊಳಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಈ ಸಮಗ್ರ ಪರಿಕರಗಳು ಸಂಪೂರ್ಣ ಶ್ರೇಣಿಯ ಕಂಪ್ಯೂಟರ್ ದೃಷ್ಟಿ ಪರಿಹಾರಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, ಆಳವಾದ ಕಲಿಕೆಯ ನಿಯೋಜನೆಗಳನ್ನು ಸುಗಮಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಬಹು ಇಂಟೆಲ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಸುಲಭವಾದ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುತ್ತದೆ. ಮುಖ ಪತ್ತೆ, ವಸ್ತುಗಳ ಸ್ವಯಂಚಾಲಿತ ಗುರುತಿಸುವಿಕೆ, ಪಠ್ಯ ಮತ್ತು ಮಾತು, ಚಿತ್ರ ಸಂಸ್ಕರಣೆ ಮತ್ತು ಹೆಚ್ಚಿನವುಗಳನ್ನು ಒಳಗೊಂಡಂತೆ OpenVINO ವಿವಿಧ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುತ್ತದೆ.
ಮೂಲ: linux.org.ru