ਓਪਨਵੀਨੋ 2023.3

24 ਜਨਵਰੀ ਨੂੰ, Intel ਇੰਜੀਨੀਅਰਾਂ ਨੇ ਪ੍ਰਮੁੱਖ ਓਪਨ-ਸੋਰਸ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਟੂਲਕਿੱਟ OpenVINO 2023.3 ਲਈ ਇੱਕ ਵੱਡਾ ਅਪਡੇਟ ਜਾਰੀ ਕੀਤਾ। ਇਹ ਨਵੇਂ Emerald Rapids ਅਤੇ Meteor Lake ਪ੍ਰੋਸੈਸਰਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਜਨਰੇਟਿਵ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (GenAI) ਅਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLM) ਲਈ ਹੋਰ Intel ਹਾਰਡਵੇਅਰ ਸੁਧਾਰਾਂ ਲਈ ਪੂਰਾ ਸਮਰਥਨ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।

OpenVINO 2023.3 C/C++ ਵੱਡੀ ਭਾਸ਼ਾ ਮਾਡਲ ਪਾਈਪਲਾਈਨ ਦੇ ਮੂਲ ਨਮੂਨਿਆਂ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਨ ਅਤੇ Mistral, Zephyr, ChatGLM3 ਅਤੇ ਹੋਰਾਂ ਸਮੇਤ ਵਾਧੂ ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ OpenVINO Gen AI ਰਿਪੋਜ਼ਟਰੀ ਪੇਸ਼ ਕਰਦਾ ਹੈ। Torch.compile ਹੁਣ OpenVINO ਨਾਲ ਪੂਰੀ ਤਰ੍ਹਾਂ ਏਕੀਕ੍ਰਿਤ ਹੈ।

ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਲਈ ਸਮਰਥਨ ਵਧਾਉਣ ਲਈ, INT4 ਕੰਪਰੈਸ਼ਨ ਮਾਡਲ ਫਾਰਮੈਟ Intel Xeon ਪ੍ਰੋਸੈਸਰਾਂ ਦੇ ਨਾਲ-ਨਾਲ Intel Core ਅਤੇ Intel iGPU ਪ੍ਰੋਸੈਸਰਾਂ 'ਤੇ ਸਮਰਥਿਤ ਹੈ। CPUs ਅਤੇ GPUs ਦੋਵਾਂ 'ਤੇ ਬਿਹਤਰ ਟ੍ਰਾਂਸਫਾਰਮਰ-ਅਧਾਰਿਤ LLM ਪ੍ਰਦਰਸ਼ਨ, ਹੱਗਿੰਗ ਫੇਸ ਮਾਡਲਾਂ ਲਈ ਸਰਲ ਅਨੁਕੂਲਨ, ਅਤੇ ਹੋਰ ਬਹੁਤ ਕੁਝ।

ਸੰਦਰਭ ਲਈ, ਓਪਨਵੀਨੋ ਇੱਕ ਖੁੱਲਾ, ਮੁਫਤ ਸਾਧਨਾਂ ਦਾ ਸਮੂਹ ਹੈ ਜੋ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਡੇਟਾ ਵਿਸ਼ਲੇਸ਼ਕਾਂ ਨੂੰ ਵਿਭਿੰਨ ਵਿਡੀਓ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਵਰਤੋਂ ਲਈ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਹੱਲਾਂ ਦੇ ਵਿਕਾਸ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ। ਟੂਲਜ਼ ਦਾ ਇਹ ਵਿਆਪਕ ਸੈੱਟ ਕੰਪਿਊਟਰ ਵਿਜ਼ਨ ਹੱਲਾਂ ਦੀ ਪੂਰੀ ਸ਼੍ਰੇਣੀ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਡੂੰਘੀ ਸਿਖਲਾਈ ਦੀਆਂ ਤੈਨਾਤੀਆਂ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਉਂਦਾ ਹੈ, ਅਤੇ ਕਈ ਇੰਟੇਲ ਪਲੇਟਫਾਰਮਾਂ ਵਿੱਚ ਆਸਾਨ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਂਦਾ ਹੈ। ਓਪਨਵੀਨੋ ਕਈ ਤਰ੍ਹਾਂ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਵੀ ਹੱਲ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਚਿਹਰੇ ਦੀ ਪਛਾਣ, ਵਸਤੂਆਂ ਦੀ ਆਟੋਮੈਟਿਕ ਪਛਾਣ, ਟੈਕਸਟ ਅਤੇ ਸਪੀਚ, ਚਿੱਤਰ ਪ੍ਰੋਸੈਸਿੰਗ ਅਤੇ ਹੋਰ ਬਹੁਤ ਕੁਝ ਸ਼ਾਮਲ ਹੈ।

ਸਰੋਤ: linux.org.ru