24 āĻāĻžāĻ¨ā§āĻ¯āĻŧāĻžāĻ°ā§, āĻāĻ¨ā§āĻā§āĻ˛ āĻĒā§āĻ°āĻā§āĻļāĻ˛ā§āĻ°āĻž āĻļā§āĻ°ā§āĻˇāĻ¸ā§āĻĨāĻžāĻ¨ā§āĻ¯āĻŧ āĻāĻĒā§āĻ¨-āĻ¸ā§āĻ°ā§āĻ¸ āĻā§āĻ¤ā§āĻ°āĻŋāĻŽ āĻŦā§āĻĻā§āĻ§āĻŋāĻŽāĻ¤ā§āĻ¤āĻž āĻā§āĻ˛āĻāĻŋāĻ OpenVINO 2023.3-āĻ¤ā§ āĻāĻāĻāĻŋ āĻŦāĻĄāĻŧ āĻāĻĒāĻĄā§āĻ āĻĒā§āĻ°āĻāĻžāĻļ āĻāĻ°ā§āĻā§āĨ¤ āĻāĻāĻŋ āĻ¨āĻ¤ā§āĻ¨ Emerald Rapids āĻāĻŦāĻ Meteor Lake āĻĒā§āĻ°āĻ¸ā§āĻ¸āĻ°, āĻ¸ā§āĻāĻ¸āĻžāĻĨā§ āĻā§āĻ¨āĻžāĻ°ā§āĻāĻŋāĻ āĻā§āĻ¤ā§āĻ°āĻŋāĻŽ āĻŦā§āĻĻā§āĻ§āĻŋāĻŽāĻ¤ā§āĻ¤āĻž (GenAI) āĻāĻŦāĻ āĻŦāĻĄāĻŧ āĻāĻžāĻˇāĻž āĻŽāĻĄā§āĻ˛ā§āĻ° (LLM) āĻāĻ¨ā§āĻ¯ āĻ āĻ¨ā§āĻ¯āĻžāĻ¨ā§āĻ¯ āĻāĻ¨ā§āĻā§āĻ˛ āĻšāĻžāĻ°ā§āĻĄāĻāĻ¯āĻŧā§āĻ¯āĻžāĻ° āĻŦāĻ°ā§āĻ§āĻ¨ā§āĻ° āĻāĻ¨ā§āĻ¯ āĻ¸āĻŽā§āĻĒā§āĻ°ā§āĻŖ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻĒā§āĻ°āĻĻāĻžāĻ¨ āĻāĻ°ā§āĨ¤
OpenVINO 2023.3 C/C++ āĻŦā§āĻšā§ āĻāĻžāĻˇāĻžāĻ° āĻŽāĻĄā§āĻ˛ āĻĒāĻžāĻāĻĒāĻ˛āĻžāĻāĻ¨ā§āĻ° āĻ¨ā§āĻāĻŋāĻ āĻ¨āĻŽā§āĻ¨āĻž āĻĒā§āĻ°āĻĻāĻ°ā§āĻļāĻ¨ āĻāĻ°āĻ¤ā§ āĻāĻŦāĻ Mistral, Zephyr, ChatGLM3 āĻāĻŦāĻ āĻ āĻ¨ā§āĻ¯āĻžāĻ¨ā§āĻ¯ āĻ¸āĻš āĻ āĻ¤āĻŋāĻ°āĻŋāĻā§āĻ¤ āĻŽāĻĄā§āĻ˛ āĻĒāĻ°ā§āĻā§āĻˇāĻž āĻāĻ°āĻžāĻ° āĻāĻ¨ā§āĻ¯ OpenVINO Gen AI āĻ¸āĻāĻā§āĻ°āĻšāĻ¸ā§āĻĨāĻ˛ā§āĻ° āĻĒā§āĻ°āĻŦāĻ°ā§āĻ¤āĻ¨ āĻāĻ°ā§āĻā§āĨ¤ Torch.compile āĻāĻāĻ¨ OpenVINO āĻāĻ° āĻ¸āĻžāĻĨā§ āĻ¸āĻŽā§āĻĒā§āĻ°ā§āĻŖāĻ°ā§āĻĒā§ āĻāĻāĻ¤ā§āĻ°āĻŋāĻ¤āĨ¤
āĻŦā§āĻšā§ āĻāĻžāĻˇāĻžāĻ° āĻŽāĻĄā§āĻ˛ā§āĻ° āĻāĻ¨ā§āĻ¯ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻŦāĻžāĻĄāĻŧāĻžāĻ¤ā§, INT4 āĻāĻŽā§āĻĒā§āĻ°ā§āĻļāĻ¨ āĻŽāĻĄā§āĻ˛ āĻĢāĻ°āĻŽā§āĻ¯āĻžāĻ Intel Xeon āĻĒā§āĻ°āĻ¸ā§āĻ¸āĻ°ā§āĻ° āĻĒāĻžāĻļāĻžāĻĒāĻžāĻļāĻŋ Intel Core āĻāĻŦāĻ Intel iGPU āĻĒā§āĻ°āĻ¸ā§āĻ¸āĻ°āĻā§āĻ˛āĻŋāĻ¤ā§ āĻ¸āĻŽāĻ°ā§āĻĨāĻŋāĻ¤āĨ¤ āĻ¸āĻŋāĻĒāĻŋāĻāĻ āĻāĻŦāĻ āĻāĻŋāĻĒāĻŋāĻāĻ āĻāĻāĻ¯āĻŧ āĻā§āĻˇā§āĻ¤ā§āĻ°ā§āĻ āĻāĻ¨ā§āĻ¨āĻ¤ āĻā§āĻ°āĻžāĻ¨ā§āĻ¸āĻĢāĻ°āĻŽāĻžāĻ°-āĻāĻŋāĻ¤ā§āĻ¤āĻŋāĻ āĻāĻ˛āĻāĻ˛āĻāĻŽ āĻāĻ°ā§āĻŽāĻā§āĻˇāĻŽāĻ¤āĻž, āĻšāĻžāĻāĻŋāĻ āĻĢā§āĻ¸ āĻŽāĻĄā§āĻ˛ā§āĻ° āĻāĻ¨ā§āĻ¯ āĻ¸āĻ°āĻ˛ā§āĻā§āĻ¤ āĻ āĻĒā§āĻāĻŋāĻŽāĻžāĻāĻā§āĻļāĻ¨ āĻāĻŦāĻ āĻāĻ°āĻ āĻ āĻ¨ā§āĻ āĻāĻŋāĻā§āĨ¤
āĻ°ā§āĻĢāĻžāĻ°ā§āĻ¨ā§āĻ¸ā§āĻ° āĻāĻ¨ā§āĻ¯, OpenVINO āĻšāĻ˛ āĻāĻāĻāĻŋ āĻāĻ¨ā§āĻŽā§āĻā§āĻ¤, āĻŦāĻŋāĻ¨āĻžāĻŽā§āĻ˛ā§āĻ¯ā§āĻ° āĻā§āĻ˛ā§āĻ° āĻ¸ā§āĻ āĻ¯āĻž āĻĄā§āĻā§āĻ˛āĻĒāĻžāĻ° āĻāĻŦāĻ āĻĄā§āĻāĻž āĻŦāĻŋāĻļā§āĻ˛ā§āĻˇāĻāĻĻā§āĻ° āĻŦāĻŋāĻāĻŋāĻ¨ā§āĻ¨ āĻāĻŋāĻĄāĻŋāĻ āĻ¸āĻŋāĻ¸ā§āĻā§āĻŽā§ āĻŦā§āĻ¯āĻŦāĻšāĻžāĻ°ā§āĻ° āĻāĻ¨ā§āĻ¯ āĻāĻā§āĻ-āĻĒāĻžāĻ°āĻĢāĻ°āĻŽā§āĻ¯āĻžāĻ¨ā§āĻ¸ āĻ¸āĻ˛āĻŋāĻāĻļāĻ¨ā§āĻ° āĻŦāĻŋāĻāĻžāĻļ āĻ¤ā§āĻŦāĻ°āĻžāĻ¨ā§āĻŦāĻŋāĻ¤ āĻāĻ°āĻ¤ā§ āĻ¸āĻžāĻšāĻžāĻ¯ā§āĻ¯ āĻāĻ°ā§āĨ¤ āĻā§āĻ˛ā§āĻ° āĻāĻ āĻŦāĻŋāĻ¸ā§āĻ¤ā§āĻ¤ āĻ¸ā§āĻāĻāĻŋ āĻāĻŽā§āĻĒāĻŋāĻāĻāĻžāĻ° āĻāĻŋāĻļāĻ¨ āĻ¸āĻ˛āĻŋāĻāĻļāĻ¨ā§āĻ° āĻ¸āĻŽā§āĻĒā§āĻ°ā§āĻŖ āĻĒāĻ°āĻŋāĻ¸āĻ°āĻā§ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻāĻ°ā§, āĻāĻā§āĻ° āĻļāĻŋāĻā§āĻˇāĻžāĻ° āĻ¸ā§āĻĨāĻžāĻĒāĻ¨āĻžāĻā§ āĻ¸ā§āĻā§āĻ°ā§āĻŽāĻ˛āĻžāĻāĻ¨ āĻāĻ°ā§ āĻāĻŦāĻ āĻāĻāĻžāĻ§āĻŋāĻ āĻāĻ¨ā§āĻā§āĻ˛ āĻĒā§āĻ˛ā§āĻ¯āĻžāĻāĻĢāĻ°ā§āĻŽ āĻā§āĻĄāĻŧā§ āĻ¸āĻšāĻā§ āĻāĻžāĻ°ā§āĻ¯āĻāĻ° āĻāĻ°āĻ¤ā§ āĻ¸āĻā§āĻˇāĻŽ āĻāĻ°ā§āĨ¤ OpenVINO āĻŽā§āĻ āĻ¸āĻ¨āĻžāĻā§āĻ¤āĻāĻ°āĻŖ, āĻŦāĻ¸ā§āĻ¤ā§āĻ° āĻ¸ā§āĻŦāĻ¯āĻŧāĻāĻā§āĻ°āĻŋāĻ¯āĻŧ āĻ¸ā§āĻŦā§āĻā§āĻ¤āĻŋ, āĻĒāĻžāĻ ā§āĻ¯ āĻāĻŦāĻ āĻŦāĻā§āĻ¤ā§āĻ¤āĻž, āĻāĻŋāĻ¤ā§āĻ° āĻĒā§āĻ°āĻā§āĻ°āĻŋāĻ¯āĻŧāĻžāĻāĻ°āĻŖ āĻāĻŦāĻ āĻāĻ°āĻ āĻ āĻ¨ā§āĻ āĻāĻŋāĻā§ āĻ¸āĻš āĻŦāĻŋāĻāĻŋāĻ¨ā§āĻ¨ āĻ§āĻ°āĻŖā§āĻ° āĻ¸āĻŽāĻ¸ā§āĻ¯āĻžāĻ° āĻ¸āĻŽāĻžāĻ§āĻžāĻ¨ āĻāĻ°ā§āĨ¤
āĻāĻ¤ā§āĻ¸: linux.org.ru