OpenVINO 2023.3

24 āĻœāĻžāĻ¨ā§āĻ¯āĻŧāĻžāĻ°ā§€, āĻ‡āĻ¨ā§āĻŸā§‡āĻ˛ āĻĒā§āĻ°āĻ•ā§ŒāĻļāĻ˛ā§€āĻ°āĻž āĻļā§€āĻ°ā§āĻˇāĻ¸ā§āĻĨāĻžāĻ¨ā§€āĻ¯āĻŧ āĻ“āĻĒā§‡āĻ¨-āĻ¸ā§‹āĻ°ā§āĻ¸ āĻ•ā§ƒāĻ¤ā§āĻ°āĻŋāĻŽ āĻŦā§āĻĻā§āĻ§āĻŋāĻŽāĻ¤ā§āĻ¤āĻž āĻŸā§āĻ˛āĻ•āĻŋāĻŸ OpenVINO 2023.3-āĻ¤ā§‡ āĻāĻ•āĻŸāĻŋ āĻŦāĻĄāĻŧ āĻ†āĻĒāĻĄā§‡āĻŸ āĻĒā§āĻ°āĻ•āĻžāĻļ āĻ•āĻ°ā§‡āĻ›ā§‡āĨ¤ āĻāĻŸāĻŋ āĻ¨āĻ¤ā§āĻ¨ Emerald Rapids āĻāĻŦāĻ‚ Meteor Lake āĻĒā§āĻ°āĻ¸ā§‡āĻ¸āĻ°, āĻ¸ā§‡āĻ‡āĻ¸āĻžāĻĨā§‡ āĻœā§‡āĻ¨āĻžāĻ°ā§‡āĻŸāĻŋāĻ­ āĻ•ā§ƒāĻ¤ā§āĻ°āĻŋāĻŽ āĻŦā§āĻĻā§āĻ§āĻŋāĻŽāĻ¤ā§āĻ¤āĻž (GenAI) āĻāĻŦāĻ‚ āĻŦāĻĄāĻŧ āĻ­āĻžāĻˇāĻž āĻŽāĻĄā§‡āĻ˛ā§‡āĻ° (LLM) āĻœāĻ¨ā§āĻ¯ āĻ…āĻ¨ā§āĻ¯āĻžāĻ¨ā§āĻ¯ āĻ‡āĻ¨ā§āĻŸā§‡āĻ˛ āĻšāĻžāĻ°ā§āĻĄāĻ“āĻ¯āĻŧā§āĻ¯āĻžāĻ° āĻŦāĻ°ā§āĻ§āĻ¨ā§‡āĻ° āĻœāĻ¨ā§āĻ¯ āĻ¸āĻŽā§āĻĒā§‚āĻ°ā§āĻŖ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻĒā§āĻ°āĻĻāĻžāĻ¨ āĻ•āĻ°ā§‡āĨ¤

OpenVINO 2023.3 C/C++ āĻŦā§ƒāĻšā§Ž āĻ­āĻžāĻˇāĻžāĻ° āĻŽāĻĄā§‡āĻ˛ āĻĒāĻžāĻ‡āĻĒāĻ˛āĻžāĻ‡āĻ¨ā§‡āĻ° āĻ¨ā§‡āĻŸāĻŋāĻ­ āĻ¨āĻŽā§āĻ¨āĻž āĻĒā§āĻ°āĻĻāĻ°ā§āĻļāĻ¨ āĻ•āĻ°āĻ¤ā§‡ āĻāĻŦāĻ‚ Mistral, Zephyr, ChatGLM3 āĻāĻŦāĻ‚ āĻ…āĻ¨ā§āĻ¯āĻžāĻ¨ā§āĻ¯ āĻ¸āĻš āĻ…āĻ¤āĻŋāĻ°āĻŋāĻ•ā§āĻ¤ āĻŽāĻĄā§‡āĻ˛ āĻĒāĻ°ā§€āĻ•ā§āĻˇāĻž āĻ•āĻ°āĻžāĻ° āĻœāĻ¨ā§āĻ¯ OpenVINO Gen AI āĻ¸āĻ‚āĻ—ā§āĻ°āĻšāĻ¸ā§āĻĨāĻ˛ā§‡āĻ° āĻĒā§āĻ°āĻŦāĻ°ā§āĻ¤āĻ¨ āĻ•āĻ°ā§‡āĻ›ā§‡āĨ¤ Torch.compile āĻāĻ–āĻ¨ OpenVINO āĻāĻ° āĻ¸āĻžāĻĨā§‡ āĻ¸āĻŽā§āĻĒā§‚āĻ°ā§āĻŖāĻ°ā§‚āĻĒā§‡ āĻāĻ•āĻ¤ā§āĻ°āĻŋāĻ¤āĨ¤

āĻŦā§ƒāĻšā§Ž āĻ­āĻžāĻˇāĻžāĻ° āĻŽāĻĄā§‡āĻ˛ā§‡āĻ° āĻœāĻ¨ā§āĻ¯ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻŦāĻžāĻĄāĻŧāĻžāĻ¤ā§‡, INT4 āĻ•āĻŽā§āĻĒā§āĻ°ā§‡āĻļāĻ¨ āĻŽāĻĄā§‡āĻ˛ āĻĢāĻ°āĻŽā§āĻ¯āĻžāĻŸ Intel Xeon āĻĒā§āĻ°āĻ¸ā§‡āĻ¸āĻ°ā§‡āĻ° āĻĒāĻžāĻļāĻžāĻĒāĻžāĻļāĻŋ Intel Core āĻāĻŦāĻ‚ Intel iGPU āĻĒā§āĻ°āĻ¸ā§‡āĻ¸āĻ°āĻ—ā§āĻ˛āĻŋāĻ¤ā§‡ āĻ¸āĻŽāĻ°ā§āĻĨāĻŋāĻ¤āĨ¤ āĻ¸āĻŋāĻĒāĻŋāĻ‡āĻ‰ āĻāĻŦāĻ‚ āĻœāĻŋāĻĒāĻŋāĻ‡āĻ‰ āĻ‰āĻ­āĻ¯āĻŧ āĻ•ā§āĻˇā§‡āĻ¤ā§āĻ°ā§‡āĻ‡ āĻ‰āĻ¨ā§āĻ¨āĻ¤ āĻŸā§āĻ°āĻžāĻ¨ā§āĻ¸āĻĢāĻ°āĻŽāĻžāĻ°-āĻ­āĻŋāĻ¤ā§āĻ¤āĻŋāĻ• āĻāĻ˛āĻāĻ˛āĻāĻŽ āĻ•āĻ°ā§āĻŽāĻ•ā§āĻˇāĻŽāĻ¤āĻž, āĻšāĻžāĻ—āĻŋāĻ‚ āĻĢā§‡āĻ¸ āĻŽāĻĄā§‡āĻ˛ā§‡āĻ° āĻœāĻ¨ā§āĻ¯ āĻ¸āĻ°āĻ˛ā§€āĻ•ā§ƒāĻ¤ āĻ…āĻĒā§āĻŸāĻŋāĻŽāĻžāĻ‡āĻœā§‡āĻļāĻ¨ āĻāĻŦāĻ‚ āĻ†āĻ°āĻ“ āĻ…āĻ¨ā§‡āĻ• āĻ•āĻŋāĻ›ā§āĨ¤

āĻ°ā§‡āĻĢāĻžāĻ°ā§‡āĻ¨ā§āĻ¸ā§‡āĻ° āĻœāĻ¨ā§āĻ¯, OpenVINO āĻšāĻ˛ āĻāĻ•āĻŸāĻŋ āĻ‰āĻ¨ā§āĻŽā§āĻ•ā§āĻ¤, āĻŦāĻŋāĻ¨āĻžāĻŽā§‚āĻ˛ā§āĻ¯ā§‡āĻ° āĻŸā§āĻ˛ā§‡āĻ° āĻ¸ā§‡āĻŸ āĻ¯āĻž āĻĄā§‡āĻ­ā§‡āĻ˛āĻĒāĻžāĻ° āĻāĻŦāĻ‚ āĻĄā§‡āĻŸāĻž āĻŦāĻŋāĻļā§āĻ˛ā§‡āĻˇāĻ•āĻĻā§‡āĻ° āĻŦāĻŋāĻ­āĻŋāĻ¨ā§āĻ¨ āĻ­āĻŋāĻĄāĻŋāĻ“ āĻ¸āĻŋāĻ¸ā§āĻŸā§‡āĻŽā§‡ āĻŦā§āĻ¯āĻŦāĻšāĻžāĻ°ā§‡āĻ° āĻœāĻ¨ā§āĻ¯ āĻ‰āĻšā§āĻš-āĻĒāĻžāĻ°āĻĢāĻ°āĻŽā§āĻ¯āĻžāĻ¨ā§āĻ¸ āĻ¸āĻ˛āĻŋāĻ‰āĻļāĻ¨ā§‡āĻ° āĻŦāĻŋāĻ•āĻžāĻļ āĻ¤ā§āĻŦāĻ°āĻžāĻ¨ā§āĻŦāĻŋāĻ¤ āĻ•āĻ°āĻ¤ā§‡ āĻ¸āĻžāĻšāĻžāĻ¯ā§āĻ¯ āĻ•āĻ°ā§‡āĨ¤ āĻŸā§āĻ˛ā§‡āĻ° āĻāĻ‡ āĻŦāĻŋāĻ¸ā§āĻ¤ā§ƒāĻ¤ āĻ¸ā§‡āĻŸāĻŸāĻŋ āĻ•āĻŽā§āĻĒāĻŋāĻ‰āĻŸāĻžāĻ° āĻ­āĻŋāĻļāĻ¨ āĻ¸āĻ˛āĻŋāĻ‰āĻļāĻ¨ā§‡āĻ° āĻ¸āĻŽā§āĻĒā§‚āĻ°ā§āĻŖ āĻĒāĻ°āĻŋāĻ¸āĻ°āĻ•ā§‡ āĻ¸āĻŽāĻ°ā§āĻĨāĻ¨ āĻ•āĻ°ā§‡, āĻ—āĻ­ā§€āĻ° āĻļāĻŋāĻ•ā§āĻˇāĻžāĻ° āĻ¸ā§āĻĨāĻžāĻĒāĻ¨āĻžāĻ•ā§‡ āĻ¸ā§āĻŸā§āĻ°ā§€āĻŽāĻ˛āĻžāĻ‡āĻ¨ āĻ•āĻ°ā§‡ āĻāĻŦāĻ‚ āĻāĻ•āĻžāĻ§āĻŋāĻ• āĻ‡āĻ¨ā§āĻŸā§‡āĻ˛ āĻĒā§āĻ˛ā§āĻ¯āĻžāĻŸāĻĢāĻ°ā§āĻŽ āĻœā§āĻĄāĻŧā§‡ āĻ¸āĻšāĻœā§‡ āĻ•āĻžāĻ°ā§āĻ¯āĻ•āĻ° āĻ•āĻ°āĻ¤ā§‡ āĻ¸āĻ•ā§āĻˇāĻŽ āĻ•āĻ°ā§‡āĨ¤ OpenVINO āĻŽā§āĻ– āĻ¸āĻ¨āĻžāĻ•ā§āĻ¤āĻ•āĻ°āĻŖ, āĻŦāĻ¸ā§āĻ¤ā§āĻ° āĻ¸ā§āĻŦāĻ¯āĻŧāĻ‚āĻ•ā§āĻ°āĻŋāĻ¯āĻŧ āĻ¸ā§āĻŦā§€āĻ•ā§ƒāĻ¤āĻŋ, āĻĒāĻžāĻ ā§āĻ¯ āĻāĻŦāĻ‚ āĻŦāĻ•ā§āĻ¤ā§ƒāĻ¤āĻž, āĻšāĻŋāĻ¤ā§āĻ° āĻĒā§āĻ°āĻ•ā§āĻ°āĻŋāĻ¯āĻŧāĻžāĻ•āĻ°āĻŖ āĻāĻŦāĻ‚ āĻ†āĻ°āĻ“ āĻ…āĻ¨ā§‡āĻ• āĻ•āĻŋāĻ›ā§ āĻ¸āĻš āĻŦāĻŋāĻ­āĻŋāĻ¨ā§āĻ¨ āĻ§āĻ°āĻŖā§‡āĻ° āĻ¸āĻŽāĻ¸ā§āĻ¯āĻžāĻ° āĻ¸āĻŽāĻžāĻ§āĻžāĻ¨ āĻ•āĻ°ā§‡āĨ¤

āĻ‰āĻ¤ā§āĻ¸: linux.org.ru

āĻāĻ•āĻŸāĻŋ āĻŽāĻ¨ā§āĻ¤āĻŦā§āĻ¯ āĻœā§āĻĄāĻŧā§āĻ¨