Tamin'ny 24 Janoary, namoaka fanavaozana lehibe ny injenieran'ny Intel ho an'ny fitaovana faharanitan-tsaina artifisialy loharano misokatra OpenVINO 2023.3. Izy io dia manome fanohanana feno ho an'ny processeurs Emerald Rapids sy Meteor Lake vaovao, ary koa ny fampivoarana hardware Intel hafa ho an'ny faharanitan-tsaina artifisialy (GenAI) ary modely amin'ny fiteny lehibe (LLM).
OpenVINO 2023.3 dia manolotra ny tahiry OpenVINO Gen AI mba hampisehoana ireo santionany teratany amin'ny fantsona modely amin'ny fiteny lehibe C/C++ ary hizaha toetra modely fanampiny anisan'izany ny Mistral, Zephyr, ChatGLM3 sy ny hafa. Torch.compile dia efa tafiditra tanteraka amin'ny OpenVINO.
Mba hanamafisana ny fanohanana ny maodely amin'ny fiteny lehibe, ny endrika modely famatrarana INT4 dia tohana amin'ny processeur Intel Xeon, ary koa ny processeur Intel Core sy Intel iGPU. Fahombiazan'ny LLM mifototra amin'ny transformer nohatsaraina amin'ny CPU sy GPU, fanatsarana notsotsotra ho an'ny maodely Hugging Face, sy ny maro hafa.
Ho fanondroana, OpenVINO dia fitaovana misokatra malalaka izay manampy ny mpamorona sy ny mpandinika angon-drakitra hanafaingana ny fampivoarana vahaolana mahomby ampiasaina amin'ny rafitra video isan-karazany. Ity fitaovana feno feno ity dia manohana vahaolana feno amin'ny fahitan'ny solosaina, manamora ny fametrahana fianarana lalina, ary mamela ny famonoana mora amin'ny sehatra Intel marobe. Ny OpenVINO koa dia mamaha olana maro isan-karazany, ao anatin'izany ny fijerena tarehy, ny fanekena ho azy ny zavatra, ny lahatsoratra sy ny kabary, ny fanodinana sary ary ny maro hafa.
Source: linux.org.ru