NVIDIA натиҷаҳои нав ва боз ҳам таъсирбахштарро дар соҳаи кор бо моделҳои забонҳои калон (LLM) дар меъёри MLPerf Inference 4.0 нашр кард. Дар давоми шаш моҳи охир, натиҷаҳои бе ин ҳам баланде, ки меъмории Хоппер дар сенарияҳои хулосабарорӣ нишон додааст, тақрибан се маротиба беҳтар шудааст. Чунин натиҷаи таъсирбахш ба шарофати ҳам такмилдиҳии сахтафзор дар суръатбахшҳои H200 ва ҳам оптимизатсияи нармафзор ба даст омад. Генеративии AI аслан ин соҳаро тарконд: дар тӯли даҳ соли охир қудрати ҳисоббарорие, ки барои омӯзиши шабакаҳои нейрон сарф шудааст, шаш дараҷа афзоиш ёфт ва LLM-ҳои триллион параметр дигар ғайриоддӣ нестанд. Бо вуҷуди ин, хулосаи чунин моделҳо низ як кори душвор аст, ки NVIDIA ба он ҳамаҷониба, бо истифода аз истилоҳи худ, "оптимизатсияи бисёрченака" муроҷиат мекунад.
Манбаъ: 3dnews.ru