NVIDIA MLPerf Inference 4.0 эталонунда чоң тил моделдери (LLM) менен иштөө жаатында жаңы, андан да таасирдүү натыйжаларды жарыялады. Акыркы алты айдын ичинде Hopper архитектурасы тарабынан корутунду сценарийлеринде көрсөтүлгөн жогорку натыйжалар дээрлик үч эсеге жакшырды. Мындай таасирдүү натыйжага H200 тездеткичтериндеги жабдыктарды жакшыртуунун жана программалык камсыздоону оптималдаштыруунун аркасында жетишилди. Генеративдик AI тармакты түзмө-түз жардырды: акыркы он жылдын ичинде нейрондук тармактарды окутууга сарпталган эсептөө күчү алты эсеге өстү жана триллион параметрлери бар LLMлер адаттан тыш болуп калды. Бирок, мындай моделдерди тыянак чыгаруу да татаал маселе болуп саналат, ага NVIDIA өз сөзү менен айтканда, "көп өлчөмдүү оптималдаштырууну" колдонуп, комплекстүү мамиле кылат.
Source: 3dnews.ru