NVIDIA hefur birt nýjar, enn glæsilegri niðurstöður á sviði vinnu með stórum tungumálalíkönum (LLM) í MLPerf Inference 4.0 viðmiðinu. Undanfarna sex mánuði hefur hinn þegar hái árangur sem Hopper arkitektúrinn sýnir í ályktunarsviðum verið endurbættur næstum þrefalt. Svo glæsilegur árangur náðist þökk sé bæði vélbúnaðarbótum í H200 hröðlunum og hagræðingu hugbúnaðar. Generative AI hefur bókstaflega sprengt iðnaðinn: á undanförnum tíu árum hefur tölvuafl sem varið er í að þjálfa taugakerfi vaxið um sex stærðargráður og LLM með trilljón færibreytur eru ekki lengur óvenjulegar. Hins vegar er ályktun slíkra líkana líka erfitt verkefni, sem NVIDIA nálgast á alhliða, með því að nota, í eigin orðum, "fjölvíddar fínstillingu."
Heimild: 3dnews.ru