NVIDIA tau tshaj tawm cov txiaj ntsig tshiab, txawm tias muaj txiaj ntsig zoo dua hauv kev ua haujlwm nrog cov qauv lus loj (LLM) hauv MLPerf Inference 4.0 benchmark. Tshaj li rau lub hlis dhau los, cov txiaj ntsig tau zoo tshaj plaws uas tau pom los ntawm Hopper architecture hauv inference scenarios tau txhim kho yuav luag peb npaug. Cov txiaj ntsig zoo li no tau ua tiav ua tsaug rau ob qho kev txhim kho kho vajtse hauv H200 accelerators thiab software optimizations. Generative AI tau tso tawm qhov kev lag luam: dhau kaum xyoo dhau los, lub zog suav siv rau kev cob qhia neural tes hauj lwm tau loj hlob los ntawm rau qhov kev txiav txim loj, thiab LLMs nrog rau trillion tsis muaj qhov txawv txav. Txawm li cas los xij, qhov kev xav ntawm cov qauv no kuj yog ib txoj haujlwm nyuaj, uas NVIDIA ua kom tiav, siv, hauv nws tus kheej cov lus, "kev ua kom zoo dua qub."
Tau qhov twg los: 3d xov.ru