NVIDIA wis nerbitake asil anyar, malah luwih nyengsemaken ing lapangan nggarap model basa gedhe (LLM) ing MLPerf Inferensi 4.0 pathokan. Sajrone nem sasi kepungkur, asil sing wis dhuwur sing dituduhake dening arsitektur Hopper ing skenario inferensi wis saya apik meh telu. Asil nyengsemaken kuwi ngrambah thanks kanggo loro dandan hardware ing akselerator H200 lan optimizations lunak. Generatif AI secara harfiah njeblug industri kasebut: sajrone sepuluh taun kepungkur, daya komputasi sing digunakake kanggo nglatih jaringan saraf saya tambah akeh, lan LLM kanthi parameter triliun wis ora biasa maneh. Nanging, inferensi model kasebut uga dadi tugas sing angel, sing ditindakake NVIDIA kanthi komprehensif, nggunakake, kanthi tembung dhewe, "optimasi multidimensi."
Source: 3dnews.ru