NVIDIA publicou resultados novos, aínda máis impresionantes, no campo do traballo con grandes modelos de linguaxe (LLM) no benchmark MLPerf Inference 4.0. Durante os últimos seis meses, os xa elevados resultados demostrados pola arquitectura Hopper en escenarios de inferencia melloráronse case por tres. Un resultado tan impresionante conseguiuse grazas tanto ás melloras de hardware nos aceleradores H200 como ás optimizacións de software. A intelixencia artificial xerativa fixo explotar literalmente a industria: nos últimos dez anos, a potencia informática gastada en adestrar redes neuronais creceu en seis ordes de magnitude e os LLM cun billón de parámetros xa non son pouco comúns. Non obstante, a inferencia destes modelos tamén é unha tarefa difícil, que NVIDIA aborda de forma integral, utilizando, segundo as súas propias palabras, a "optimización multidimensional".
Fonte: 3dnews.ru
