Tagarmharc nua - taifead nua: Dhearbhaigh NVIDIA a seasamh ceannaireachta i MLPerf Inference

Tá torthaí nua, fiú níos suntasaí fós, foilsithe ag NVIDIA i réimse na hoibre le samhlacha móra teanga (LLM) sa tagarmharc MLPerf Inference 4.0. Le sé mhí anuas, tá na torthaí arda cheana féin léirithe ag an ailtireacht Hopper i gcásanna tátail feabhsaithe beagnach faoi thrí. Baineadh toradh iontach den sórt sin amach a bhuíochas le feabhsuithe crua-earraí sna luasairí H200 agus leas iomlán a bhaint as bogearraí. Tá an tionscal ag pléascadh go litriúil ag AI giniúna: le deich mbliana anuas, tá an chumhacht ríomhaireachta a chaitear ar líonraí néaracha oiliúna tar éis fás sé ordú méide, agus níl LLManna le trilliún paraiméadair a thuilleadh neamhghnách. Mar sin féin, is tasc deacair freisin an tátal a bhaineann le samhlacha den sórt sin, a dtéann NVIDIA i ngleic go cuimsitheach, ag baint úsáide as, ina bhfocail féin, "uasmhéadú iltoiseach."
Foinse: 3dnews.ru

Add a comment