નવો બેન્ચમાર્ક - નવો રેકોર્ડ: NVIDIA એ MLPerf ઇન્ફરન્સમાં તેના નેતૃત્વની સ્થિતિની પુષ્ટિ કરી

NVIDIA એ MLPerf Inference 4.0 બેન્ચમાર્કમાં મોટા ભાષાના મોડલ્સ (LLM) સાથે કામ કરવાના ક્ષેત્રમાં નવા, વધુ પ્રભાવશાળી પરિણામો પ્રકાશિત કર્યા છે. છેલ્લા છ મહિનામાં, અનુમાનના દૃશ્યોમાં હોપર આર્કિટેક્ચર દ્વારા દર્શાવવામાં આવેલા પહેલાથી જ ઉચ્ચ પરિણામોમાં લગભગ ત્રણ ગણો સુધારો કરવામાં આવ્યો છે. આવા પ્રભાવશાળી પરિણામ H200 એક્સિલરેટર્સ અને સોફ્ટવેર ઓપ્ટિમાઇઝેશન બંનેમાં હાર્ડવેર સુધારણાને કારણે પ્રાપ્ત થયા છે. જનરેટિવ AI એ ઉદ્યોગમાં શાબ્દિક રીતે વિસ્ફોટ કર્યો છે: છેલ્લા દસ વર્ષોમાં, ન્યુરલ નેટવર્કને તાલીમ આપવા પર ખર્ચવામાં આવતી કમ્પ્યુટિંગ શક્તિમાં છ ઓર્ડરની તીવ્રતાનો વધારો થયો છે, અને ટ્રિલિયન પરિમાણો સાથેના LLM હવે અસામાન્ય નથી. જો કે, આવા મોડલ્સનું અનુમાન એ પણ મુશ્કેલ કાર્ય છે, જેનો NVIDIA તેના પોતાના શબ્દોમાં ઉપયોગ કરીને, "બહુપરિમાણીય ઑપ્ટિમાઇઝેશન" નો ઉપયોગ કરીને વ્યાપકપણે પહોંચે છે.
સોર્સ: 3dnews.ru