नयाँ बेन्चमार्क - नयाँ रेकर्ड: NVIDIA ले MLPerf Inference मा आफ्नो नेतृत्व स्थिति पुष्टि गर्यो

NVIDIA ले MLPerf Inference 4.0 बेन्चमार्कमा ठूलो भाषा मोडेल (LLM) सँग काम गर्ने क्षेत्रमा नयाँ, अझ प्रभावशाली नतिजाहरू प्रकाशित गरेको छ। विगत छ महिनामा, अनुमानित परिदृश्यहरूमा हपर आर्किटेक्चरले प्रदर्शन गरेको पहिले नै उच्च परिणामहरू लगभग तीन गुणा सुधार गरिएको छ। यस्तो प्रभावशाली परिणाम H200 गतिवर्धक र सफ्टवेयर अप्टिमाइजेसनमा हार्डवेयर सुधार दुवैको लागि धन्यवाद प्राप्त भएको थियो। जेनेरेटिभ AI ले उद्योगलाई शाब्दिक रूपमा विस्फोट गराएको छ: विगत दस वर्षमा, न्यूरल नेटवर्कहरू तालिममा खर्च गरिएको कम्प्युटिङ पावरले छ अर्डरको परिमाणले वृद्धि गरेको छ, र ट्रिलियन प्यारामिटरहरू भएका LLMहरू अब असामान्य छैनन्। यद्यपि, त्यस्ता मोडेलहरूको अनुमान पनि एक कठिन कार्य हो, जुन NVIDIA ले व्यापक रूपमा, यसको आफ्नै शब्दहरूमा, "बहु-आयामी अनुकूलन" प्रयोग गरेर पहुँच गर्दछ।
स्रोत: 3dnews.ru