নতুন বেঞ্চমার্ক - নতুন রেকর্ড: NVIDIA MLPerf ইনফারেন্সে তার নেতৃত্বের অবস্থান নিশ্চিত করেছে

এনভিডিয়া তাদের MLPerf Inference 4.0 বেঞ্চমার্কে লার্জ ল্যাঙ্গুয়েজ মডেল (LLM)-এর জন্য নতুন এবং আরও বেশি চিত্তাকর্ষক ফলাফল প্রকাশ করেছে। গত ছয় মাসে, ইনফারেন্স সিনারিওতে হপার আর্কিটেকচারের প্রদর্শিত শক্তিশালী ফলাফল প্রায় তিনগুণ বেড়েছে। H200 অ্যাক্সিলারেটরের হার্ডওয়্যার উন্নয়ন এবং সফটওয়্যার অপটিমাইজেশন উভয়ের কল্যাণেই এই চিত্তাকর্ষক ফলাফল অর্জিত হয়েছে। ইন্ডাস্ট্রিতে জেনারেটিভ এআই-এর ব্যাপক প্রসার ঘটেছে: গত দশ বছরে, নিউরাল নেটওয়ার্ক প্রশিক্ষণে ব্যবহৃত কম্পিউটিং শক্তি ছয় গুণ বৃদ্ধি পেয়েছে এবং ট্রিলিয়ন প্যারামিটারযুক্ত LLM এখন আর বিরল নয়। তবে, এই ধরনের মডেলের ইনফারেন্সিংও একটি জটিল কাজ, যা এনভিডিয়া তাদের "মাল্টিডাইমেনশনাল অপটিমাইজেশন" নামক পদ্ধতি ব্যবহার করে একটি সামগ্রিক উপায়ে সমাধান করে।
উত্স: 3dnews.ru