Amazon Web Services (AWS) dan NVIDIA mengumumkan perluasan kolaborasi yang akan segera menghadirkan akselerator GB200 dan B100 ke cloud AWS. Selain itu, perusahaan mengumumkan integrasi Amazon SageMaker dengan NVIDIA NIM untuk menyediakan inferensi yang lebih cepat dan lebih murah kepada pelanggan, munculnya model dasar NVIDIA BioNeMo baru di AWS HealthOmics, dan dukungan AWS untuk platform NVIDIA AI Enterprise yang diperbarui. Kolaborasi kedua perusahaan menyatukan teknologi terbaru mereka ke dalam satu infrastruktur, termasuk sistem multi-node berdasarkan chip NVIDIA Blackwell, perangkat lunak AI, AWS Nitro, AWS Key Management Service (AWS KMS), Elastic Fabric Network Adapters (EFA), dan Kluster UltraCluster EC2. Infrastruktur dan alat yang diusulkan akan memungkinkan pelanggan untuk membangun dan menjalankan LLM multi-triliun parameter lebih cepat, dalam skala besar, dan dengan biaya lebih rendah dibandingkan instans EC2 dengan akselerator NVIDIA generasi sebelumnya.
Sumber: 3dnews.ru
