Amazon Web Services (AWS) ja NVIDIA teatasid laiendatud koostööst, mis toob peagi GB200 ja B100 kiirendid AWS-i pilve. Lisaks teatasid ettevõtted Amazon SageMakeri integreerimisest NVIDIA NIM-iga, et pakkuda klientidele kiiremaid ja odavamaid järeldusi, uute NVIDIA BioNeMo baasmudelite ilmumisest AWS HealthOmicsis ja AWS-i toest uuendatud NVIDIA AI Enterprise platvormile. Kahe ettevõtte koostöö koondab nende uusimad tehnoloogiad üheks infrastruktuuriks, sealhulgas mitme sõlmega süsteemid, mis põhinevad NVIDIA Blackwelli kiipidel, AI tarkvara, AWS Nitro, AWS võtmehaldusteenus (AWS KMS), elastsest kangast võrguadapterid (EFA) ja EC2 UltraCluster klastrid. Kavandatav infrastruktuur ja tööriistad võimaldavad klientidel ehitada ja käitada mitme triljoni parameetriga LLM-e kiiremini, suuremahuliselt ja madalama hinnaga kui EC2 eksemplarid eelmise põlvkonna NVIDIA kiirenditega.
Allikas: 3dnews.ru
