Rezervimi i AI: AWS fton klientët të porosisin paraprakisht grupe me përshpejtuesit NVIDIA H100

Ofruesi i resë kompjuterike, Amazon Web Services (AWS) ka njoftuar lançimin e një modeli të ri konsumi, EC2 Capacity Blocks për ML, i projektuar për ndërmarrjet që kërkojnë të rezervojnë akses në përshpejtuesit llogaritës për të trajtuar ngarkesat e punës jetëshkurtër të AI. Zgjidhja EC2 Capacity Blocks për ML e Amazon i lejon klientët të rezervojnë akses në "qindra" përshpejtues NVIDIA H100 në EC2 UltraClusters, të cilët janë krijuar për ngarkesat e punës të mësimit të makinerive me performancë të lartë. Klientët thjesht specifikojnë madhësinë e dëshiruar të grupit dhe datën e fillimit dhe mbarimit të aksesit. Kjo rrit parashikueshmërinë e disponueshmërisë së burimeve të AI ndërsa eliminon nevojën për të paguar për aksesin në kapacitet kur ai nuk është në përdorim. AWS gjithashtu përfiton sepse kjo qasje përdor më mirë burimet ekzistuese.
Burimi: 3dnews.ru

Shto një koment