Amazon Web Services (AWS) 和 NVIDIA 宣布扩大合作，很快将把 GB200 和 B100 加速器引入 AWS 云。此外，两家公司还宣布将 Amazon SageMaker 与 NVIDIA NIM 集成，为客户提供更快、更便宜的推理、在 AWS HealthOmics 中出现新的 NVIDIA BioNeMo 基础模型，以及 AWS 对更新后的 NVIDIA AI Enterprise 平台的支持。两家公司的合作将他们的最新技术整合到一个基础设施中，包括基于 NVIDIA Blackwell 芯片的多节点系统、AI 软件、AWS Nitro、AWS Key Management Service (AWS KMS)、Elastic Fabric Network Adapters (EFA) 和EC2 UltraCluster 集群。与采用上一代 NVIDIA 加速器的 EC2 实例相比，拟议的基础设施和工具将允许客户更快、更大规模地构建和运行数万亿参数的 LLM，并且成本更低。
来源： 3dnews.ru
