跳到正文
NVIDIA Newsroom·· 7 天前精选AI 评分70

NVIDIA 与 Oracle 将 OCI Superclusters 扩展至多吉瓦级,Vera Rubin NVL72 与 Vera CPU 在 OCI 正式可用

NVIDIA and Oracle Expand NVIDIA Vera Rubin to Multi-Gigawatt Scale and Bring NVIDIA Vera CPU to Oracle Cloud Infrastructure

AI 导读

NVIDIA 与 Oracle 宣布将 OCI Superclusters 以 NVIDIA Vera Rubin NVL72 系统扩展至多吉瓦级规模,Vera Rubin NVL72 和 NVIDIA Vera CPU 已在 OCI 正式可用,双方还计划推出基于 x86 服务器、配备两颗 64 核 Intel Xeon 6 CPU、4TB DDR5 内存和 6.4 Tbps RDMA 网络的 HGX Rubin NVL8 系统。OpenAI 已在超过 10 万块 NVIDIA Blackwell GPU 的 OCI Supercluster 上训练和服务 GPT-6 Astra,并计划将 Vera CPU 投入生产以支持智能体沙箱工作负载。客户可通过 OCI Kubernetes Engine 独立扩展 CPU 与 GPU 资源,以降低 GPU 空闲时间。

AI 生成摘要 · 以原文为准

关注理由

官方公告同时确认了 Vera Rubin NVL72 与 Vera CPU 在 OCI 的可用性及 HGX Rubin NVL8 规划,可据此跟踪两家云合作的产品节奏。

正文 · AI 翻译

NVIDIA Vera Rubin NVL72 与 NVIDIA Vera CPU 现已在 OCI 正式可用,并计划推出 HGX Rubin NVL8 系统,帮助各组织加速前沿模型训练、提升推理效率并扩展智能体工作负载

NVIDIA 与 Oracle 今日宣布,计划将搭载 Oracle Cloud Infrastructure (OCI) 超级集群的 NVIDIA Vera Rubin NVL72 系统扩展至多吉瓦级规模,以满足客户对 AI 训练、推理和智能体应用日益增长的需求。Oracle 与 NVIDIA 还扩大了在 AI 基础设施方面的合作,NVIDIA Vera Rubin NVL72 和 NVIDIA Vera CPU 现已在 OCI 正式可用。

此次扩展的合作让客户同时获得两方面的基础设施:一是用于训练和部署前沿模型的 GPU 密集型工作,二是智能体在模型调用之间执行的 CPU 密集型任务,包括执行工具、测试代码和检索数据。客户可以独立扩展 CPU 和 GPU 资源以匹配各自的工作负载,帮助减少闲置容量,让更多基础设施投入实际生产。

OCI 超级集群帮助各组织以多吉瓦级规模更快将前沿 AI 推向市场
OCI 超级集群将 NVIDIA NVL72 机架级系统、配备 NVIDIA Spectrum™-6 交换机和 NVIDIA BlueField®-4 DPU 的 Oracle Acceleron 网络与 NVIDIA Spectrum-X™ 以太网网络,以及吉瓦级电力和冷却能力相结合,用于训练和部署最大的 AI 模型。每个机架通过 NVIDIA NVLink™ 扩展网络连接 72 块 GPU,而 OCI 具备弹性的多平面网络可扩展至数十万块 GPU。

计划中的 Vera Rubin 扩展建立在 OCI 现有的 NVIDIA 驱动基础设施之上,其中包括 NVIDIA GB200 和 GB300 NVL72 系统。NVIDIA 统一的 CUDA® 软件基础以及持续的软件优化,帮助客户在硬件代际更替中支持不断演进的模型和工作负载。

OCI 还计划推出 NVIDIA HGX Rubin NVL8,在基于 x86 的服务器配置中通过 NVLink 连接八块 Rubin GPU。

这一计划中的平台配备两颗 64 核 Intel Xeon 6 CPU、4TB DDR5 内存和 6.4 Tbps 高速 RDMA 网络,为 AI 训练、微调和推理提供灵活的部署选择。HGX Rubin NVL8 让客户能够以更小的八 GPU 配置采用新一代 Rubin GPU 技术,同时保持与基于 x86 的应用的兼容性。

这种灵活性使客户能够随着需求的变化调整其 AI 基础设施以适应不同的模型和工作负载,在训练和推理中同时使用加速计算容量,从而更好地利用其基础设施投资。

OpenAI 已经展示了这套基础设施如何支持前沿 AI。在 Abilene,OpenAI 在拥有超过 100,000 块 NVIDIA Blackwell GPU 的 OCI 超级集群上训练并部署了 GPT-6 Astra。

“随着我们的前沿模型不断进步,我们需要能够跟上演进步伐的基础设施,”OpenAI 计算基础设施工程负责人 Sreekanth Pothanis 表示,“OCI 上的 NVIDIA Vera Rubin 为我们提供了加速模型训练和应对日益苛刻的 AI 工作负载所需的计算性能与规模。”

NVIDIA Vera CPU 在 OCI 上加速 AI 智能体背后的工作
AI 智能体不仅仅是生成回复。它们会调用工具、执行代码并检索信息来完成任务。这些 CPU 密集型操作执行缓慢会延迟结果输出,并让 GPU 在模型调用之间处于等待状态。

OCI Compute 搭配 NVIDIA Vera CPU,将高单线程性能与内存带宽相结合,帮助智能体更快地完成 CPU 密集型任务。高单线程性能可加速单个工具调用和代码执行,而高内存带宽则能在智能体运行并发任务时持续为 CPU 核心提供数据。这些能力共同帮助减少 GPU 空闲时间,并在工作负载扩展时保持稳定的性能。为了进一步支持这些工作负载,OCI Kubernetes Engine 使客户能够独立扩展 CPU 和 GPU 资源,而 Oracle Acceleron 则为运行不受信任的 AI 生成代码的工作负载提供基于硬件的隔离。

早期使用 OCI 上 NVIDIA Vera CPU 的客户(包括 OpenAI)正在一系列 AI 工作负载中探索其潜力。

“OCI 上的 NVIDIA Vera CPU 提供了一流的高负载性能,可在我们快速增长 agentic sandbox 工作负载中执行代码和运行工具,”OpenAI 计算首席技术官 Uday Ruddarraju 表示,“我们正在将 Vera 引入 OCI 生产环境,以大规模支持这些工作负载。”

“Oracle Cloud Infrastructure 为客户提供推进前沿 AI 所需的性能、安全性和规模,”Oracle 公司 Oracle Cloud Infrastructure 总裁 Mahesh Thiagarajan 表示,“我们与 NVIDIA 的合作将这些能力延伸到训练、推理和智能体 AI。通过将 NVIDIA Vera Rubin GPU 和 Vera CPU 与 Oracle Acceleron 网络以及 AI 优化的数据中心相结合,我们帮助客户在需求增长时保持 GPU 高效运转、安全并高效扩展。”

“AI 工厂必须高效、持久且灵活可替换——既要提供高效计算,又要通过持续的软件进步保持价值,并随着需求变化服务不同的模型和工作负载,”NVIDIA 超大规模与高性能计算副总裁 Ian Buck 表示,“我们与 Oracle 携手,将 Vera Rubin 和 Vera CPU 带到 OCI,帮助客户今天就充分利用其基础设施,并在 AI 演进过程中保持其价值。”

了解更多关于 Oracle Acceleron、Oracle Cloud Infrastructure Supercluster、Oracle 与 NVIDIA 的多代合作 以及 OCI Compute with NVIDIA Vera CPUs 的信息。

来源:NVIDIA Newsroom · nvidianews.nvidia.com