NVIDIA 在 OCP 全球峰会开放 Vera Rubin 架构并发布多项 AI 工厂开放标准
OCP Global Summit: Amid Ecosystem Adoption, NVIDIA Opens Vera Rubin Architecture to Help Scale AI Factories Worldwide
NVIDIA 在 OCP 全球峰会宣布通过 MGX 架构向 OCP 开放 Vera Rubin 机架与计算托盘设计,MGX 1.2 规范支持最高 250kW 机架部署、盲插液冷和 5000A 液冷母排。同场发布的合作包括:NVIDIA 与 AMD、Google、Meta 发布 Open Data Center Specification v0.7 数据中心设计规范,与 Google、Meta。
AI 生成摘要 · 以原文为准
官方公布了 Vera Rubin 机架设计开源到 OCP、MGX 1.2 规范及多项网络与供电标准合作,可据此跟踪下一代 AI 工厂基础设施的开放生态进展。
随着AI工厂从兆瓦级迈向吉瓦级,建设它们不仅需要先进的计算能力。开放标准正在帮助行业更快、更高效、更可靠地扩展AI基础设施。
在位于圣何塞McEnery会议中心举行的开放计算项目(OCP)全球峰会上,NVIDIA宣布了新的合作伙伴关系与贡献,旨在为下一代AI基础设施打造共同基础。
NVIDIA通过开放的NVIDIA MGX架构向OCP贡献了关键的NVIDIA Vera Rubin机架和计算托盘设计,为系统制造商提供开发下一代AI工厂基础设施的共同基础。
这些努力共同涵盖了AI工厂本身、为其供电的电网以及现代加速计算核心的机架级架构。
NVIDIA与合作伙伴宣布开放架构进展
在OCP大会上,NVIDIA与合作伙伴发布了多项公告:
- NVIDIA与超大规模云服务商发布了面向下一代AI工厂的开放标准,包括AI工厂设计标准和电网韧性。
- NVIDIA为NVIDIA DSX AI Factory推出了新的开源软件组件。
- Meta和NVIDIA凭借NVIDIA Spectrum-X Ethernet SuperNIC和Spectrum-6创新,推进了开放AI网络的发展。
- Visionbay 推出了面向Vera Rubin时代的800V直流AI工厂设计。
- NVIDIA和Cisco宣布了Ultra-Dense Small Form Factor Pluggable(USFP)标准,这是业界首个面向400Gb/s网络架构的模块。
- NVIDIA和Google宣布未来的NVIDIA ConnectX-10 SuperNIC和BlueField DPU将支持Falcon Transport。
在满场观众面前,NVIDIA超大规模与高性能计算副总裁Ian Buck讨论了开放基础设施如何成为在全球范围扩展AI工厂的关键要素。
本次OCP新闻重点展示了NVIDIA的深度协同设计与开放标准相结合,如何加速部署、提升电源效率并推动每瓦token性能。
Vera Rubin AI工厂借OCP上的MGX机架贡献取得进展
NVIDIA与行业领袖一道,通过OCP的Open DC计划为第三代MGX AI数据中心参考设计做出了贡献。
结合MQD和MQDB等开放液冷技术,这项工作有助于将经过验证的AI工厂设计转化为其他人可以采用、制造和扩展的行业标准。
针对NVIDIA Vera Rubin AI工厂,更新的MGX 1.2规范为AI工厂开放架构扩展了机架级盲插液冷、可互操作的机架级互连基础设施以及为更高功率AI系统设计的液冷5000A母线排。它还增加了对19英寸设备的原生支持以及更高密度的机架设计。
MGX 1.2 通过可配置的 I/O 托架、无风扇液冷计算托盘、标准化的电源与散热接口,以及帮助生态系统合作伙伴构建可互操作加速计算平台的通用基础设施,进一步扩展了模块化设计。它缩短了组装、测试和服务时间,简化制造与现场服务,从而实现更快、更高效的基础设施部署。该架构支持高达 250kW 的机架部署,同时简化了可维护性、部署和基础设施复用。
Vera CPU 机架设计规范将 NVIDIA MGX 开放架构扩展到加速计算之外,为不断增长的智能体 AI 时代提供了一个专门构建的平台。Vera Rubin NVL72 是大规模训练和推理的基础,而 NVIDIA Vera CPU 机架则旨在支持工具调用、编排和沙箱执行,帮助 AI 智能体实时与应用、数据和服务进行交互。
基于第三代 NVIDIA MGX 机架架构,Vera CPU 机架沿用了相同的机架级设计原则,将计算、网络、电源和散热整合到一个通用模块化平台中。这一方式使合作伙伴能够部署专用基础设施,同时受益于共享的生态系统、简化的集成以及面向下一代 AI 工厂的统一基础。

NVIDIA 为 DSX AI 工厂推出全新开源软件组件
NVIDIA DSX AI 工厂平台采用极致协同设计,将计算、网络、电源、散热、设施和软件统一起来,帮助 AI 工厂作为一个单一优化系统运行,在现有基础设施限制内最大化 AI 产出。这一统一系统的核心是 DSX OS,它是一个开放的操作层,可将 DSX 架构转化为可协调、可重复的大规模运营。
在 OCP 大会上,NVIDIA 为 DSX OS 扩展了用于配置网络、验证集群、管理机架和裸机配置的开源组件:
- NVIDIA Config Manager:大规模自动化交换机配置,使客户能够以最少甚至零人工干预的方式部署、验证和维护一致的 AI 工厂网络架构。
- NVIDIA Cluster Readiness Engine:通过使用真实工作负载模拟对 GPU 集群进行压力测试,在训练开始前保证硬件健康,从而帮助消除代价高昂的作业崩溃。
- NVIDIA Rack Management Service:提供机架硬件抽象和运营解决方案,将机架视为一等单元,以改进 AI 工厂规模的固件管理。
- Cluster API Provider for NVIDIA Infrastructure Controller:加速裸机部署和租户接入,将原始 AI 硬件在数小时内(而非数天内)转变为可用于生产的集群。
这些开源组件源自 NVIDIA 运营 NVIDIA DGX Cloud 的经验,使云提供商和软件合作伙伴能够将 AI 工厂能力直接集成到他们的多租户平台中。
开发者可以访问 NVIDIA DSX AI Factory 的 GitHub 页面,探索并为 NVIDIA DSX AI Factory 平台的新及现有开源软件组件做出贡献。

NVIDIA 与超大规模云服务商发布下一代 AI 工厂的开放标准
AI 基础设施要实现全球规模化,仅靠先进硬件是不够的——还需要整个行业都能基于其构建的共同基础。
在 OCP 大会上,NVIDIA 与 AMD、Google 以及 Meta 共同发布了一项新的开放规范,确立了这一基础。开放数据中心规范 v0.7 为下一代 AI 工厂的设施设计定义了统一蓝图——涵盖电力架构、散热基础设施到物理布局。
由 Google、Meta、Microsoft 和 NVIDIA 发布的 OCP 电网韧性规范,规定了大规模 AI 基础设施在电网扰动期间应如何表现:保持连接、自动响应,并在不到两秒内恢复到接近满负载的状态。
随着这些标准的开放,全球制造商如今有了共同的构建目标。设备制造商、托管服务提供商和数据中心运营商可以开始设计、制造和交付为全球在建 AI 工厂提供动力的基础设施层——而无需等待个别客户的专有规范。
这些规范与 NVIDIA DSX 参考设计兼容,提供了两项规范的经过验证、可部署的实现,涵盖从设施布局和电力架构,到实时监测并响应电网信号的软件。对于正在构建 Vera Rubin AI 工厂的运营商来说,从开放社区标准到运行中的系统,如今已有一条笔直的路径。

Visionbay.ai 为 Vera Rubin 时代设计 800VDC AI 工厂
随着 AI 工厂变得更大、更强大,一个挑战笼罩着它们所有:如何为驱动下一代 AI 的加速计算系统提供足够的电力。
在 OCP 大会上,Visionbay 公布了 K-1 的计划,这是一个围绕 800 VDC 架构设计、并为未来 NVIDIA Vera Rubin 部署而打造的下一代 AI 工厂平台。该项目将 NVIDIA 的 800 VDC 参考架构与来自 Vertiv 的电力和散热技术相结合,为高密度 AI 基础设施创建可扩展的基础。
该设计应对的是一个日益严峻的行业挑战。随着 AI 训练、推理和推理工作量不断扩大,机架功率密度持续上升。传统的低压配电越来越难以扩展,需要更多的铜材、更多的布线和更多的电力转换设备。
通过采用 NVIDIA 的 800 VDC 架构,K-1 为更高密度的 AI 基础设施开辟了一条路径,同时为现有部署保留了灵活性。该平台无需在第一天就完成全面过渡,而是设计为在能带来最大收益的地方逐步引入 800 VDC 配电,帮助运营商为未来几代加速计算做好准备,而无需对设施进行大规模重新设计。
该架构围绕集群级电力中心设计,将 AC-DC 转换集中化,并将 800 VDC 更靠近计算资源进行分配。这种方式简化了下游供电,支持模块化扩展,并为未来 AI 工厂的扩展创建了可复用的构建模块。
K-1 还体现了 NVIDIA AI 工厂背后的系统级设计理念,即电力、散热和计算协同设计。凭借对液冷基础设施、可扩展配电以及未来 Vera Rubin 级部署的支持,该项目展示了生态系统合作伙伴如何将 NVIDIA 的 AI 工厂架构转化为面向下一代加速计算的可部署基础设施。

Meta 与 NVIDIA 借助 Spectrum-6 和 Multiplane 技术推进 AI 网络
在本次活动上,Meta 与 NVIDIA 宣布,Meta 将采用 NVIDIA Spectrum-6 102.4Tb/s 以太网交换机,在开放网络之上构建更大、更高性能的 NVIDIA Vera Rubin AI 工厂。
Spectrum-6 的交换容量和单通道带宽是 Spectrum-4 的两倍,可提供每通道 200G 的无损以太网 AI 网络结构,并具有高有效带宽和性能隔离能力,确保一个作业的流量不会拖慢另一个作业。
Meta 基于 Spectrum-6 的交换机 N-IceCube 可插入 Meta 的 100T 液冷机架 IcePack。N-IceCube 运行 Facebook Open Switching System(FBOSS),这是 Meta 向 OCP 贡献的开源网络操作系统,用于支持超大规模的高效组网。
FBOSS 构建在 Switch Abstraction Interface 之上——这是一项由 NVIDIA 参与开发的 OCP 标准,提供了一种独立于厂商的交换机硬件控制方式。这些技术共同支持超过 10 万个 GPU 的智能体 AI 工厂,用于训练和服务大型 混合专家模型。
此次宣布标志着双方合作的下一步,该合作将 Meta 在超大规模运营 AI 基础设施方面的经验与 NVIDIA 的网络技术相结合。
这次合作的核心是由 Spectrum-6 交换机和 ConnectX-9 SuperNIC 实现的 Spectrum-X Multiplane 技术。Multiplane 在硬件中将 GPU 流量分配到多达八个独立的网络平面,使 AI 工厂能够以更少的交换层级和更低的基础设施成本扩展到 10 万个 GPU 以上。GPU 之间的多条路径提升了网络利用率和弹性:当某个组件发生故障时,流量会转移到其余平面,保持 GPU 持续工作、AI 应用持续运行,即使在带宽降低的情况下也是如此。
Meta 与 NVIDIA 通过部署经验和快速工程迭代共同强化了这种弹性。团队在现场和云环境中验证了各项改进。
Meta数据中心与AI网络高级总监Omar Baldonado表示:“我们很高兴与NVIDIA密切合作,使多平面架构(multiplane fabrics)在运营上具备可扩展性和高性能,这无论是对我们自身的基础设施建设,还是对我们共同的云合作伙伴而言,都是一项关键要求。将FBOSS扩展到Spectrum ASIC意味着我们可以在整个网络架构中运行同一套软件栈,而Meta基于Spectrum的新交换机N-IceCube将其带入了Icepack——我们面向scale-out的液冷102.4T网络机架,用于连接我们机群中即将推出的新一代加速器。”
Meta与NVIDIA正在共同开发一套其他AI基础设施运营商可以采用的架构与运营手册,将来自严苛生产工作负载的经验转化为更具可扩展性、韧性和效率的AI工厂。

NVIDIA与Cisco借助USFP重新定义AI工厂规模化的可插拔光模块
随着AI工厂的规模不断扩大,以支持更大的模型和激增的推理需求,基础设施堆栈的每一个组件都必须提供更高的性能、效率和简易性——包括网络连接本身。
在OCP大会上,NVIDIA与Cisco宣布了USFP计划,这是一种全新的可插拔光收发模块外形规格,旨在帮助AI工厂建设者在提升带宽密度和能效的同时扩展下一代AI网络架构。
USFP的占位面积与被广泛采用的每通道200Gb/s的OSFP外形规格大致相同,将为每通道400Gb/s的网络提供一条路径,并延续已在多代数据中心网络中验证过的基于收发器的部署模式。USFP集成了16个全双工通道,并计划扩展至32个通道,将提供传统每通道200Gb/s可插拔光模块四倍的带宽密度。
其结果是,能够在不增加会增加延迟、功耗和复杂性的网络层级的情况下连接更多计算资源。
这一全新外形规格专为下一代AI工厂的规模和效率需求而设计,在支持更高带宽网络架构的同时,保留了使可插拔光模块成为现代数据中心主流的灵活性与可维护性。它还将提供约1.3倍的能效提升,帮助运营商以更少的能源传输更多的数据。
为推动开放生态系统,NVIDIA与Cisco正在与TE Connectivity和Amphenol合作开发笼座、连接器和模块,并计划通过社区主导的多厂商努力推进USFP。这些公司正共同为更具可扩展性、更高效、更可互操作的AI工厂网络奠定基础。

Google Falcon传输网络支持NVIDIA ConnectX-10,实现可互操作的AI网络
NVIDIA与Google还宣布,未来的NVIDIA ConnectX-10超级网卡和BlueField DPU将支持Falcon传输网络,帮助提升大规模AI基础设施的网络效率。
Falcon 是一种传输协议,旨在通过以太网网络可靠地传输数据,而以太网在拥塞时可能会丢包。它通过多路径负载均衡、可编程拥塞控制、硬件丢包恢复和每连接安全性,支持 AI 和存储工作负载。
此次合作将 NVIDIA 硬件加速与 DOCA 软件相结合,以实现 Falcon 并将 NVIDIA 网络技术扩展到 Google 的数据中心传输。NVIDIA 和 Google 的网卡可以通过统一的传输协议进行通信,同时应用程序保留标准的 RDMA 编程接口。
通过将流量分配到多条路径、适应拥塞、恢复丢失的数据包以及保护连接,Falcon 帮助工作负载更好地利用可用带宽,并在以太网网络扩展时保持可预测的性能。
来源:NVIDIA Blog · blogs.nvidia.com
