跳到正文
NVIDIA Blog· Uttara Kumar·· 13 天前精选AI 评分72

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式商用,A5X 实例下月可用

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

AI 导读

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式商用,A5X 实例下月上线并计划扩展到欧洲。A5X 集成 NVIDIA Vera Rubin NVL72、ConnectX-9 SuperNIC、Google Cloud Virgo Network 和第四代液冷技术。

AI 生成摘要 · 以原文为准

关注理由

公告给出 A5X 实例的硬件组合、下月上线时间和扩容至 960,000 块 Rubin GPU 的计划,可跟踪 Vera Rubin 平台在云侧的落地节奏。

正文 · AI 翻译

该实例将于下月正式发布,并计划扩展到欧洲——为云客户带来集训练、推理和大规模强化学习于一体的平台。

A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 超级网卡、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术结合在一起,用于大规模的严苛智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展到多个站点、多达 960,000 颗 Rubin GPU。

Ineffable Intelligence,一家由 AlphaGo 创造者 David Silver 在伦敦创立的科技公司,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。

阅读所有 NVIDIA 在欧洲的公告

通过交互进行学习需要一个持续的循环:生成经验、评估结果并更新模型,这需要能够大规模支持整个流程的基础设施。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,融合计算、网络和存储,以支持大规模的经经验驱动的学习。

“我们正在构建通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼 CEO David Silver 表示。“这既需要大量算力,也需要经验生成与训练之间的紧密衔接,从而让智能体的每一次改进都能快速塑造其下一次经验。Vera Rubin 在计算性能与高带宽互联方面的结合——无论是 Vera CPU 与 Rubin GPU 之间,还是机架内 Rubin GPU 之间——让我们能够将强化学习研究的规模与雄心进一步推高。”

WPP,一家总部位于伦敦的营销与传播公司,也在基于 NVIDIA Vera Rubin 的 A5X 实例上演示了其创意智能体参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell,后者是面向安全 AI 智能体的 NVIDIA OpenShell 参考架构 的一部分。 

这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、超分辨率和风格重塑,并在执行前需获得人工批准。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群运行的工作负载可在单个 A5X 实例上运行。

随着各组织部署智能体系统,他们需要保护支撑这些系统的专有模型和敏感数据——即使是在非自己拥有的基础设施上运行时也是如此。

Google Cloud 将成为首批在裸机实例(如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上以整机架规模提供 NVIDIA 机密计算(NVIDIA Confidential Computing) 的云服务商之一。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G4 虚拟机上使机密计算 正式发布(generally available),为机密推理和微调提供一个灵活的平台。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用机密 G4 实现对话隐私、可验证的智能体执行和受策略治理的企业智能。

为支持大规模的节能部署,Google Cloud 和 NVIDIA 正在为基于 Vera Rubin 的基础设施探索 NVIDIA DSX MaxLPS 能力,以帮助优化每瓦性能,并在数据中心可用电力预算范围内扩展容量。

了解更多 关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。

阅读所有 NVIDIA 在欧洲的公告

来源:NVIDIA Blog · blogs.nvidia.com