NVIDIA 发布 DSX AI 工厂平台,欧洲生态伙伴采用以降低水耗与功耗
European Ecosystem Builds World’s Most Efficient AI Factories With NVIDIA DSX
NVIDIA 在 GTC Berlin 宣布推出 NVIDIA DSX AI 工厂参考架构,欧洲生态伙伴正采用其建设低水耗、低功耗的 AI 工厂。DSX 参考设计采用闭环液冷加干式冷却器,可将设施冷却用水降至接近零,2GW 部署每天可节省 5400 万升水;DSX MaxLPS 软件帮助运营方以最多 30% 更少的电力生成相同数量 token。
AI 生成摘要 · 以原文为准
官方公告给出 DSX 平台省水省电的具体设计与第三方实测数字,可用于评估 AI 工厂电力与冷却方案的落地路径。
NVIDIA DSX 助力欧洲企业将冷却用水消耗最多减少 100%,并以最高省电 30% 的方式生成同样的 AI 输出
新闻要点:
- NVIDIA DSX 参考设计采用闭环液冷和干式冷却器,实现接近于零的设施冷却水消耗,对于一个 2 吉瓦规模的部署,每日可节省多达 5400 万升水——相当于 18 万个家庭的日用水量。
- 欧洲的 AI 云正在基于 NVIDIA DSX 构建和运营 AI 工厂,为欧洲大陆的企业、开发者和政府扩大对加速计算的获取。
- NVIDIA DSX MaxLPS 软件可帮助运营商以最高省电 30% 的方式生成同样数量的 token,CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 和 Sharon AI 计划采用该技术;同时 DSX Flex 软件可将 AI 工厂转变为灵活的电力负载,以支持电网可靠性并实现更快的电网接入。
- NVIDIA SimReady Central 是一个提供物理设备仿真就绪数字模型的中心,现已在 Hugging Face 上线,提供经过验证的电力和冷却资产,帮助运营商更快地构建和模拟 DSX AI 工厂数字孪生。
- 全新的 NVIDIA DSX OS 开源软件可自动化基础设施生命周期,并改进健康自动化和弹性能力,帮助运营商大规模运营 AI 工厂。
- 一个不断扩展的生态系统——包括技术与工业 AI 领导者 AVEVA、达索系统(Dassault Systèmes)和西门子(Siemens),以及能源与冷却供应商 ABB、伊顿(Eaton)、GE Vernova、日立能源(Hitachi Energy)、施耐德电气(Schneider Electric)、西门子能源(Siemens Energy)、特灵科技(Trane Technologies)和 Vertiv——正在将 AI 工厂的设计、电力、冷却和运营连接起来,以支持欧洲的加速计算建设。
GTC 柏林——NVIDIA 今天宣布,欧洲领先的生态系统合作伙伴正在采用 NVIDIA DSX™ AI 工厂平台来构建将冷却用水消耗降至最低、并以更少电力生成同样 AI 输出的 AI 工厂。该平台还帮助合作伙伴更快地将新产能上线,并调整工作负载的电力消耗以支持电网可靠性。
NVIDIA DSX 是一套全栈 AI 工厂参考架构,由全球领先的基础设施公司共同创新打造。计算、网络、存储、软件、电力和冷却被协同设计为一个系统——从设计到运营全面优化。
AI 云以及领先的设计、施工、能源和冷却供应商正在使用 DSX 构建和运营基础设施,服务于欧洲的企业、开发者和政府。
“欧洲的技术领导力取决于我们将电力和基础设施转化为智能的效率,”NVIDIA DSX 产品管理副总裁 Warren Barkley 表示,“NVIDIA DSX 汇聚了运营商所需的技术和生态系统专业知识,帮助他们负责任地建设、高效地大规模运营,并更快地将智能推向市场。”
NVIDIA DSX 平台包含用于动态功率分配的 DSX MaxLPS™、用于协调工作负载功耗与电网状况的 DSX Flex、用于经验证的基础设施架构的 DSX Reference Design、用于仿真的 DSX Sim™、用于基础设施管理的 DSX OS™,以及用于连接计算与设施系统的 DSX Exchange™。这些技术帮助运营商设计、部署并运行能够节省宝贵资源的 AI 工厂。
NVIDIA DSX 重新思考冷却方式
传统冷却塔通过蒸发水来排热,需要持续补充水源。NVIDIA DSX 参考设计将液冷计算与基于干式冷却器的散热方式相结合,避免了蒸发:冷却液从计算设备吸收热量并在闭环中循环,而室外的干式冷却器(类似大型散热器)将热量释放到空气中,不会蒸发水分。
NVIDIA Vera Rubin 基础设施支持 100% 液冷,冷却液温度最高可达 45 摄氏度。采用基于干式冷却器的设计,该架构可将设施的冷却水消耗降至接近零。在 2 吉瓦规模下,与传统基于冷却塔的系统相比,NVIDIA DSX 每天可节省 5400 万升水——相当于 18 万个家庭的每日用水量。当地气候决定了在最炎热时段是否需要辅助机械制冷。
以更少电力交付同样的 AI 输出
电力可用性决定了运营商能够上线多少容量。DSX MaxLPS 和 DSX Flex 正是为解决这一限制而设计。
DSX MaxLPS 在 AI 工厂已配置的电力预算内动态分配功率,帮助运营商以最多减少 30% 的电力生成相同数量的 token。运营商还可以利用这种效率,在现有电力预算内支持更多 GPU 容量和更高吞吐量。CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 和 Sharon AI 正在探索这款软件。
在一项跨配备 DSX MaxLPS 的 NVIDIA HGX™ B200 系统的概念验证中,Lambda 在固定电力预算下展示了 24% 更高的集群 token 吞吐量和 19% 更多的 GPU 容量。
协调 AI 工厂电力需求与电网
DSX Flex 帮助 AI 工厂成为电网的灵活资产,使运营商能够根据公用事业需求、需求响应事件和能源价格调整工作负载的功耗。它还可以协调来自电网、现场可再生能源和储能的电力,帮助 AI 工厂作为灵活的电力负载运行,支持电网可靠性并实现更快的并网。
在一项早期试验中,Emerald AI、EPRI、Nebius、英国国家电网和 NVIDIA 在 NVIDIA Blackwell Ultra GPU 集群上演示了响应模拟电网事件时集群功耗最多降低 40%,同时关键工作负载仍在持续运行。
Nscale 借助 NVIDIA DSX 提升 AI 工厂效率
通过使用 DSX MaxLPS、DSX Flex 和 DSX Sim,Nscale 正在展示 NVIDIA DSX 平台如何将功率优化、电网响应式运营与设计相连接。
根据在冰岛 Nscale AI 工厂进行的一次评估——在四个 NVIDIA GB300 NVL72 机架上使用 DSX MaxLPS——Nscale 展示了在相同的 264 千瓦供电预算下,推理吞吐量提高 49%,可管理的 GPU 容量增加 37%。结果表明,动态功率分配可以从现有基础设施中释放额外容量。
Nscale 还在探索 DSX Flex,以使工作负载的功耗与电网状况保持一致。
“欧洲的 AI 雄心要求我们把每一兆瓦都用好,”Nscale 创始人兼 CEO Josh Payne 表示。“借助 NVIDIA DSX,我们正在构建的 AI 工厂能够从可用电力中提供更多算力、响应电网状况,并更快地从设计走向部署。”
对于其在葡萄牙和冰岛的设施,Nscale 正在使用 DSX Sim 创建 数字孪生,帮助在部署前评估电力、散热和基础设施配置。通过在虚拟环境中验证设计,Nscale 能够更早发现潜在问题、降低部署风险,并加速从规划到投产的进程。
借助 DSX Sim 和 SimReady Central Library 加速 AI 工厂设计
NVIDIA 正在推出 SimReady Central Library,其中包含来自 Vertiv 等合作伙伴的经过验证的电力和散热设备资产,可加速创建 DSX AI 工厂数字孪生。
与 DSX Sim 配合使用时,包括 PTC 在内的生态系统合作伙伴正在帮助利用计算机辅助设计创建这些仿真就绪资产,从而支持 SimReady 工作流,让建设者在设备安装前对基础设施配置建模并评估电力与散热决策。运营商可以更早验证设计、降低部署风险,并更快地从规划走向建设。
借助 NVIDIA DSX OS 实现生产就绪
为帮助运营商将已安装的基础设施转化为可用产能,NVIDIA 正在扩展其模块化、开源的 DSX OS 产品组合,推出三个开发者预览版组件:
- NVIDIA Config Manager 可自动化 AI 工厂的网络配置。
- NVIDIA Rack Management Service 提供机架级的电源、资产、固件和交换机管理。
- NVIDIA Cluster Readiness Engine 运行分布式工作负载,在生产工作负载到来之前验证 GPU 集群,并将故障隔离到特定节点。
与 NVIDIA Infrastructure Controller、NVIDIA AI Cluster Runtime 和 NVSentinel 相结合,这些组件帮助运营商实现基础设施生命周期管理自动化、保持一致的运行时环境,并强化健康验证、故障定位和恢复能力。
包括 Aleria、Cassava、CoreWeave、Crusoe、Firmus、Firebird、G42、GMI Cloud、IREN、Lambda、Nebius、Nscale、Radiant、Sharon AI 和 Volta 在内的云合作伙伴正在探索 NVIDIA DSX OS 的最新组件,以实现基础设施生命周期管理自动化,并提升弹性和可靠性。
连接欧洲 AI 工厂生态系统的设计、电力与散热
NVIDIA 的工业软件、电力和散热合作伙伴正在借助 DSX 参考设计、生命周期数字孪生和经过认证的设备推进欧洲 AI 工厂建设,将设施基础设施与加速计算连接起来。
- 施耐德电气为 NVIDIA Vera Rubin 基础设施开发了供电与散热参考设计,并正与 AVEVA 合作开发覆盖基础设施设计、建造和运营的数字孪生。
- Procore 正通过其施工管理平台(与 DSX Sim 集成)协助管理 AI 工厂的建造。
- 西门子(Siemens)正使用 DSX Sim 对供电、散热和声学进行仿真,而达索系统(Dassault Systèmes)与 Vertiv 正在为 Vertiv 的 OneCore 基础设施开发数字孪生模型,通过基于模型的系统工程实现仿真与优化。
- ABB 正在基于 NVIDIA DSX Sim 开发 SimReady 资产,使工程师能够在施工前评估从电源到机架的架构,并通过新发布的 Infinitus Direct Current 产品组合推进 800 VDC 的研发。
合作伙伴还在提供与 DSX 参考设计相匹配的协同供电与散热基础设施。特灵科技(Trane Technologies)和伊顿(Eaton)近日与 NVIDIA 合作,为 NVIDIA Vera Rubin DSX AI 工厂参考设计打造一体化方案,以提升数据中心效率并降低安装成本,将伊顿的 Beam 平台和供电基础设施与特灵 Continuum 散热系统及协同控制整合为从电网到芯片的架构。
特灵科技已发布七项热管理系统参考设计,其中包括三项基于 250 兆瓦 DSX 的散热参考设计,以支持大规模热基础设施规划。
通过 NVIDIA DSX Ready 计划,建设方可以选择在适用 DSX 类别下通过认证的设备。特灵科技的 LiquidStack GigaModular 和 Vertiv 的 2.3 兆瓦 CoolChip——均为冷却液分配装置——已在其适用类别下通过认证,而日立能源(Hitachi Energy)的电池储能系统已获得 NVIDIA DSX Ready BESS 认证。
在能源供应和电网集成方面,GE Vernova、日立能源和西门子能源正与 NVIDIA 就电力基础设施和数字孪生计划展开合作,根据设施需求将能源系统工程与电网规划相连接。日立能源正在开发其能源管理系统与 DSX Flex 之间的集成,以根据工作负载需求优化电网、发电和储能资源。
观看 NVIDIA 创始人兼 CEO 黄仁勋的 GTC 柏林主题演讲,并 探索各场会议。
来源:NVIDIA Newsroom · nvidianews.nvidia.com