NVIDIA 发布 Minerva 平台，为 AI 工厂提供端到端可观测性
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA 发布 AIOps 平台 Minerva，用于对 AI 工厂进行端到端监控运维。平台汇聚 GPU、网络、存储、调度器和工作负载的遥测数据，构建动态知识图谱映射基础设施与在运行任务，每小时分析数十亿数据点，以检测异常、预测故障并将告警事件聚合为指向可能根因的单一事件，并提供原生 AI 助手支持自然语言排查。
AI 生成摘要 · 以原文为准
官方公告写明 Minerva 的监控对象、知识图谱构建方式，并列出首批采用与部署合作的伙伴名单。
今天发布的 NVIDIA Minerva 是一个 AIOps 平台，旨在帮助团队更早发现问题并保持 AI 工厂的高效运转。它汇集来自基础设施和 AI 工作负载的遥测数据，然后应用专门构建的 AI 模型，将这些数据转化为及时、可操作的洞察。
AI 工厂是世界上最复杂的运营之一，大量 GPU 通过高速网络协同工作，用于训练模型和服务 AI 应用。在这样的规模下，单个性能下降的组件就可能拖慢整个任务。警告信号可能很容易被忽视，例如某块 GPU 比同类的运行温度更高，或某块 NVMe 硬盘在高负载下性能下降。
该平台聚焦于 AI 工厂良率，即通过 GPU 小时数、有效吞吐量（goodput）、集群正常运行时间和 token 产量来衡量基础设施产生的有效工作。
呈现 AI 工厂的动态视图
传统监控工具通常将数据中心划分为各自独立的视图。网络、计算、站点可靠性和机器学习团队各自只看到运营的不同部分。Minerva 则将 NVIDIA GPU、网络、存储、调度器和工作负载的信号连接起来。
借助这些信号，Minerva 构建了一个动态知识图谱，从逻辑上映射基础设施——GPU、SuperNIC、交换机和线缆——以及其上运行的任务。这种上下文帮助运营者将缓慢的训练任务追溯到影响它的组件，即使是在拥有数十万块 GPU 的工厂中也是如此。
它每小时分析数十亿个数据点，使用有监督和无监督机器学习。它学习正常行为，检测前所未见的异常，预测即将发生的故障，并基于工厂拓扑关联相关事件。它不是把每个症状都推给运营者，而是能将事件风暴归组为一个聚焦的事件，并给出可能的根本原因。
Minerva 自带原生 AI 助手，并可连接外部智能体 AI 工具。这提供了一个基于实时遥测的自然语言界面。运营者可以通过对话调查集群健康状况并获得推荐的修复方案。团队可以让人员参与流程以手动实施修复，或通过基础设施 API 和外部系统将 Minerva 连接到自动化。
最大化 AI 工厂良率的成果
关联工作负载与基础设施问题的能力，加上其智能体 AI 功能，有助于简化 AI 工厂运营。Minerva 不再让运营者面对铺天盖地的警报，而是将相关问题聚合为单个可操作项。这使 AIOps 团队能够从被动响应转向主动维护。这一切都有助于 AI 工厂最大化 GPU 正常运行时间。
Minerva 为 AI 工厂关注的关键指标带来价值：
- 更长的无中断运行时间：Minerva 在故障发生前发现隐患，使任务能够更长时间不间断地运行。
- 更快的修复时间：当事故发生时，Minerva 能精确定位问题，从而显著加快解决速度。
- 更深入的洞察：现代 AI 基础设施会产生海量数据；Minerva 对其进行过滤，只留下真正重要的少数警报。
IREN 是使用 Minerva 优化其 AI 工厂的 NVIDIA 合作伙伴之一。
“在扩展 AI 工厂的过程中，为客户提供最佳服务的关键是最大化 GPU 的生产力，” IREN 首席技术官 Denis Skrinnikoff 表示。“NVIDIA Minerva 让我们的运营团队在一个视图中查看网络、GPU 以及其上运行的作业，因此我们能更专注于主动维护，而不是故障排查。这种可见性加强了我们为下一代基础设施构建的运营模式。”
继 IREN 之后，Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI 和 Tesla 也计划部署 Minerva。
除 Dell Technologies 外，联想 和 Supermicro 也将 Minerva 纳入其 AI 工厂运营产品组合。
进一步了解 NVIDIA Minerva。
请参阅 声明了解软件产品相关信息。
来源：NVIDIA Blog · blogs.nvidia.com