NVIDIA 发布开源 Nemotron 3.5 Super VL 与两款 Bolt 边缘模型

NVIDIA 今日发布 Nemotron 3.5 Super VL，这是一款开放权重的 1200 亿参数模型，可为专业常驻智能体带来最快的任务完成速度和最高的准确率。

同时发布的还有两款新的边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB，为本地智能体工作负载优化了每 GB 内存的智能与速度平衡；以及 Nemotron 3.5 Bolt E4B 4GB，为快速对话式智能体优化了每 GB 内存的智能水平。

Super VL 和 Bolt 74B-A9B 现已推出，Bolt E4B 将于 10 月 23 日发布。

这三款开放模型共同覆盖了智能体部署的完整场景，从大型企业服务器到边缘设备和本地硬件。

任何希望在 NVIDIA 基础设施上运行智能体的组织，现在都有了与其层级匹配的开放、优化模型，无需在能力与可部署性之间做取舍。

Super VL 和 Bolt 加入了 Nemotron 家族，与 Lightning 和 Ultra 并列。

Lightning 于 8 月发布，处理高吞吐量工作负载；Ultra 处理最难的推理任务；而 Bolt 则将智能带到边缘。

Nemotron 3.5 Super VL：以五分之一的规模实现前沿准确率

Super VL 与 Nemotron Coalition 合作构建，在多模态智能体任务——指令遵循、工具使用、多步骤业务工作流和视觉理解——上实现了领先的准确率，与 NVIDIA 最大的推理模型相当，而参数量约为其五分之一。

Nemotron 3.5 Super VL 在其同级中为大批量智能体工作流提供了前沿水平的智能。

作为其同级中最快的开放智能体模型——比次优模型快 5 倍——它帮助企业智能体在跨越数天或数周的工作流中更快完成大批量任务。

在 Artificial Analysis Intelligence Index 排行榜上，Nemotron 3.5 Super VL 的吞吐量最高可达其同级其他模型的 5 倍。

与封闭的前沿模型不同，组织可以在自己的数据上对 Super VL 进行后训练，部署在自己的基础设施上，并监督自己构建的内容。

Nemotron 3.5 Bolt：边缘侧的智能体智能

Bolt 74B-A9B 24GB 专为在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务而设计，采用原生 2-bit 量化以适配 24GB 内存，并可与其他应用并行运行。

相对于其他内存占用相近的模型，它在智能与速度之间提供了良好的平衡：足够聪明以完成大多数任务，同时远快于最聪明的模型。

借助 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地智能体框架——从网络调研到写作再到代码调试——而无需将这些工作负载发送到云端。它是其在 PinchBench 上同类开放模型中的第 1 名，在 BrowseComp 上排名第 2 的开放模型。

Bolt E4B 4GB 面向 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理与对话式智能体构建。它将自然对话与多轮智能体能力相结合，为快速本地语音助手、交互式角色和嵌入式界面提供动力。

采用定制超级智能

数十家跨行业组织正在使用自身的数据、工具、政策和工作流对 Super VL 进行后训练，以在其定义智能体部署的专项任务上进一步提升准确性。

各行业的组织正在对 Super VL 进行后训练和定制。Scale AI 为 Skydance 的供应商信贷金融智能体和 EY 的并购尽职调查智能体对该模型进行了后训练。 AfterQuery 为 Hebbia 定制了该模型，用于信贷协议分析。AI21 和 Alice 针对网络安全攻击韧性对该模型进行了后训练。 Mercor 在 APEX-SWE 编程基准上对该模型进行了后训练，用于规划、编写和调试代码的编程智能体。 ModelScope 让开发者能够通过其 ms-swift 框架对模型进行微调，以用于专门的多模态应用。

其他正在定制 Nemotron 3.5 Super VL 的组织包括：Ramp 用于金融文档智能；Dream 用于主权 AI 驱动的网络安全研究与漏洞分析；Lila Sciences 用于科学发现与搜索，以及 R1 用于医疗理赔分析和收入周期管理。 TrainLoop 使用来自 Nolla 的皮肤病学数据对该模型进行了后训练，Nolla 刚刚成为首家获批由 AI 开具患者初始处方的公司。

正在集成 Nemotron 3.5 Super VL 的软件平台公司包括：

Atlassian，用于诸如跨 Jira 和 Confluence 等应用的智能体搜索等任务。
CrowdStrike，正在为企业安全中的智能体蓝队演练定制该模型。
达索系统（Dassault Systèmes），为工程设计与仿真提供动力。
Perplexity，用于 Perplexity Search 和 Computer 中的搜索与智能体任务。
Salesforce，正在定制 Nemotron，通过 Missionforce Operations 在安全的客户环境中为数字化并自动化复杂政府工作流的 AI 智能体提供动力。
Synopsys 的半导体设计验证软件可与该模型互操作。

Nemotron 3.5 Super VL 究竟能看到什么

Nemotron 3.5 Super VL 的视觉语言能力专攻智能体在实践中会遇到的内容：视觉文档中的光学字符识别、表格、图表和结构化信息。

它能够处理网页、提取文本、读取图形和图表，并根据所找到的内容返回洞察。对于 PDF 和智能体常用的其他文档也是如此。

Nemotron 3.5 Super VL 能理解图像、网页和 PDF，并基于这种理解采取行动。在一个模型中结合文本与视觉理解，意味着智能体无需在独立系统之间路由任务——随着工作从文档到数据再到决策的推进，上下文得以贯穿始终。

开放，以实现最大程度的控制、安全与隐私

开放性与可定制性相辅相成。该模型以开放权重、开放数据集和训练配方发布。

控制体现在两个方向。企业可以在其安全与数据驻留要求所规定的任何地方运行该模型。他们也可以选择采用一个自己能够加以改造的模型，而不是受制于提供商限制的模型。

例如，在保险业，定制化的智能体可以反复扫描理赔中的欺诈特征。在金融服务业，智能体可以审查信用评分，并根据企业自身的放贷标准标记可疑活动。模型留在本地，数据保持私密。

定制化通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集获得支持。

Nemotron 3.5 Super VL 在预训练和持续预训练阶段使用了约 26 万亿个 token 进行训练，随后使用约 380 万个样本以及跨数十个环境的强化学习进行后训练。

NVIDIA 还在 Hugging Face 上发布了开放数据集，涵盖智能体工具使用、金融、指令遵循、长上下文、公平性和视觉语言理解，以及在 NeMo Gym 中的强化学习环境。

NVIDIA NIM 将该模型打包为可用于生产的微服务，提供性能优化且经过验证的配置和企业级支持，每两周更新一次安全补丁和性能改进。

借助 NVIDIA Dynamo 运行该模型，企业可以服务多达 8 倍的用户，同时将延迟降低 85%。

Nemotron 3.5 Super VL 现已登陆 Hugging Face、Open Router、ModelScope 社区，并以 NVIDIA NIM 形式提供。

可在 DGX Spark、DGX Station 和 RTX 上运行

Nemotron 3.5 Super VL 可在 NVIDIA 的完整硬件栈上运行：在 DGX Spark、DGX Station、RTX PRO 和 RTX 系统上实现桌面级本地智能，在边缘端的 NVIDIA Jetson 上运行，并覆盖数据中心和云环境。

Nemotron 3.5 Bolt 74B-A9B 24GB 现已登陆 Hugging Face，并支持 llama.cpp、Ollama、LM Studio、Unsloth、Canonical 和 vLLM。该模型为 10 月 16 日上市的 NVIDIA RTX Spark 笔记本打造，也可在 GeForce RTX 台式机、DGX Spark、DGX Station 和 RTX PRO 工作站上运行。

下载开放权重，通过 NVIDIA NeMo 探索定制化资源，或阅读技术博客了解完整的架构解析。

订阅 NVIDIA 新闻、 加入社区，并在 LinkedIn、 Instagram、 X 和 Facebook 上关注 NVIDIA AI，随时了解智能体、NVIDIA Nemotron 等最新动态。

探索 自学视频教程和直播。

请参阅软件产品信息的 声明。