NVIDIA 扩展 Nemotron 家族,发布 Super VL 与两款 Bolt 边缘模型
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
NVIDIA 发布 Nemotron 3.5 Super VL,这是一款 1200 亿参数的开放模型,在指令遵循、工具调用、多步业务流程和视觉理解等多模态智能体任务上达到领先精度,参数量约为其最大推理模型的五分之一。
原文列出了三款开放模型的分工与部署层级,读者可据此判断本地智能体可选的开源方案。
译文尚不完整,完整内容请切换到原文。
NVIDIA 今日发布 Nemotron 3.5 Super VL,这是一款开放的 1200 亿参数模型,为专用常驻智能体带来最快的任务完成速度和最高准确率。
同时加入的还有两款新的边缘模型:Nemotron 3.5 Bolt 74B-A9B 24GB,针对本地智能体工作负载优化,平衡每 GB 的智能与速度;以及 Nemotron 3.5 Bolt E4B 4GB,针对快速对话智能体优化每 GB 的智能。
Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于 10 月 23 日推出。
这三款 开放模型 共同覆盖了智能体部署的完整范围,从大型企业服务器一直到边缘设备和本地硬件。
任何希望在 NVIDIA 基础设施上运行智能体的组织,现在都有适合其层级的开放优化模型,无需在能力和可部署性之间做选择。
Super VL 和 Bolt 与 Lightning 和 Ultra 一同加入 Nemotron 家族。
8 月发布的 Lightning 处理高吞吐量工作负载;Ultra 处理最困难的推理任务;Bolt 将智能带到边缘。
Nemotron 3.5 Super VL:以五分之一规模实现前沿准确率
Super VL 与 Nemotron Coalition 合作构建,在多模态智能体任务——指令遵循、工具使用、多步骤业务工作流和视觉理解——上提供领先准确率,可与 NVIDIA 最大的推理模型相媲美,而参数数量仅约为其五分之一。

作为其类别中最快的开放智能体模型——比次优快 5 倍——它帮助企业在跨越数天或数周的工作流中更快完成高容量任务。

与封闭的前沿模型不同,组织可以在自己的数据上对 Super VL 进行后训练,将其部署在自己的基础设施上,并监督自己所构建的内容。
Nemotron 3.5 Bolt:边缘端的智能体智能
Bolt 74B-A9B 24GB 设计用于在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务,采用原生 2 比特量化,以适配 24GB 内存并与其他应用一同运行。
相对于其他具有相似内存占用的模型,它提供了良好的智能与速度平衡:足够聪明以完成大多数任务,但比最聪明的模型快得多。

借助 Bolt 74B-A9B 24GB,用户可以将项目委托给流行的本地智能体框架——从研究网络到写作再到调试代码——全程无需将这些工作负载发送到云端。它是其类别中 PinchBench 上的第一开放模型,也是 BrowseComp 上的第二开放模型。
Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理智能体和对话智能体打造。它结合自然对话与多轮智能体能力,为快速本地语音助手、交互式角色和嵌入式界面提供支持。
定制超级智能的采用
各行各业已有数十家组织在自有数据、工具、策略和工作流上对 Super VL 进行后训练,以提升其智能体部署所针对的专业任务的准确率。
Super VL 正被各行各业的组织进行后训练和定制。Scale AI为 Skydance 的供应商信用金融智能体和 EY 的并购尽职调查智能体对该模型进行了后训练。 AfterQuery为 Hebbia 定制了该模型,用于信用协议分析。AI21 和 Alice对该模型进行了后训练,用于网络安全攻击韧性。 Mercor 在 APEX-SWE 编程基准上对该模型进行了后训练,用于规划、编写和调试代码的编程智能体。ModelScope 让开发者能够通过其 ms-swift 框架对该模型进行微调,用于专门的多模态应用。
其他定制 Nemotron 3.5 Super VL 的组织还包括 Ramp ,用于金融文档智能;Dream,用于主权 AI 驱动的网络安全研究与漏洞分析; Lila Sciences ,用于科学发现与搜索;以及 R1 ,用于医疗理赔分析和收入周期管理。TrainLoop使用 Nolla 的皮肤科数据对该模型进行了后训练,Nolla 刚成为首家获批由 AI 开具初始患者处方的公司。
集成 Nemotron 3.5 Super VL 的软件平台公司包括:
- Atlassian,用于跨 Jira 和 Confluence 等应用的智能体搜索等任务。
- CrowdStrike,正在为企业安全中的智能体蓝队任务定制该模型。
- Dassault Systèmes,为工程设计与仿真提供支持。
- Perplexity,用于 Perplexity Search 和 Computer 中的搜索与智能体任务。
- Salesforce,正在定制 Nemotron,以通过 Missionforce Operations 在安全的客户环境中为数字化和自动化复杂政府工作流的 AI 智能体提供支持。
- Synopsys用于半导体设计验证的软件可与该模型互操作。

Nemotron 3.5 Super VL 实际看到的内容
Nemotron 3.5 Super VL 的 视觉语言优势针对的是智能体在实践中会遇到的内容:光学字符识别、表格、图表以及视觉文档中的结构化信息。
它处理网页、提取文本、读取图形和图表,并根据所发现的内容返回洞见。这同样适用于 PDF 和智能体常用的其他文档。
Nemotron 3.5 Super VL 能够理解图像、网页和 PDF,并基于这种理解采取行动。在一个模型中结合文本和视觉理解,意味着智能体无需在独立系统之间路由任务——当工作从文档推进到数据再到决策时,上下文能够贯穿始终。
开放,以实现最大程度的控制、安全与隐私
开放性与可定制性相辅相成。该模型随附开放权重、开放数据集和训练配方。
控制权是双向的。企业可以在其安全和数据驻留要求所指定的任何地方运行该模型。他们也可以选择采用一个自己能调整的模型,而不是受制于提供商限制的模型。
例如,在保险行业,定制化的智能体可以反复扫描理赔中的欺诈标记。在金融服务领域,智能体可以审查信用评分,并根据组织自身的贷款标准标记相关活动。模型留在本地。数据保持私密。
定制化通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集提供支持。
Nemotron 3.5 Super VL was trained on about 26 trillion tokens across pretraining and continued pretraining, then post-trained with roughly 3.8 million samples and reinforcement learning across dozens of environments.
NVIDIA is also releasing open datasets on Hugging Face spanning agentic tool use, finance, instruction following, long context, fairness and vision-language understanding, along with the reinforcement learning environments in NeMo Gym.
NVIDIA NIM 将该模型打包为生产就绪的微服务,具备性能优化且经过验证的配置以及企业级支持,每两周刷新一次安全补丁和性能改进。
借助在 NVIDIA Dynamo 上运行的该模型,企业可以服务多达 8 倍的用户,同时延迟降低 85%。
Nemotron 3.5 Super VL is available now on Hugging Face, Open Router, ModelScope community and as NVIDIA NIM.
可在 DGX Spark、DGX Station 和 RTX 上运行
Nemotron 3.5 Super VL 可在 NVIDIA 的完整硬件栈上运行:在 DGX Spark、DGX Station、RTX PRO 和 RTX 系统上实现桌面端本地智能,在边缘的 NVIDIA Jetson 上运行,并可跨数据中心和云环境运行。
Nemotron 3.5 Bolt 74B-A9B 24GB 现已在 Hugging Face 上提供,并支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。它专为 10 月 16 日推出的 NVIDIA RTX Spark 笔记本电脑 打造,也可在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站 上运行。
Download the open weights, explore customization resources with NVIDIA NeMo, or read the technical blog for the full architecture breakdown.
订阅 NVIDIA 新闻以随时了解智能体、NVIDIA Nemotron等更多内容, 加入社区,并在 LinkedIn、 Instagram、 X和 Facebook上关注 NVIDIA AI。
探索 自定进度的视频教程和直播。
请参阅 声明,了解软件产品信息。
来源:NVIDIA Blog · blogs.nvidia.com