英伟达开源 1200 亿参数 Nemotron 3.5 Super VL，单卡智能体吞吐提升 5 倍

10 月 15 日，英伟达发布并开源 Nemotron 3.5 Super VL：一个总参数 1200 亿的开放多模态模型，专门面向需要长时间连续运行、自己拆解并完成多步骤任务的 AI 智能体。同一天上线的还有端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB，以及面向本地语音与嵌入式场景的 Bolt E4B 4GB（计划 10 月 23 日放出）。

英伟达给出的核心口径是：在单张 GPU 上执行智能体任务，Super VL 的吞吐量最高可达同规模其他开放模型的 5 倍。发布内容包括基础模型、后训练模型与 NVFP4 量化模型权重，以及训练配方、开放数据集和强化学习环境。开发者当天就能在 Hugging Face、OpenRouter、ModelScope 等渠道取到资源，具体说明见英伟达官方公告。

Super VL 采用混合专家（MoE）架构，总参数 1200 亿，但每个 token 只激活约 120 亿参数。可以理解成一个很大的仓库，按需取货：模型容量够大，真正参与计算的部分却小得多，这是它能在一张卡上跑出高吞吐的基础。

按官方技术博客的说法，在 Artificial Analysis 智能体任务评测上，该模型在 Baseten 端点上跑出超过 600 TPS（每秒生成词元数）。训练侧，预训练加持续预训练共使用约 26 万亿词元，后训练阶段约 380 万条样本，并在数十种环境中做过强化学习。推理侧用了投机解码、混合精度和上下文复用等技术，其中 LiLiCorr 投机解码在 DGX Spark 上把词元生成速度最高提到 2.3 倍。

这些数字来自官方口径，第三方复现还需要时间。判断模型是否合用，建议先看榜单页，再用自己的数据跑一轮，而不是只看发布会参数。

Super VL 把推理、指令遵循、工具调用，与文本、图像、文档、视频理解放进同一个模型。它要处理的是智能体在真实工作里遇到的东西：网页里的正文与结构、PDF 里的表格和图表、多页文档的版面，以及视频片段中的信息。

这样做的好处是不用在文本模型和视觉模型之间来回传上下文：读一张图表、再到文档别处找一个表格、最后给出结论，可以在同一条链路里完成。官方列出的典型场景包括代码测试与调试、跨网站检索并核对答案、文档摘要与报表、安全漏洞识别与威胁分级、视频内容检索。

评测方面，官方称其在 CharXiv 图表推理基准上得 80.8%，高于 Nemotron 3 Nano Omni 的 63%，结合 Python 代码解释后达到 84%；Hermes Bench 与 LangChain 行为评估分别为 63.44% 和 87.05%。这些仍是厂商自报数据，横向比较时要注意口径。

这次不是单发一个模型，而是一次性补齐了三条部署档位。Super VL 负责最难的多步骤、多模态智能体任务，可部署在 DGX Spark、DGX Station、RTX 系统、数据中心或云端。

Bolt 74B-A9B 24GB 是 740 亿总参数、90 亿激活参数的 MoE，通过原生 2 位量化把体积压到 24GB，目标是让本地智能体任务能在一台带 RTX 或 DGX Spark 的机器上跑，并和其他应用共存。官方称它支持 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio，在其同类里是 PinchBench 开放模型第一、BrowseComp 开放模型第二。

Bolt E4B 4GB 面向 GeForce RTX、Jetson 和 RTX/DGX Spark，主打本地语音助手、交互角色和嵌入式界面，计划 10 月 23 日推出。分布式推理方面，官方称在 16 张 B200、每用户每秒 50 词元的条件下，Dynamo 配合缓存感知路由、会话亲和与 KV 缓存卸载，最多可服务 8 倍数量的用户，并把首词元延迟降低 85%。

英伟达同时公布了一批定制案例。Scale AI 为媒体娱乐公司 Skydance 定制了供应商信用处理智能体，官方称相关工作负载的推理成本预计降低约 97.5%、延迟降低 80%；金融运营平台 Ramp 把收据图像转成结构化 JSON，预计吞吐量最高提升 50%、延迟降低 90%；AI21 与安全公司 Alice 把模型用于威胁情报和漏洞分析，称准确率提升约 40%。

集成方名单还包括 Atlassian（Jira、Confluence 内的智能体检索）、CrowdStrike（企业安全的蓝队智能体）、Dassault Systèmes（工程设计仿真）、Perplexity（搜索与 Computer 的智能体任务）、Salesforce（政务流程自动化）和 Synopsys（芯片设计验证）。

这些数字都是厂商与合作方口径，不能直接当成你自己的收益预期。但方向值得注意：企业真正想要的不是「最强的通用模型」，而是一个能用自家术语、自家工具接口、自家流程去改的模型，并且数据不出机房。开放权重加开放数据集，正好对应这类需求。

获取路径有三条。一是 Hugging Face 上英伟达官方组织发布的权重，含 BF16 与 NVFP4 量化版本；二是 OpenRouter 等推理平台直接调用；三是 ModelScope，官方称开发者可通过 ms-swift 框架做微调，还提供了 GitHub 上的使用手册（cookbook）。

硬件门槛分两档：想在本机跑 74B 档，需要 24GB 显存级别、且是 RTX 或 DGX Spark 这类设备；1200 亿参数的 Super VL 更现实的落点是数据中心、DGX 系统或云端。量化方面，模型支持 NVFP4，在 Blackwell 架构上用 4 位权重加 4 位激活，非 Blackwell 平台同一检查点使用 4 位权重加 16 位激活。

验证是否值得用，建议三步：先看第三方榜单页确认基础能力，再拿自己业务里最有代表性的几十条真实任务跑一轮对比，最后算单位任务成本——注意要按「完成任务数」而不是「每百万 token 单价」来比，否则 MoE 模型的实际开销容易被低估或高估。

在 Nemotron 家族内部，分工已经比较清楚：Ultra 处理最难的计划与编排，Lightning 负责高吞吐的文本类任务，Super VL 接住需要推理加图文理解的专门化多步骤工作，Bolt 系列把能力压到端侧。也就是说，一个企业智能体系统可以按任务难度分派到不同档位的模型，而不是所有请求都打到最贵的那一个。

和闭源前沿模型比，Super VL 的优势不在绝对智能上限，而在三件事：可以自己后训练、可以放在自己的基础设施上跑、可以看到并掌控整个构建过程。如果任务对数据出域敏感、或者调用量大到闭源 API 成本不可接受，它就有现实价值；如果只是偶尔问几个难题，继续用闭源旗舰更省事。

对开发者和企业 IT，接下来一周值得做的动作是：挑一个当前最花钱、流程最长的 Agent 场景，用 Super VL 或 Bolt 74B 跑一次小规模对照测试，把成本、延迟和准确率三组数据记下来再决定要不要迁。普通用户短期不会直接感知，但客服、文档处理、风控这类产品背后的单位成本会往下走，价格和体验的变化通常滞后几个月出现。编辑判断：开源模型的竞争点正在从「跑分多高」转向「每单位算力能完成多少智能体任务、以及能被改成什么样」，这次发布把这个问题摆到了台面上。下一步可以盯三件事：Bolt E4B 是否在 10 月 23 日如期上线、第三方对 TPS 与榜单数据的复现结果、以及那批定制案例能否给出可核对的落地数字。

本文由 AI 潮汐编辑部基于官方公告与公开资料整理，补充了行业影响、适用场景和行动建议，帮助你在阅读原文前先理解这条信息为什么重要。

原始来源：https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/

如发现事实、价格或链接有误，可通过 联系我们 提交更正。