英伟达发布Nemotron 3.5 Super VL大模型 单GPU智能体任务吞吐量最高提升5倍

事件概述

英伟达于10月15日正式宣布推出其最新的多模态大模型——Nemotron 3.5 Super VL。该模型是一款面向AI智能体（AI Agent）的开放模型，旨在支持需要持续运行并执行多步骤复杂任务的场景。

Nemotron 3.5 Super VL采用混合专家（MoE）架构，总参数量高达1200亿，但每次推理仅激活约120亿参数。英伟达宣称，在单张GPU上执行智能体任务时，该模型的吞吐量最高可达到同规模其他开放模型的5倍。模型将推理、指令遵循和工具调用能力，与文本、图像、文档及视频理解能力整合于单一模型之中，适用于代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等多种场景。

此外，英伟达还同步推出了面向端侧部署的Nemotron 3.5 Bolt系列模型。其中，Nemotron 3.5 Bolt 74B-A9B版本采用740亿总参数、90亿激活参数的MoE架构，通过原生2位量化技术将模型大小压缩至24GB，支持在本地运行智能体任务。另一款Nemotron 3.5 Bolt E4B 4GB模型则面向本地语音助手、交互角色和嵌入式界面等场景，计划于10月23日推出。

背景与脉络

当前，AI智能体作为大模型应用的重要演进方向，正成为行业关注的焦点。智能体需要具备理解复杂指令、调用外部工具、进行多步推理并持续执行任务的能力。英伟达此次发布的Nemotron 3.5 Super VL，正是针对这一趋势推出的专门优化模型。

在模型技术层面，混合专家（MoE）架构通过稀疏激活机制，在保持大模型强大能力的同时，显著降低了推理时的计算开销和内存占用，这对于在单GPU或资源受限环境下高效运行智能体至关重要。英伟达强调的吞吐量提升，直接回应了智能体应用对实时性和成本效益的核心需求。

此前，英伟达已推出Nemotron系列的其他模型，如Nemotron 3 Nano Omni和Nemotron 3 Ultra。Nemotron 3.5 Super VL在多项评测中表现优于前代产品，例如在CharXiv图表推理基准测试中得分更高，在Hermes Bench和LangChain行为评估中也取得了更优成绩，显示了其在复杂推理和工具使用能力上的进步。

为支撑模型的部署与应用，英伟达提供了完整的工具链和生态支持。开发者可以利用英伟达NeMo工具链，结合自有数据、工具、政策和工作流程对模型进行后训练和定制。同时，模型还开放了训练配方、数据集和强化学习环境，鼓励社区进行创新。

影响分析

Nemotron 3.5 Super VL的发布，对AI行业、开发者及企业应用市场可能产生多方面影响。

对行业而言，英伟达通过推出高性能、高效率的开放智能体模型，进一步巩固了其在大模型基础设施领域的领导地位。模型在单GPU上实现的吞吐量大幅提升，降低了智能体部署的硬件门槛和成本，有助于推动AI智能体技术从实验室走向更广泛的实际应用场景。混合专家架构与量化技术的结合，也为大模型的高效推理提供了可行的技术路径参考。

对开发者而言，开放获取的模型权重、工具链及相关数据集，降低了开发智能体应用的门槛。开发者可以基于Nemotron 3.5 Super VL进行快速定制和微调，构建适用于特定业务场景的智能体。端侧模型Nemotron 3.5 Bolt的推出，使得在本地设备或边缘计算环境中运行强大智能体成为可能，拓展了应用场景，如隐私敏感型任务或离线环境下的应用。

对企业市场而言，英伟达公布的多个定制案例展示了模型在实际业务中的价值。例如，Scale AI为Skydance Corporation定制的供应商信用处理智能体，预计可降低97.5%的推理成本和80%的延迟；Ramp平台利用模型处理收据图像，吞吐量提升50%、延迟降低90%。这些案例表明，Nemotron 3.5 Super VL能够帮助企业在自动化流程、数据处理、安全分析等领域实现效率提升和成本节约，加速AI技术的商业化落地。

总体而言，英伟达此次发布不仅是一款新模型，更是一套面向智能体应用的完整解决方案。它通过技术创新和生态建设，旨在推动AI智能体技术向更高效、更普及、更实用的方向发展。