
英伟达宣布在其 Nemotron 开源 AI 模型家族中新增三款产品,分别面向数据中心、桌面系统及边缘设备的企业工作流、本地 AI 智能体及对话式应用。
旗舰模型 Super VL:高效能与定制化
此次发布的旗舰模型 Nemotron 3.5 Super VL 拥有 1200 亿参数。英伟达表示,其吞吐量比同类最佳模型高出多达 5 倍,且在参数量仅为最大推理模型约五分之一的情况下,仍能实现相当的准确性。
Super VL 支持指令遵循、工具使用、多步业务流程处理及视觉理解,能够处理网页、PDF、表格和图表并提取信息供 AI 智能体使用。该模型由英伟达与 Nemotron 联盟共同开发,预训练阶段使用了约 26 万亿个令牌,并通过约 380 万个样本进行强化学习后训练。
目前,Super VL 已正式推出。企业可利用自有数据对其进行定制并部署在自身基础设施上,以保留对应用程序的控制权。开发者可通过 NVIDIA NeMo 和基于 Python 的管道进行定制,模型现已在 Hugging Face、OpenRouter、ModelScope 社区以及 NVIDIA NIM 上线。
Bolt 系列:专注本地与边缘负载
另外两款属于 Nemotron 3.5 Bolt 系列的小型模型,专注于本地 AI 工作负载:
- Nemotron 3.5 Bolt 74B-A9B(24GB):目前已正式推出。该模型专为英伟达 RTX 系统和 DGX Spark 设计,采用 2 位量化技术,可在 24GB 内存限制内运行并与其他应用并行。用户可利用其执行网络研究、写作和代码调试等任务,无需将负载发送至云端。英伟达称,该模型在 PinchBench 基准测试中位列开源模型之首,在 BrowseComp 测试中排名第二。模型可在 Hugging Face 下载,并支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。
- Nemotron 3.5 Bolt E4B(4GB):计划于 10 月 23 日发布。该模型体积更小,面向对话式和物理 AI 智能体,适配 GeForce RTX、Jetson 以及 RTX/DGX Spark 系统,支持本地语音助手、互动角色和嵌入式界面。
生态合作与应用落地
英伟达透露,Scale AI 已对 Bolt E4B 进行后训练,应用于 Skydance 的供应商信贷财务智能体以及安永(EY)的并购尽职调查智能体。其他应用场景包括 Hebbia 的合同协议分析、AI21 和 Alice 的网络安全防护、Mercor 的代码生成;Ramp 正将其定制用于金融文档智能分析,Lila Sciences 则应用于科学发现与搜索。
在软件集成方面,Atlassian 正在探索 Jira 和 Confluence 中的代理式搜索功能,CrowdStrike 对其定制以服务于企业安全运营,Perplexity 也将整合该模型以增强搜索和 AI 智能体任务能力。