在人工智能基础设施快速迭代的背景下,英伟达(NVIDIA)今日宣布进一步扩展其备受开发者青睐的 Nemotron 模型家族。新发布的阵容包括一个针对数据中心设计的“超级”视觉语言模型(VL),以及两款面向桌面级边缘设备的 Bolt 系列模型。这一战略布局旨在通过开放权重和边缘优化,降低企业部署高性能 AI 智能体的门槛。
Nemotron 3.5 Super VL:1200 亿参数的智能体首选
NVIDIA 首先推出了 Nemotron 3.5 Super VL,这是一个拥有 1200 亿参数的庞大模型。作为该系列中的旗舰产品,Super VL 最大的亮点在于其专为“始终在线的智能体”进行了优化。在当今的 AI 应用场景中,智能体不再仅仅是被动回答问题的聊天机器人,而是能够主动执行任务、处理多步逻辑的代理系统。Super VL 在这一领域表现出卓越的性能,不仅提供了最快的任务完成速度,还确保了极高的准确性,能够有效处理复杂的指令和长文本处理任务。
值得一提的是,NVIDIA 强调了该模型的“开放”属性。这意味着开发者可以获取模型的权重,在本地或私有云环境中进行部署,这对于需要处理敏感数据的企业用户来说至关重要。通过开放这一模型,NVIDIA 进一步巩固了其作为 AI 基础设施提供者的领导地位,为构建下一代自主 AI 系统提供了坚实的算力与算法基础。
从云端到桌面:Bolt 系列的边缘计算革新
除了数据中心级的旗舰模型,NVIDIA 还将触角延伸至桌面和边缘计算领域,推出了两款全新的 Bolt 系列模型:Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB。
Nemotron 3.5 Bolt 74B-A9B 24GB 是一款面向本地智能体工作负载的优化模型。其命名中的“74B”代表模型拥有 740 亿参数,而“A9B 24GB”则暗示了该模型针对 24GB 显存的显卡进行了特定优化。在边缘计算场景中,显存容量往往是限制模型性能的关键瓶颈。Bolt 74B 通过精细的架构调整,成功在每 GB 的显存容量下平衡了模型的“智能程度”与推理速度,使得原本只能在昂贵服务器上运行的庞大模型,有机会在配备专业显卡的工作站或高性能 PC 上流畅运行。
另一款模型 Nemotron 3.5 Bolt E4B 4GB 则更加亲民,专为 4GB 显存环境设计。这一规格通常对应于消费级显卡或轻量级边缘设备。尽管参数量较小,但该模型针对本地工作负载进行了深度优化,旨在让用户在资源受限的设备上也能体验到高质量 AI 带来的生产力提升。这种从 24GB 到 4GB 的全覆盖,体现了 NVIDIA 在满足不同算力需求层级上的全面布局。
行业影响与应用场景展望
此次发布标志着 AI 模型正经历一场从“云端集中化”向“本地边缘化”的深刻变革。随着数据隐私法规的日益严格以及企业对低延迟、高可靠性的需求增加,将 AI 能力下沉到本地终端成为必然趋势。NVIDIA 的新模型为这一趋势提供了强有力的工具支持。
在应用场景上,这些模型将极大地推动智能客服、个人助理、代码助手以及自动化办公流程的发展。例如,企业可以在本地部署 Nemotron Super VL 来处理高机密的企业文档分析,而开发团队则可以利用 Bolt 系列模型在普通 PC 上构建轻量级的本地代码补全工具。通过提供从 1200 亿参数到 4GB 显存适配的多样化选择,NVIDIA 正在构建一个开放、高效且易于获取的 AI 生态系统,让 AI 技术真正渗透到每一个桌面节点。
随着更多开发者加入 Nemotron 生态,我们有理由期待基于这些高性能模型构建的创新应用将层出不穷,进一步推动人工智能技术的普及与落地。
信息来源:NVIDIA Blog,原文链接:https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/