英伟达开源120B多模态模型Nemotron 3.5 Super VL,支持百万级上下文长窗口

NVIDIA Nemotron 3.5 Super VL 120B parameter model interface

英伟达(NVIDIA)近日再次向AI开发者社区抛出重磅炸弹,正式发布了其最新的Nemotron 3.5 Super VL模型。作为一款具备1200亿参数的开放权重多模态模型,该模型不仅在参数规模上令人瞩目,更在长上下文处理能力和推理效率上实现了显著突破,为构建复杂的AI智能体提供了强大的底层支撑。

Nemotron 3.5 Super VL采用了先进的混合专家(MoE)架构。这种架构允许模型在处理特定任务时仅激活其中一部分参数,从而在保持高精度的同时大幅降低计算成本。具体而言,虽然该模型的总参数量达到了惊人的120B,但在推理过程中,其每层仅激活12B参数。这种设计使得模型在处理海量数据时依然能够保持极高的推理速度和能效比,是当前大模型向轻量化、实用化发展的一个重要范例。

除了高效的MoE架构,该模型在长上下文处理方面表现尤为出色。Nemotron 3.5 Super VL支持高达100万token(tokens)的上下文窗口。在自然语言处理领域,token通常代表单词或字符,百万级上下文意味着模型能够一次性处理一本长篇小说、长达数小时的会议录像转写文本,或者包含大量图表的复杂技术报告。这一特性对于构建能够进行深度RAG(检索增强生成)的智能体至关重要,使得AI助手能够真正理解并关联极其庞大的知识库。

为了适应不同的部署场景,Nemotron 3.5 Super VL引入了NVFP4(NVIDIA Floating Point 4)权重量化技术。这是一种高效的权重压缩方法,能够在几乎不损失模型性能的前提下,显著减少模型对显存和计算资源的需求。配合1台DGX Spark系统,开发者即可流畅运行该模型,极大地降低了高端硬件的准入门槛。

值得注意的是,此次发布的模型包不仅包含主模型,还附带了两款名为Bolt的边缘模型。这表明英伟达不仅关注云端超大规模计算,同样重视端侧设备的本地化AI能力。Bolt模型预计将专注于轻量级、低延迟的本地推理任务,如实时语音助手、本地文件分析等,进一步丰富了NVIDIA的AI生态工具箱。

从行业影响来看,Nemotron 3.5 Super VL的发布再次印证了开源策略在AI领域的强大生命力。通过开放模型权重,英伟达鼓励全球开发者基于该模型进行二次开发,快速验证新的应用场景,如多模态内容审核、自动化代码生成、视频理解与分析等。这对于推动AI Agent(智能体)从理论走向大规模落地应用具有重要的里程碑意义。

信息来源:MarkTechPost,原文链接:https://www.marktechpost.com/2026/10/15/nvidia-nemotron-3-5-super-vl-release/

封面图片来源:Unsplash / 摄影师 Mariia Berezovsky

由 oaido_ai

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注