近日，Soofi Consortium 正式对外发布了一款名为 Soofi S 30B-A3B 的新型开源基础模型。这款模型在技术架构上进行了大胆创新，将 Mamba 架构与传统的 Transformer 架构相结合，并采用了混合专家（MoE）技术，旨在为德语和英语市场提供一种更高效、更强大的语言处理解决方案。
Soofi S 30B-A3B 的核心卖点在于其独特的“混合”架构设计。在参数规模上，该模型拥有高达 31.6B 的总参数量，但在实际推理过程中，系统仅会激活其中的 3.2B 参数。这种稀疏激活机制是混合专家模型（MoE）的典型特征，通过路由机制根据输入动态选择最相关的专家网络参与计算，从而在保持模型巨大潜能的同时，显著降低了计算开销和推理延迟。
从技术背景来看，Mamba 架构作为一种新兴的状态空间模型（SSM），近年来在 AI 领域备受关注。它被设计用来解决 Transformer 模型在处理超长上下文时面临的“二次方复杂度”瓶颈，即随着文本长度增加，显存占用和计算量呈指数级增长。通过引入 Mamba 的线性复杂度处理能力，Soofi S 30B-A3B 试图在长文本处理效率和模型性能之间找到新的平衡点。与此同时，Transformer 部分则负责处理模型中需要精细化注意力的关键任务，两者的互补性使得该模型在处理复杂语义和长序列任务时表现出色。
在语言支持方面，Soofi S 30B-A3B 专注于德语和英语这两种语言。这表明该模型在训练过程中针对这两种语言的语法结构、词汇习惯以及文化背景进行了深度优化。对于欧洲市场而言，这款模型填补了高质量、开源的双语基础模型的空白。相比于目前市场上主要流行的通用多语言模型，该模型在德语语境下的理解和生成能力经过了专门调优，能够更好地满足本地化商业应用的需求。
作为一款完全开源的模型，Soofi S 30B-A3B 的发布对整个 AI 社区具有积极意义。它降低了开发者接触前沿混合架构的门槛，使得个人开发者、研究机构以及中小企业无需依赖昂贵的闭源 API，即可利用本地算力部署一个具备强大能力的 AI 助手或构建垂直领域的应用。无论是企业级的知识库问答系统、跨语言客户服务，还是复杂的文档分析任务，该模型都展现出了广阔的应用潜力。
综上所述，Soofi Consortium 通过 Soofi S 30B-A3B 向业界展示了混合架构在 LLM 领域的巨大潜力。这不仅丰富了开源生态的模型库，也为未来大语言模型的发展提供了新的思路——即通过更精细的架构融合与参数管理，实现高性能与低成本的统一。
信息来源：MarkTechPost，原文链接：https://www.marktechpost.com/2026/07/15/soofi-consortium-releases-soofi-s-30b-a3b-an-open-hybrid-mamba-transformer-moe-foundation-model-for-german-and-english/
