Thinking Machines Lab 近日正式发布了其最新的开源模型系列——Inkling 2 Small。该模型采用了先进的混合专家（MoE）架构，拥有高达 5940 亿的总参数量，但在推理时仅激活其中的 170 亿参数。这一突破性的技术指标使其在 Artificial Analysis Intelligence Index 上获得了 31 分的高分，展现了卓越的性能与效率平衡。
Thinking Machines Lab 是由图灵奖得主、Meta 首席 AI 科学家杨立昆（Yann LeCun）共同创立的新兴 AI 研究机构。此次发布的 Inkling 2 Small 是继 Inkling 1 之后，该团队在开源大模型领域的重要布局。值得注意的是，Inkling 2 Small 计划提供 Apache 2.0 许可证，这意味着开发者可以自由地使用、修改和分发该模型，极大地降低了高性能模型的应用门槛。
稀疏性带来的性能飞跃
Inkling 2 Small 的核心亮点在于其独特的稀疏架构。传统的密集模型在处理每个 token 时都会调用全部参数，而 Inkling 2 Small 则采用了混合专家模型（MoE）技术。这种架构将庞大的模型参数分配给多个“专家”子网络，在推理过程中，模型根据输入内容动态选择其中一部分专家进行计算。
这种设计使得 Inkling 2 Small 在保持 5940 亿总参数量的同时，仅激活 170 亿参数。这种“以小博大”的策略不仅显著降低了计算成本和内存占用，还使得模型在推理速度上表现出色。根据官方数据，该模型在 Artificial Analysis 的基准测试中获得了 31 分，这一成绩通常与 Llama 3 2B 等高效模型相当，甚至优于某些同类规模的模型，证明了其在通用任务上的强大能力。
基于 Tinker 的部署优化
为了确保模型能够高效落地，Thinking Machines Lab 将 Inkling 2 Small 适配到了自研的 Tinker 推理引擎上。Tinker 是一个旨在优化大型语言模型部署的开源平台，能够充分利用硬件加速特性。通过在 Tinker 上的优化，Inkling 2 Small 能够在消费级硬件上实现更快的推理延迟和吞吐量，这对于希望快速集成 AI 能力的企业和开发者来说是一个极具吸引力的特性。
行业影响与开源生态
随着科技巨头与新兴实验室在开源领域的竞争日益激烈，Inkling 2 Small 的发布无疑为开源社区注入了一剂强心针。杨立昆领导的团队一直致力于构建更智能、更高效的 AI 系统。通过提供 Apache 2.0 许可证，Thinking Machines Lab 希望能够鼓励全球的开发者、研究人员和企业对模型进行微调和二次开发，从而推动 AI 技术的多样化应用。
在当前的大模型市场中，如何平衡模型性能与部署成本是行业关注的焦点。Inkling 2 Small 凭借其高参数量与低激活参数的巧妙结合，为解决这一难题提供了新的思路。随着该模型权重的公开，预计将催生更多基于该架构的创新应用，从智能客服到专业领域的垂直模型，都将从中受益。
信息来源：MarkTechPost，原文链接：https://www.marktechpost.com/2026/11/05/thinking-machines-inkling-2-small-release/
