在当前人工智能大模型百花齐放的浪潮中,除了备受瞩目的生成式大模型(LLM),用于理解文本语义的“编码器”模型同样占据着至关重要的地位。近日,专注于混合智能模型的初创公司 Liquid AI 宣布了其最新力作——LFM2.5 系列双向编码器,包括 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M。这两款模型不仅支持长达 8,192 个 Token 的超长上下文窗口,更在保持开源属性的同时,展现了惊人的性能与推理效率,尤其是在 CPU 端的运行表现令人印象深刻。
Liquid AI 此次发布的两款模型均基于其先进的 LFM2 混合骨干架构构建,旨在解决当前大模型在上下文长度与计算资源之间的矛盾。其中,230M 参数的模型虽然体量小巧,但在处理长文本时依然能够保持双向编码的特性,即模型在处理每个 Token 时都能同时参考序列中的其他 Token,这对于捕捉长距离依赖关系至关重要。
在性能评估方面,Liquid AI 展示了极具竞争力的数据。这两款模型在包含 17 个任务的 GLUE 和 SuperGLUE 基准测试套件中表现优异。令人惊讶的是,在 14 个参与对比的模型中,350M 参数的模型竟然排名第四。这意味着,在同等或更小的参数量级下,LFM2.5 系列模型的准确率几乎可以媲美许多更大型的闭源模型。这一“小而强”的特点,对于资源受限的团队和企业来说,无疑是一个极具吸引力的选项。
除了模型架构的优化,LFM2.5 系列在硬件兼容性上的突破同样值得称道。传统的大语言模型往往依赖昂贵的 GPU 算力集群才能高效运行,而 Liquid AI 此次强调的“在 CPU 上保持快速”的能力,极大地降低了模型的应用门槛。测试数据显示,230M 模型仅用约 28 秒即可完成一次 8K Token 的前向传播。这一速度在单核 CPU 环境下相当可观,意味着开发者无需购买高性能显卡,仅凭普通的笔记本电脑甚至服务器 CPU,就有可能运行起具备 8K 上下文理解能力的高质量模型。这对于需要本地化部署、数据隐私保护或边缘计算的场景(如企业内部分析、本地文档检索等)具有重大的实用价值。
从行业应用角度来看,双向编码器模型在自然语言处理(NLP)领域有着广泛的应用场景。它们是构建检索增强生成(RAG)系统的基础,能够帮助模型更精准地理解检索到的文档内容;同时,在文本分类、情感分析、信息抽取以及机器翻译等任务中,双向编码器通常比单向解码器能获得更好的效果。LFM2.5 系列的开源发布,意味着开发者可以免费获取这两个高性能模型,进行微调以适应特定的垂直领域需求,这无疑将进一步推动开源社区在编码器模型领域的技术积累。
总结而言,Liquid AI 推出的 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M,不仅填补了开源领域在长上下文双向编码器方面的空白,更通过其卓越的性价比和 CPU 友好的特性,为 AI 技术的普及化落地提供了新的可能性。随着这些模型的发布,我们有望看到更多基于长文本理解的高效 AI 应用涌现出来。
信息来源:MarkTechPost,原文链接:https://www.marktechpost.com/2026/07/29/liquid-ai-releases-lfm2-5-encoder-230m-and-lfm2-5-encoder-350m-bidirectional-encoders-that-stay-fast-at-8k-context-on-cpu/