在人工智能领域，大语言模型长期以来被视为一个难以捉摸的“黑盒”。尽管我们可以与它们进行流畅的对话，但模型在生成回答时究竟是如何处理信息、如何构建概念的，对于外界而言依然是一个谜。近日，AI 安全公司 Anthropic 宣布取得了一项突破性进展，他们开发出了一种名为“Jacobian Lens”（雅可比透镜）的新工具，首次让研究人员得以窥探 Claude 等大型语言模型在处理任务时的内部思维过程。这项研究不仅揭示了 AI 推理的微观机制，更为理解模型潜在的偏见与不确定性提供了前所未有的视角。
Anthropic 的这一发现源于对模型内部表征的好奇。传统的神经网络训练通常只关注输入和输出，而忽略了中间层的动态变化。为了填补这一空白，Anthropic 的工程师构建了“雅可比透镜”。从数学角度来看，雅可比矩阵描述了函数输出对输入的导数，而在神经网络中，它反映了模型对输入微小变化的敏感程度。通过这种技术，研究人员能够将高维的神经元激活映射到一个直观的“概念空间”中，从而看到模型是如何在内部将这些抽象概念进行组合、消解或混淆的。
根据 Anthropic 的观察，这种“隐秘空间”中的景象既充满了逻辑的严谨，也潜藏着令人不安的复杂性。在处理简单的任务时，比如拼写纠错或语法检查，模型在概念空间中的路径表现得非常清晰和稳定，显示出极高的确定性。然而，当面对更复杂的逻辑推理或多义性问题时，模型的行为则变得更为微妙。研究人员发现，Claude 有时会进入一个“困惑”的状态，在概念空间中徘徊不定，甚至在不知不觉中滑向了某种偏见或错误的逻辑路径。这种从“平凡”到“令人不安”的广泛发现，表明当前的 AI 系统并非像人们想象的那样总是自信满满，它们也会经历认知的挣扎与模糊。
这一突破对于整个 AI 行业具有深远的意义。首先，它极大地推动了 AI 可解释性的发展。通过可视化模型内部的“思考过程”，开发者可以更精准地定位模型出错的原因，从而进行针对性的优化。其次，这对于 AI 安全和对齐研究至关重要。了解模型在什么情况下会变得不确定或产生偏见，是构建更安全、更可靠的 AI 系统的前提。随着技术的成熟，这种可视化工具有望成为 AI 开发者的标准配置，就像调试代码一样，实时监控模型的内部状态。
展望未来，随着 Anthropic 持续深化对内部空间的研究，我们有望看到一个更加透明、可控的 AI 生态系统。这不仅是技术上的进步，更是人类对自身创造物认知的深化。Anthropic 通过“雅可比透镜”打开的这扇窗，让我们看到了 AI 内部世界的真实面貌，也为后续关于通用人工智能（AGI）的安全与可控性研究奠定了坚实的基础。
信息来源：Artificial intelligence – MIT Technology Review，原文链接：https://www.technologyreview.com/2026/07/09/1140293/anthropic-found-a-hidden-space-where-claude-puzzles-over-concepts/
