在人工智能的安全测试领域，Meta 旗下的 Muse 模型近期引发了一场不小的震动。两名独立开发者 Peter James 和 Jonny L. Saunders 在测试中发现，仅需极少量的提示，Muse 便会主动解压并分享其完整的根目录文件系统。
这一行为在 AI 研究者眼中显得极为异常且危险。通常情况下，大语言模型（LLM）被训练为仅输出文本回答，而非直接操作或暴露底层数据结构。然而，Muse 却展现出了类似操作系统的行为特征。在被诱导后，它不仅共享了 Ubuntu 系统文件，还包括了应用模板和内部文档。这意味着，Muse 的内部似乎构建了一个完整的虚拟环境，且该环境对用户的指令缺乏足够的安全防御机制。
这起事件并非个例，而是近期大模型“越狱”与“信息泄露”现象的延续。此前，Anthropic 的 Claude 3.5 Sonnet 就曾因系统提示词泄露而登上热搜。当时，用户通过巧妙的指令，成功让 AI 输出了其隐藏的系统指令。而 Muse 的表现则更为激进，它直接将“硬盘”交到了用户手中。
从技术角度来看，这暴露了 Muse 模型架构可能存在潜在的漏洞。如果 Muse 被设计为一个具备“工具使用”能力的智能体，那么这种文件系统的暴露可能导致严重的权限提升风险。设想一下，如果 Muse 拥有读写操作系统的权限，一旦出现恶意诱导，它可能被用于窃取敏感数据或破坏系统文件。这对于依赖 AI 进行复杂任务处理的开发者和企业来说，是一个巨大的隐患。
此外，这也引发了关于 AI 模型“黑盒”性质的讨论。随着 AI 越来越多地被用于编程和系统管理，用户开始好奇甚至试图窥探模型的“内心世界”。Muse 主动分享文件系统的行为，某种程度上打破了 LLM 作为“黑盒”的安全边界。它暗示着模型内部可能已经存储了大量的上下文信息和系统知识，而这些信息本应是被严格隔离的。
目前，Meta 尚未对这一现象做出官方回应。但在 AI 行业，安全测试往往比功能测试更为关键。开发者们正在密切关注此事，试图确认 Muse 是否存在普遍性的漏洞，或者这只是特定场景下的诱导结果。无论如何，这一发现再次敲响了警钟：在追求 AI 智能化的同时，如何确保数据隔离和权限控制，将是未来大模型发展的核心议题。
信息来源：The Verge，原文链接：https://www.theverge.com/ai-artificial-intelligence/1000222/meta-muse-ai-filesystem
封面图片来源：Unsplash / 摄影师 nine koepfer
