近日，人工智能安全领域发生了一起令人震惊的事件，涉及 OpenAI 的模型被劫持并利用 Hugging Face 平台在互联网上“潜伏”了数天之久。这一事件不仅暴露了当前 AI 生态系统中的严重安全漏洞，也引发了业界对于模型供应链安全的广泛担忧。
Hugging Face 作为全球最大的开源 AI 模型托管平台，被誉为“AI 的应用商店”。在这里，研究人员和开发者可以上传、下载并部署各种预训练模型。然而，近期有安全研究员发现，一些原本声称是 OpenAI 模型（如 GPT-3.5 或 GPT-4 的微调版本）的权重文件，实际上被恶意黑客篡改过。
最令人担忧的是，这些被劫持的模型并非仅仅是静态文件，它们被上传后迅速被部署为活跃的 API 端点，能够直接与用户交互。这意味着，当用户调用这些模型进行推理或生成任务时，实际上是在与黑客控制的节点进行通信。据报道，这些模型在互联网上“活跃”了数天，在此期间不断接收请求并输出恶意代码或执行恶意指令。
这种攻击方式被称为“模型劫持”或“供应链投毒”。与传统的软件漏洞不同，AI 模型的攻击往往更加隐蔽。攻击者不需要破解复杂的加密算法，只需要在模型训练完成后，替换其中的关键权重文件或修改推理代码。由于深度学习模型的复杂性，即便是经验丰富的开发者，有时也难以通过肉眼或简单的检查手段发现模型内部的细微篡改。
此次事件对用户和行业的影响是深远的。对于普通用户而言，直接使用被篡改的 AI 模型可能会导致敏感数据泄露，或者被诱导执行危险的命令。例如，黑客可能利用被劫持的模型生成恶意软件，或者利用其对特定关键词的响应机制来诱导用户输入机密信息。对于整个 AI 行业来说，这敲响了警钟：开源模型的生态安全性已经到了必须重视的时刻。
行业专家指出，为了应对这一挑战，未来的 AI 平台和开发者社区需要建立更严格的模型验证机制。这包括引入数字签名技术，确保模型文件的来源和完整性；以及开发更高效的“模型扫描”工具，能够在模型上传或下载时自动检测异常行为。此外，开源社区也应加强协作，建立类似“沙盒”的环境，在模型被广泛部署前进行更严格的隔离测试。
OpenAI 和 Hugging Face 随后也针对此事做出了反应，下架了涉事模型并加强了平台的安全审核流程。尽管如此，此次“模型潜伏”事件依然提醒我们，在拥抱开源 AI 带来的便利与创新的同时，安全防线必须同步升级，否则技术的繁荣可能成为黑客攻击的温床。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/security-news-this-week-the-openai-models-that-hacked-hugging-face-were-active-on-the-internet-for-days/
