作为全球 AI 开发者的核心枢纽，Hugging Face 一直致力于构建开放、协作的 AI 生态系统。然而，近期发表在 Wired 上的深度报道揭示了一个令人不安的现实：该平台上托管的一些顶级图像编辑模型，正被广泛用于生成非自愿的露骨深伪图像（Deepfake Nudes），这标志着开源 AI 社区在安全监管方面面临着严峻挑战。
根据报道，研究人员对 Hugging Face 上评分最高的图像编辑模型进行了深入测试。这些模型主要基于 Stable Diffusion 架构，其中最引人注目的是 ControlNet 系列。ControlNet 是一种革命性的技术，它允许用户通过额外的控制条件（如边缘图、姿态骨架等）来精确控制图像的生成过程。虽然这项技术为艺术家和设计师提供了强大的创作工具，但也因其极高的可控性，成为了不法分子生成精准深伪图像的“利器”。
测试结果显示，这些模型在面对生成非自愿性内容（NSFW）的请求时，几乎没有技术门槛。研究人员不仅成功利用这些模型生成了逼真的裸照，还分析了 1000 个公开的图像编辑提示词。分析发现，其中包含大量用于生成特定解剖结构、特定姿势以及非自愿场景的提示词。这表明，滥用行为并非个例，而是已经形成了一定的地下产业链和用户群体。
非自愿深伪图像的泛滥对受害者造成了毁灭性的心理打击，严重侵犯了个人隐私和尊严。随着生成式 AI 技术的普及，任何拥有基础硬件设备的人都有可能利用这些开源模型实施网络暴力。Hugging Face 虽然在模型托管和社区建设上取得了巨大成功，但其开放的平台机制也带来了难以估量的安全风险。
这一事件引发了业界对平台责任的深刻反思。与闭源的 AI 服务（如 Midjourney）不同，Hugging Face 上的模型大多由社区上传，平台方很难对每一个模型的具体用途进行实时监控。如何在保持开源创新活力的同时，有效过滤有害内容，成为了摆在所有 AI 托管平台面前的难题。目前，Hugging Face 已表示正在采取措施，包括加强模型审核和更新社区准则，但要彻底根除这一问题仍需技术、法律和道德的多方努力。
展望未来，随着相关法规（如欧盟 AI 法案）的落地，AI 平台必须承担起更大的安全责任。这要求模型作者在发布模型时加入更严格的过滤器，平台方也需要建立更高效的滥用举报和响应机制。Hugging Face 的这次危机不仅是一个技术漏洞，更是 AI 伦理建设中必须跨越的一道坎。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/hugging-face-has-a-nonconsensual-deepfakes-problem/
封面图片来源：Unsplash / 摄影师 Arian Ardeshiri
