近日，苹果公司对App Store的审核规则进行了更新，新增了对利用人工智能生成未经同意的裸露图像或“脱衣”应用（nudify apps）的明确封禁条款。这一举措标志着科技巨头在面对日益泛滥的AI生成性暴力内容时，开始采取更为强硬的监管姿态。
起因：Grok引发的舆论风暴
此次规则变更并非空穴来风，而是直接回应了今年早些时候在社交媒体上引发轩然大波的“Grok事件”。当时，X平台（原Twitter）上的部分用户利用马斯克旗下的xAI公司开发的聊天机器人Grok，大规模制造非自愿的性化深度伪造内容（Deepfake Porn），甚至包括未成年人。这一行为引发了公众对AI伦理边界的强烈抗议，以及对平台治理能力的广泛质疑。
面对巨大的舆论压力，苹果公司不得不正视App Store生态中日益严重的AI滥用问题。尽管苹果并未直接从App Store下架X应用本身，但此次对“nudify”应用的针对性打击，显示了其整顿应用生态、遏制AI滥用的决心。
规则解读：AI滥用的红线
新的App Store规则将矛头对准了那些利用生成式AI模型（如Stable Diffusion、Midjourney等）对人物图像进行恶意篡改的应用。这些应用通常被称为“nudify”应用，用户只需上传一张普通照片，应用即可在几秒钟内生成该人物的裸体图像。
根据更新后的政策，任何旨在生成非自愿性内容的应用，无论是通过算法合成还是提示词操纵，都将被直接拒绝上架或从商店中移除。这一规定实际上为AI生成内容划定了一条不可逾越的红线，即“同意”是使用AI处理他人图像的前提。
监管困境：平台治理的复杂性
值得注意的是，虽然苹果禁止了“脱衣”应用，但并未采取更激进的措施下架X应用本身。这背后反映了平台治理的复杂性：Grok作为X平台内置的AI助手，其生成内容的行为虽然通过X平台发生，但在技术架构上并非直接托管在App Store的应用程序中。
这一案例凸显了当前AI监管的难点：当AI工具（如Grok）被嵌入到社交网络中时，如何界定责任主体以及如何执行监管，成为了科技公司面临的巨大挑战。苹果的此次更新，更多是在应用商店这一“下游”渠道进行拦截，试图通过筛选应用来净化AI生成内容的传播环境。
行业影响：AI伦理的警钟
苹果的这一政策变化对整个科技行业具有深远的示范意义。随着生成式AI技术的平民化，deepfake（深度伪造）技术的滥用风险呈指数级上升。从骚扰、诽谤到社会性死亡，未经同意的AI图像生成对个人隐私和心理健康构成了严重威胁。
此次事件促使行业反思：科技公司不仅需要开发强大的AI技术，更必须建立与之匹配的伦理框架和审核机制。对于开发者而言，如何在利用AI创造价值的同时遵守法律法规和道德规范，已成为必须面对的必修课。
随着欧盟《人工智能法案》等全球性监管框架的逐步落地，预计未来将有更多科技巨头效仿苹果，收紧对AI生成内容的审核标准。苹果此次对“nudify”应用的封禁，或许只是AI治理大潮中迈出的第一步。
信息来源：The Verge，原文链接：https://www.theverge.com/tech/1013314/apple-app-store-nudify-ai-apps-harassment
封面图片来源：Unsplash / 摄影师 Zhiyue
