近日，旧金山地区检察官办公室（SF D.A.）向社交媒体巨头 Meta 发出了正式指令，要求其立即停止允许 AI 生成儿童性虐待材料（CSAM）的广告投放。这一举措标志着在生成式人工智能（AI）监管领域，地方执法机构正开始采取更为激进的行动。
根据相关文件显示，旧金山地区检察官莎拉·门多萨（Sarah Mendoza）已致函 Meta，要求公司解释为何明知故犯，让这些利用 AI 技术生成的有害广告在 Facebook 和 Instagram 等平台上反复出现。这些广告利用 Deepfake（深度伪造）技术生成儿童形象，并往往伴随着露骨的性暗示内容，对社会公序良俗造成了极大的冲击。
Meta 方面对此事迅速做出了回应，但态度相对强硬。Meta 发言人表示，平台并非广告的发布者或制造者，而是广告交易的渠道。公司声称，这些广告属于联邦法律管辖范畴，而非旧金山地方政府的执法范围，试图以此规避地方监管责任。
然而，这一法律争端并非简单的管辖权之争，而是反映了当前 AI 安全治理的紧迫性。随着生成式 AI 技术的普及，恶意利用 AI 生成非法内容（如 CSAM）的门槛正在降低。许多非法团伙利用开源模型或经过微调的 AI 工具，批量生产此类内容并试图在社交媒体上寻找牟利空间。
旧金山地区检察官办公室此次的行动具有深远的行业影响。如果 Meta 不服从指令并无法合理解释其审核机制的漏洞，可能会面临高额罚款甚至法律诉讼。这不仅可能成为美国地方政府在 AI 监管上的先例，也可能迫使其他科技巨头重新审视其算法审核策略，从单纯的“事后删除”转向更严格的“事前阻断”和“源头治理”。
业内专家指出，目前针对 AI 生成非法内容的监管尚处于探索阶段。如何在保护言论自由与遏制网络犯罪之间取得平衡，是各国政府和科技公司共同面临的难题。旧金山的这一指令，无疑为这场博弈拉开了新的序幕。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/san-francisco-orders-meta-to-stop-allowing-ai-child-abuse-ads/
