加州最新出台的法律可能会让发布或转发 AI 深度伪造视频的社交媒体用户陷入法律麻烦，这些视频会欺骗选民有关即将到来的选举。加州州长加文·纽瑟姆 (Gavin Newsom) 表示，AB 2839 法案（他于周二签署后立即生效）可能被用来控制埃隆·马斯克 (Elon Musk) 等传播欺骗性内容的人的转发。
纽瑟姆在推文中表示：“我刚刚签署了一项法案，将这种行为在加利福尼亚州定为非法。”他指的是马斯克今年早些时候转发的一段人工智能深度伪造视频，该视频让卡马拉·哈里斯看起来称自己为不称职的候选人，并称自己是多元化雇员（但事实并非如此）。
纽森在后来的推文中表示：“你不能再故意分发包含重大欺骗内容（包括深度伪造）的广告或其他选举信息。”
加州的新法律针对的是人工智能深度伪造作品的传播者，特别是如果帖子与加州选票上的候选人相似，而发帖人知道这是假的，会引起混淆。AB 2839 的独特之处在于它不追究人工智能深度伪造作品的创造者或其出现的平台，而是追究那些恶意传播这些作品的人。任何在社交媒体上看到人工智能深度伪造作品的人现在都可以申请禁令救济，这意味着法官可以命令发帖人将其删除，或对发布者处以金钱赔偿。
这是 2024 年总统大选前美国出台的针对选举相关 AI 深度伪造的最严厉法律之一。
参与起草 AB 2839 法案的发起人——加州科技与民主倡议组织 (CITED) 告诉 TechCrunch，这项法律可能会影响任何社交媒体用户——不仅仅是马斯克——他们发布或转发带有恶意的与选举相关的人工智能深度伪造视频。“恶意”意味着发布者知道这是假的，会混淆选民。
“如果内容符合法案条款，[AB 2839] 将追究内容创作者或传播者的责任，”CITED 政策主管 Leora Gershenzon 在接受 TechCrunch 采访时表示。“这是实质上的欺骗性内容，明知是虚假内容却肆无忌惮地传播，很可能会影响选举。”
当被问及马斯克是否会因转发深度伪造视频而面临法律诉讼时，纽瑟姆并没有排除这种可能性。
“我认为马斯克先生错过了笑点，”州长纽森在周四的新闻发布会上表示。“恶搞在加州仍然盛行，但深度伪造和操纵选举——这伤害了民主。”
具体而言，新法律禁止在电视、广播、电话、短信或任何“通过互联网传播”的通信中发布与选举相关的人工智能深度伪造内容。该法案不仅限于其他法律所关注的政治竞选广告，还包括普通民众的帖子。AB 2839 创造了一个窗口期——加州选举前 120 天和选举后 60 天——在此期间，对社交媒体上可以发布和不可以发布关于政治候选人的内容有更严格的规定。
“真正的目标其实既不是赔偿，也不是禁令救济，”Gershenzon 说。“只是让人们从一开始就不这样做。这实际上是最好的结果……只是让这些深度伪造不会欺诈性地影响我们的选举。”
这项法律适用于加州州和地方选举的候选人，以及将出现在加州选票上的联邦候选人，例如卡马拉·哈里斯和唐纳德·特朗普。如果人工智能深度伪造作品上有明显的免责声明，说明它已被数字修改，那么 AB 2839 不适用于它。
马斯克已经在尝试测试执行加州新法律的意愿。周二，马斯克转发了纽森在推文中提到的模仿卡马拉·哈里斯的深度伪造视频，在 X 上获得了超过 3100 万次展示。周三，马斯克还转发了模仿州长纽森的人工智能深度伪造视频，获得了超过 700 万次展示。
马斯克和 X 还面临着与审核相关的其他法律问题。例如，巴西最高法院的一名法官周四对X 公司处以罚款，原因是该公司规避了该国对该平台的禁令。该法官此前表示，X 未能打击虚假新闻和仇恨言论，正在损害巴西的民主。
