美国加州州长 Gavin Newsom 周五签署了一项新的行政命令，正式将加州推向了全球 AI 监管的前沿阵地。这项命令的核心议题引人注目，即是否应该为高风险的“前沿 AI 模型”强制配备一种被称为“致命开关”的机制。这一举措标志着加州在应对人工智能潜在风险方面迈出了实质性的一步。
行政命令指出，州政府将召集一个由专家组成的小组，在两个月内向州长提交建议。这些建议将涵盖如何对 AI 系统实施监督，包括如何确保存在一种能够即时终止模型运行的控制手段。这种“致命开关”的概念并非新鲜事，但在监管层面被正式提上日程，却具有里程碑意义。
“致命开关”：AI 安全的最后一道防线？
“致命开关”通常指在 AI 系统出现失控、生成有害内容或违背人类意图时，能够由人工或自动系统强制切断其电源或停止运算的机制。在科技界，OpenAI 首席执行官 Sam Altman 等人曾多次提及这一概念，将其视为防止超级智能失控的关键技术手段之一。然而，对于该机制的可行性，业界一直存在争议。有人认为，随着模型复杂度的提升，开发一个可靠且不会误触的开关在技术上极具挑战性；也有人担忧，在极端情况下，开关可能失效或被恶意利用。
加州的“实验室”角色
作为全球科技产业的心脏，加州的一举一动都具有风向标意义。Newsom 的这项命令是在联邦政府尚未出台全面 AI 监管法律的背景下发布的。此前，美国科技巨头与部分立法者就 AI 监管展开了激烈争论。Newsom 此举意在抢占监管先机，试图建立一套既不过度扼杀创新，又能有效防范风险的本土化标准。
值得注意的是，这项命令的签署也反映了加州内部的政治张力。特斯拉 CEO Elon Musk 等硅谷激进派一直呼吁立即暂停更强大的 AI 模型开发，并强调“致命开关”的必要性，而 Newsom 此时的表态似乎在某种程度上回应了这一呼声，尽管他更倾向于通过循序渐进的监管而非全面暂停来解决问题。
监管落地：从概念到现实的挑战
Newsom 的命令要求专家小组在两个月内提供详细建议，这意味着加州可能很快就会出台具体的实施细则。如果监管机构真的决定强制要求开发者在模型中集成“致命开关”，那么这将迫使 OpenAI、Anthropic、Google 等顶尖 AI 公司调整其技术架构和部署策略。这不仅仅是软件层面的改动，更涉及到复杂的伦理决策和法律责任归属问题：谁有权按下开关？在什么情况下可以按下？如果开关失效导致灾难性后果，责任由谁承担？
此外，加州的监管尝试可能会成为其他州的范本，甚至影响美国联邦层面的立法进程。如果加州成功建立了一套行之有效的“致命开关”监管体系，那么全美乃至全球的 AI 开发者都可能不得不遵循这一标准。
总的来说，Gavin Newsom 的这一行政命令为 AI 领域的监管博弈注入了新的变量。它将“致命开关”从一个技术讨论的话题，提升到了政治和法律决策的高度。未来两个月内，专家小组的动向将是科技界关注的焦点，人们将拭目以待加州如何平衡技术创新与公共安全之间的微妙关系。
信息来源：The Verge，原文链接：https://www.theverge.com/policy/997516/california-governor-newsom-ai-kill-switch
封面图片来源：Unsplash / 摄影师 Markus Winkler
