近期，关于人工智能安全治理的呼声日益高涨。从李开复提出的“暂停AI发展”倡议，到OpenAI内部关于AGI风险的备忘录，业界对于AI发展速度的焦虑正在从学术圈向主流科技界蔓延。然而，一个更为尖锐的问题随之浮现：即便巨头们承诺放缓步伐，如何确保这一承诺真正落地？
在商业竞争的逻辑下，信任是稀缺资源。如果OpenAI承诺暂停研发，而其竞争对手（如Anthropic或Google）并未做出同等承诺，那么OpenAI将面临巨大的商业风险。这种“囚徒困境”意味着，任何单一公司的单方面暂停都可能导致其在技术竞赛中落后。因此，强制执行AI暂停的核心难点，在于如何打破这种缺乏信任的恶性循环。文章指出，除非存在某种形式的全球监管机构，否则单方面的暂停很难持久。
要实现有效的监管，仅靠行业自律显然不够。文章指出，可能需要引入国际监管机制或政府干预。但这同样面临挑战：各国对AI监管的态度不一，且政府审批流程往往滞后于技术迭代速度。此外，跨国监管的协调成本极高。这意味着，硬性约束可能比软性的道德呼吁更为必要，但这也引发了关于创新受阻的担忧。
开源模型在执行暂停策略中扮演着复杂角色。如果闭源巨头暂停发布，开源社区可能会填补这一空白，发布未经严格安全审查的模型。这不仅无法遏制风险，反而可能因为模型失控而加剧危机。因此，监管者必须同时关注开源与闭源生态，防止监管套利。文章强调，如果开源模型能够保持高水平的安全标准，那么限制闭源模型可能并非良策；反之，若开源模型缺乏监管，则可能导致“监管真空”。
综上所述，AI暂停并非简单的“按下暂停键”，而是一场涉及全球博弈、技术伦理与商业利益的复杂系统工程。唯有建立国际共识和硬性约束，才能避免技术失控的悲剧。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/heres-how-an-ai-slowdown-could-actually-work/
封面图片来源：Unsplash / 摄影师 Igor Omilaev
