OpenAI 首席执行官 Sam Altman 近日受邀出席了联合国安理会会议，这是他首次以科技界领袖的身份进入这一全球最高安全决策机构。在此次备受瞩目的会议中，Altman 并未仅限于讨论商业拓展，而是将焦点高度集中在人工智能（AI）的安全治理、人类对技术的控制权以及跨国界的国际合作上。这一举动不仅反映了科技巨头与全球地缘政治中心之间日益密切的联系，也揭示了人工智能正在成为国际关系与全球治理中不可忽视的核心议题。
在发言中，Altman 重申了人工智能作为“双刃剑”的本质。他指出，虽然生成式 AI 具有巨大的潜力，能够极大地提高生产力并解决复杂问题，但如果缺乏有效的监管，它也可能带来前所未有的灾难性风险。他特别强调了生物安全和核安全这两个领域，认为在当前的 AI 技术水平下，如果恶意行为者利用强大的模型进行推演或合成，可能会对全球公共卫生和军事平衡造成毁灭性打击。因此，将 AI 的风险管控纳入联合国安理会的讨论范畴，被视为维护国际和平与安全的重要举措。
针对备受争议的“人类控制”问题，Altman 表达了坚定的立场。他强调，人工智能的发展必须始终处于人类的监督之下，技术本身不应凌驾于人类价值观之上。他呼吁各国政府制定明确的法律法规，确保 AI 系统的决策过程透明、可解释，并且能够随时被人类干预和撤销。这一观点与目前全球范围内对于“可解释性 AI”和“对齐问题”的学术探讨不谋而合，也表明行业领袖希望将伦理标准前置，在技术爆发前就确立“安全护栏”。
然而，Altman 在发言中最引人深思的部分，是关于“国际合作”的论述。他直言不讳地指出，人工智能技术的发展具有极强的流动性和隐蔽性，任何一个国家都无法独善其身。如果各国为了抢占技术高地而各自为政，甚至放松监管标准，那么不仅会导致全球范围内的“监管套利”，更可能引发国家间的恶性竞争，甚至诱发军备竞赛。为此，他主张建立一个类似于《核不扩散条约》的全球性治理框架，通过多边协议来规范 AI 的研发与使用。
这一呼吁与 Altman 此前的公开行程高度一致。从英国布莱切利园的 AI 安全峰会到韩国的 AI 安全峰会，再到此次联合国之行，他一直在积极推动建立国际共识。Altman 认为，只有通过国际协作，才能确保先进 AI 模型的开源与闭源处于可控范围内，防止技术滥用。此外，他也关注到了“全球南方”国家在 AI 发展中的机遇与挑战，呼吁在技术普惠和去偏见方面进行更多努力，以避免技术鸿沟进一步拉大全球贫富差距。
对于科技行业而言，Altman 在联合国的表态释放出强烈的政策信号。随着欧盟《人工智能法案》的落地以及美国行政命令的出台，全球 AI 监管的大幕已经拉开。Altman 的言论实际上是在为未来的监管方向提供指导，即监管不应阻碍创新，而应通过建立统一的标准来消除企业的合规成本，从而推动整个行业向更安全、更负责任的方向发展。
展望未来，Sam Altman 在联合国安理会的发言或许预示着全球 AI 治理将进入一个全新的阶段。从单纯的技术竞争转向深度的制度博弈，AI 安全不再仅仅是技术圈的话题，而是上升到了关乎人类文明存续的地缘政治高度。正如 Altman 所强调的，面对人工智能带来的深刻变革，唯有通过全球性的智慧与协作，人类才能驾驭这股强大的技术力量，将其转化为造福全人类的福祉。
信息来源：OpenAI News，原文链接：https://openai.com/index/sam-altman-un-security-council-remarks
