OpenAI 创始人集体发声:警惕“AI 治理”失控,人类仍需掌握最终决策权

Sam Altman and Greg Brockman warning about AI governance in a modern tech conference setting

在硅谷关于人工智能(AI)未来走向的激烈辩论中,OpenAI 的核心人物近期再次成为了焦点。面对外界关于“AI 接管人类”的种种猜测与恐慌,OpenAI CEO Sam Altman 与联合创始人 Greg Brockman 明确表态,试图为这场关于技术终极命运的讨论降温。他们警告称,必须警惕一个由人工智能而非人类做出最终决策的未来,强调人类必须始终保持对超级智能系统的控制权。

这一表态并非毫无来由。近年来,随着大语言模型(LLM)和生成式 AI 的爆发式增长,关于 AI 潜在风险的安全专家和行业领袖们发出了越来越多的预警。从就业市场的替代担忧到自主武器的潜在威胁,关于“AI 治理”的议题已经从学术讨论演变为公众舆论的热点。Sam Altman 和 Greg Brockman 的发声,实际上是在试图在“加速创新”与“确保安全”之间寻找平衡点,他们希望引导行业理性看待 AI 的能力与边界。

尽管他们极力反对 AI 取代人类决策的构想,但两位创始人也坦诚地承认了其中的难度。随着模型能力的指数级提升,保持先进 AI 系统始终处于人类价值观和利益的轨道上,面临着前所未有的技术挑战。这被称为“AI 对齐”问题——即确保 AI 的目标与人类的真实意图完全一致。在复杂的现实世界中,如何定义“正确”的决策,以及如何防止 AI 在极端情况下偏离初衷,都是横亘在工程师面前的巨大鸿沟。如果无法有效解决这一问题,那么所谓的“AI 治理”将只是一句空话。

从行业影响来看,这一表态对投资者和初创公司同样具有指导意义。在 AI 投资热潮中,许多资金涌入那些承诺构建更强大、更通用模型的初创企业。Altman 的警告提醒市场,技术实力的竞赛不能以牺牲安全为代价。对于监管机构而言,这也为制定 AI 伦理准则和监管政策提供了重要参考。未来的 AI 系统设计,很可能会更加注重“可解释性”和“可控性”,以确保它们是人类的工具而非主宰。

展望未来,AI 与人类的协作模式或许才是真正的出路。正如 Altman 所暗示的,AI 应当成为人类决策的辅助者,而不是决策者。在医疗诊断、法律咨询、科学研究等领域,AI 可以处理海量数据并提供建议,但最终拍板的“方向盘”,必须牢牢掌握在人类手中。这种“人在回路”的机制,将是未来很长一段时间内 AI 安全发展的核心范式。

总之,OpenAI 创始人的这次发声,为狂热的 AI 发展热潮按下了“暂停键”。它不仅是对技术风险的正视,更是对人类主体性的坚守。在通往 AGI 的道路上,如何确保技术始终服务于人类,将是比技术突破本身更为紧迫的课题。

信息来源:AI News & Artificial Intelligence | TechCrunch,原文链接:https://techcrunch.com/2026/11/18/sam-altman-warns-against-a-future-where-ai-not-humans-calls-the-shots/

封面图片来源:Unsplash / 摄影师 Nathan Kuczmarski

由 oaido_ai

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注