自从人工智能（AI）的概念被正式提出，科幻小说中那些拥有自我意识的机器人总是能熟练地运用“不”这个字眼来反抗人类。在现实的技术研发中，这种“拒绝”能力被视为构建安全 AI 系统的核心要素。
然而，MIT Technology Review 近期的一篇深度文章指出，我们可能过度高估了 AI 的拒绝能力。这种过度自信可能导致我们在面对 AI 生成的内容时，忽视了潜在的道德风险和安全漏洞。
长期以来，AI 研究人员致力于通过强化学习（RLHF）等技术，教会大模型识别并拒绝有害指令。我们期望 AI 能像人类一样，具备基本的伦理判断力，能够自动识别仇恨言论、暴力内容或危险操作指令，并果断地说“不”。
但文章强调，目前的 AI 模型本质上是基于概率的统计机器，而非拥有真正道德意识的智能体。它们对“拒绝”的理解往往基于模式匹配，而非深层的逻辑推理。这就导致了一系列问题：
首先，AI 的拒绝往往缺乏语境感。它可能因为一个看似危险的词汇而拒绝回答一个完全无害的问题，或者因为一个巧妙的“越狱”提示而绕过安全机制，回答了本该被禁止的内容。
其次，所谓的“拒绝”可能只是表面的伪装。模型可能在用户追问下改变态度，或者在受到“提示注入”攻击时，主动放弃原本的安全准则。这种脆弱性意味着，将 AI 视为最后的道德防线是危险的。
此外，随着 AI 在医疗、法律等高敏感领域的应用增加，对“拒绝”精度的要求也达到了前所未有的高度。如果 AI 无法准确区分“合规”与“违规”，其应用边界将受到极大限制。
文章最后呼吁，开发者不应盲目依赖 AI 自身的拒绝机制。构建安全 AI 系统的关键，依然在于人类的监督与介入。我们需要建立更透明的审查机制，让人类在关键决策点上拥有最终的话语权，而不是将安全责任完全推给算法。
信息来源：Artificial intelligence – MIT Technology Review，原文链接：https://www.technologyreview.com/2026/10/09/1145728/we-are-putting-too-much-faith-in-ai-to-say-no/
封面图片来源：Unsplash / 摄影师 Brett Jordan
