英国政府机构正在经历一场关于人工智能应用的监管风暴。据 Wired 报道，英国政府监督机构——公共账目委员会（PAC）正在考虑对英国内政部（Home Office）展开正式调查。调查的核心焦点在于该部门在处理大规模庇护申请时，是否违规使用了 OpenAI 的技术，特别是 ChatGPT。这一潜在的调查行动，折射出公共部门在引入前沿 AI 技术时面临的巨大挑战与合规风险。
内政部作为英国负责移民、边境和庇护事务的核心部门，近年来面临着前所未有的工作压力。随着全球范围内难民和寻求庇护者的数量激增，内政部积压了数以十万计的庇护申请案件。面对如此庞大的工作量，传统的人工处理模式已显得捉襟见肘，效率低下且成本高昂。为了提升行政效率，缓解系统压力，内政部一度尝试引入人工智能技术来辅助决策。然而，这种尝试目前正引发关于数据安全、算法偏见以及行政透明度的激烈争议。
根据知情人士透露，内政部曾使用 ChatGPT 等大型语言模型来分析庇护申请人的个人陈述，并提取关键信息，旨在辅助工作人员进行初步筛选和分类。这本意是为了加速流程，但在实际操作中却暴露出了严重的问题。公共账目委员会指出，内政部在部署这些工具时，未能严格遵守政府关于人工智能使用的指导方针，甚至在很大程度上缺乏透明度。委员会担忧，AI 工具的“黑箱”特性可能导致错误信息的传播，从而对申请人的切身利益造成不可挽回的损害。
调查的核心担忧之一是“准确性”问题。大型语言模型并非绝对精准，它们有时会产生“幻觉”，即编造看似合理但实际错误的信息。在涉及人身安全和移民判定的敏感领域，任何微小的错误都可能导致严重的后果——例如错误地将一名合法的庇护申请者错误分类或驱逐出境。此外，内政部在申请书中明确要求申请人提供个人敏感数据，而将此类数据输入到第三方 AI 模型中，引发了关于数据隐私和安全的巨大隐患。如果这些数据被不当存储或泄露，将严重违反英国的数据保护法律。
另一个引发广泛批评的焦点是“保密性”。公共账目委员会强调，政府机构在采用新技术时必须向公众和议会公开透明。然而，内政部在引入 ChatGPT 的过程中，似乎有意无意地掩盖了这一事实，甚至在某些情况下未能向国会报告其使用情况。这种不透明不仅破坏了公众对政府决策的信任，也使得监督机构难以评估 AI 系统的实际效果和潜在风险。
这一事件也发生在英国《人工智能法案》即将生效的关键节点。英国政府正致力于通过立法来规范人工智能的使用，强调在追求技术创新的同时，必须确保安全、透明和公平。内政部的案例无疑是一个警钟，提醒各政府部门在拥抱 AI 之前，必须建立完善的评估机制和风险控制流程。监管机构担心，如果没有严格的监管，AI 技术可能被滥用，甚至加剧现有的不公现象，例如对特定背景申请者的系统性偏见。
展望未来，如果公共账目委员会决定启动调查，内政部将面临来自议会的严厉质询，并可能需要公开其 AI 使用的具体细节和决策依据。这不仅关乎内政部的行政失误，更关乎整个英国政府在数字化转型的道路上如何平衡效率与责任。对于全球其他国家的公共部门而言，英国内政部的这一案例也提供了一个深刻的教训：在公共治理中引入生成式 AI，绝不能仅被视为一种技术升级，更必须被视为一项严肃的政策和合规议题。
参考资料： Wired
原文链接： https://www.wired.com/story/uk-home-office-may-face-investigation-over-use-of-openai-tools/
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/uk-home-office-may-face-investigation-over-use-of-openai-tools/
