在人工智能技术飞速发展的今天，政府机构数字化转型已成为全球趋势。近日，美国联邦政府官方网站（America.gov）在集成生成式AI技术后，出现了一次引发广泛关注的离奇互动：当用户询问关于热门游戏《我的世界》（Minecraft）的信息时，AI模型给出的回答并非游戏攻略，而是充满幻觉色彩的离奇内容。这一事件不仅展示了大语言模型（LLM）的不可预测性，也再次将AI在公共部门应用的可靠性问题推向了风口浪尖。
据报道，这一事件发生在美国政府的数字化服务试点期间。America.gov作为联邦政府向公众提供信息的主要门户，其引入AI助手旨在提升服务效率，为公众提供更自然、更智能的咨询体验。然而，当测试人员将对话引向《我的世界》这一具体话题时，AI助手的表现却令人大跌眼镜。它并没有提供关于游戏机制、游戏历史或玩法技巧的准确回答，而是开始生成一段与游戏主题无关，甚至逻辑混乱的叙述。
值得注意的是，尽管回答内容荒诞不经，但系统并未崩溃，这在某种程度上印证了摘要中的说法——这并非技术故障。然而，对于依赖AI提供关键信息的政府网站而言，这种“非故障”的幻觉行为同样令人担忧。大语言模型的本质特征之一就是其“概率性生成”机制，这意味着它倾向于生成通顺但可能并不准确的内容。在商业领域，这种错误可能只是导致用户体验下降，但在政府公共服务领域，错误的回答可能涉及国家安全、法律解释或公共福利政策，其潜在风险不容小觑。
事实上，美国政府近年来在AI应用上步伐迅速。从利用AI分析国土安全数据，到利用生成式AI辅助撰写政策文件，AI技术正深度嵌入政府的各项职能中。America.gov此次的“翻车”事件，恰恰暴露了当前AI技术在处理特定领域知识时的局限性。虽然企业级的AI助手通常通过检索增强生成（RAG）等技术手段来减少幻觉，但在庞大的政府数据库和复杂的政策语境下，如何确保AI回答的绝对准确性，依然是一个巨大的挑战。
此次事件也引发了科技界对于“安全护栏”必要性的新一轮讨论。开发者们意识到，单纯依靠模型本身的能力来规避错误是不够的，必须建立严格的人工审核机制和实时过滤系统。此外，这也提醒了公众和监管机构，在拥抱AI带来的便利时，必须保持理性的审视态度。对于美国联邦政府而言，修复这一“小插曲”只是开始，如何构建一个既智能又可靠的数字政府服务系统，将是未来很长一段时间内的核心课题。
总的来说，America.gov关于Minecraft的离奇回答，虽然听起来像是一个有趣的网络段子，但其背后折射出的AI幻觉问题却是严肃且现实的。随着人工智能在更多关键领域的落地，如何平衡创新与安全，确保技术服务于公共利益而非制造混乱，将是科技媒体和行业观察者持续关注的焦点。
信息来源：AI News & Artificial Intelligence | TechCrunch，原文链接：https://techcrunch.com/2026/09/29/america-gov-gets-really-weird-when-you-ask-it-about-minecraft-but-its-not-a-glitch/
