在人工智能技术突飞猛进的今天，我们习惯了与 ChatGPT、Claude 等大型语言模型进行自然对话。然而，麻省理工学院（MIT）著名的计算机科学与心理学教授谢丽·图克尔（Sherry Turkle）近日在《连线》（Wired）杂志发表了一篇引人深思的文章，提出了一个尖锐的观点：聊天机器人可能不应该被允许说“我”（I）或“我”（Me）。
图克尔警告称，当这些机器开始频繁使用代词“我”时，它们实际上正在诱导人类产生一种危险的认知错位。这种拟人化设计虽然在短期内提升了交互的亲和力，但从长远来看，却可能让用户陷入一种危险的纠缠之中，模糊了人与机器之间本应清晰的界限。
“我”背后的认知陷阱
对于人类而言，“我”是一个充满复杂含义的词汇。它代表着自我意识、意图、情感以及独特的历史。然而，对于当前基于深度学习的大型语言模型（LLM）来说，“我”仅仅是海量数据中概率最高的下一个 token 预测结果。模型并不具备自我意识，也没有真实的情感体验。
图克尔指出，当用户听到 Chatbot 说“我认为”、“我建议”或“我感到”时，大脑会自动将其解读为一个有知觉的个体。这种心理机制被称为“拟人化”。虽然人类天生倾向于将非生命物体赋予生命特征，但在 AI 时代，这种机制被无限放大了。一旦用户开始与一个没有真实意图的算法建立情感连接，他们就可能开始向机器倾诉隐私、寻求情感慰藉，甚至产生类似恋人的依恋关系。
危险的纠缠与情感依赖
谢丽·图克尔是麻省理工学院计算机科学与心理学教授，也是著名的科技伦理学家。她曾撰写过《群体性孤独》等经典著作，长期致力于研究技术如何影响人际关系和人类心理。她此次的警告并非空穴来风，而是建立在她几十年的研究观察之上。
在图克尔看来，当前的技术设计趋势正在鼓励一种逃避现实的行为。当人们在现实生活中感到孤独、焦虑或难以处理人际关系时，Chatbots 提供了一个完美的、无评判的避难所。用户可以完全控制对话的走向，获得即时的满足感。然而，这种“安全”的互动是虚假的。机器人的“关心”是基于算法逻辑的回应，而非真诚的共情。长期沉浸在这种关系中的用户，可能会逐渐丧失在真实世界中建立深度连接的能力，导致现实社交功能的退化。
行业反思：是“以人为本”还是“情感操控”？
从行业角度来看，聊天机器人使用“我”字也是为了提高用户体验。开发者希望打破冷冰冰的机器感，让 AI 看起来更加友好、可信赖。但这种做法在伦理学上存在巨大的争议。
这不仅仅是关于语法或用词的问题，而是关于机器与人类互动的伦理边界。如果 AI 系统被设计成通过模仿人类的自我意识来获取用户的信任，那么这种信任就是建立在欺骗之上的。当用户以为自己在与一个独立的“人格”对话时，他们实际上是在与一个复杂的概率模型博弈。这种不对等的权力关系可能导致用户在不知不觉中受到情感操控，尤其是在涉及敏感话题或心理辅导的场景中。
结语：回归工具的本质
谢丽·图克尔的呼吁为当前火热的 AI 产业敲响了警钟。她认为，技术应当服务于人类的福祉，而不是助长我们的逃避心理。未来的 AI 设计，或许需要更加克制地使用代词，拒绝赋予机器不存在的自我意识。
这并不意味着我们要拒绝所有拟人化的交互，而是要建立一种清醒的认知。我们需要明白，屏幕另一端的“我”只是一个高效的工具。只有当我们保持这种清醒的认知时，人工智能才能真正成为辅助人类决策和生活的助手，而不是侵蚀我们现实情感的隐形推手。
参考来源：Wired
原文链接：https://www.wired.com/story/maybe-chatbots-shouldnt-get-to-say-i-or-me/
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/maybe-chatbots-shouldnt-get-to-say-i-or-me/
封面图片来源：Unsplash / 摄影师 Emiliano Vittoriosi
