在人工智能飞速发展的今天，关于技术未来的讨论往往充斥着科幻色彩与末日焦虑。然而，梵蒂冈人工智能伦理顾问帕奥洛·本纳蒂（Paolo Benanti）近日在接受知名科技媒体Wired采访时，发出了截然不同的声音。他警告称，大型AI实验室之间可能正在形成类似“卡特尔”的垄断行为，并批评目前社会对“神一般AI”可能毁灭人类的过度炒作，实际上是在转移公众对技术治理的注意力。
本纳蒂在接受采访时指出，当前的舆论环境被一种“歇斯底里”的情绪所主导。媒体和公众过度聚焦于那些极小概率发生的极端场景——即AI失控并毁灭人类。这种叙事虽然极具戏剧性，但本质上是一种逃避。本纳蒂认为，这种对“神一般AI”的恐惧，实际上掩盖了更紧迫、更现实的问题：即我们如何制定规则来监管这项技术。
本纳蒂特别提到了他担心的“卡特尔”行为。在经济学中，卡特尔通常指生产者为了操纵价格、限制产量而结成的同盟。在本纳蒂看来，目前全球领先的AI实验室——如OpenAI、Google DeepMind、Anthropic等——正在通过不透明的合作、技术壁垒以及对关键算力资源的控制，形成一种隐性的联盟。这种行为可能会削弱市场竞争，导致技术发展的方向被少数几家巨头所垄断，从而剥夺了公众对AI发展路径的掌控权。
作为教皇的AI顾问，本纳蒂长期致力于将宗教伦理与现代技术结合。他强调，技术并非中立，它是由人创造的，因此必须受到人类的价值观和伦理框架的约束。如果大型实验室像“卡特尔”一样行事，不仅缺乏透明度，更可能忽视社会责任，将追求利润最大化置于人类福祉之上。
本纳蒂呼吁，我们需要一场关于如何治理人工智能的公开辩论。这不仅仅是技术专家或企业高管的事情，而是全人类都需要参与的议题。他主张，政府、国际组织以及社会各界应共同制定监管框架，确保AI的发展符合人类的最大利益，而不是任由少数技术巨头在黑暗中独自决定AI的未来。
此外，本纳蒂还提到，过度渲染AI毁灭人类的“末日论”会带来一种麻痹效应。当人们认为一切都注定毁灭时，往往会产生一种放弃干预的心理。他强调，我们必须正视AI带来的具体风险，如算法偏见、隐私侵犯和就业冲击，而不是沉溺于关于“奇点”的幻想之中。只有通过理性的公众辩论和有效的监管，我们才能确保人工智能真正成为服务于人类的工具，而不是成为失控的怪兽。
本纳蒂的观点为当前喧嚣的AI领域注入了一剂冷静的针剂。在巨头林立、竞争白热化的AI赛道上，如何平衡创新与监管、商业利益与公共安全，依然是摆在全球面前的一道难题。正如本纳蒂所言，只有摆脱对末日恐惧的痴迷，我们才能脚踏实地地构建一个安全、公平的AI未来。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/popes-ai-advisor-warns-of-cartel-behavior-big-labs/
