在最近一期《The Verge》播客中，纽约州州长 Kathy Hochul 与主持人进行了一场深入对话。虽然话题涵盖了从 Meta 隐私和解到 3D 打印枪支禁令等一系列科技政策，但最引人注目的莫过于她对人工智能（AI）技术未来走向的强硬态度。
Hochul 女士直言不讳地表示，如果不对人工智能进行严格的监管，该技术最终可能会变得“邪恶”。这一观点并非空穴来风，而是基于她对当前科技巨头行为模式以及人工智能潜在风险的高度警惕。在科技政策备受关注的选举年，这位政治领袖的言论无疑为行业敲响了警钟。
“邪恶”的定义：从数据滥用到算法偏见
在访谈中，Hochul 提到了 Meta 与纽约州达成的隐私和解案，这暗示了她对科技巨头滥用用户数据的深恶痛绝。在她看来，人工智能的核心在于数据，而数据往往伴随着隐私风险。如果 AI 模型是基于未经同意或被窃取的数据训练而成，那么其输出结果本身就带有道德缺陷。
她将这种缺陷比作“邪恶”。这并非指 AI 具有自主的恶意意图，而是指如果缺乏伦理约束，AI 可能会放大社会的不公，例如在招聘、信贷或司法判决中加剧对少数群体的歧视。此外，随着深度伪造技术的泛滥，AI 还可能被用于制造虚假信息、操纵舆论，甚至威胁个人名誉。Hochul 认为，当技术脱离了人类的道德控制，其破坏力将是不可估量的。
立法先行：纽约州的 AI 监管蓝图
作为美国科技政策的前沿阵地，纽约州一直在尝试通过立法来规范 AI 的应用。Hochul 女士透露，她正在推动一系列法案，旨在确保 AI 系统的透明度和问责制。
其中一个关键的立法方向是要求 AI 培训数据的透明化。正如她在 Meta 案中所强调的，科技公司必须向公众解释其 AI 是如何被训练的，数据来源是否合法。这不仅是为了保护消费者权益，更是为了让公众了解 AI 决策背后的逻辑，从而建立信任。
此外，她还提到了对高风险 AI 应用的限制，特别是在执法领域。限制警察部门在没有明确司法授权的情况下使用面部识别技术，是近年来全球科技治理的一个热点话题。Hochul 的立场代表了监管者对于“技术中立”论调的反击——技术本身是中立的，但使用技术的人和组织必须对后果负责。
行业影响与未来展望
Hochul 的言论对科技行业，特别是 AI 领域，产生了直接影响。科技公司现在面临着双重压力：一方面是来自公众和立法者的伦理审查，另一方面是日益复杂的合规成本。那些试图绕过监管、以牺牲隐私换取效率的“黑盒”模型，未来将面临巨大的法律风险。
从应用场景来看，这种监管导向可能会加速 AI 行业从“野蛮生长”向“负责任创新”的转变。未来的 AI 产品可能需要在功能强大之前，先通过伦理和安全测试。这虽然短期内可能减缓创新速度，但从长远来看，有助于建立更加健康、可持续的 AI 生态系统。
对于公众而言，Hochul 的警告是一个信号：AI 的治理不再是技术部门内部的事情，而是关乎社会公平、国家安全和个人权利的重大议题。在选举年，科技政策将成为各党派博弈的重要筹码，而公众对于“AI 是否会变得邪恶”的担忧，也将成为推动立法改革的重要动力。
总的来说，Kathy Hochul 女士的观点提醒我们，技术具有两面性。它既可以创造巨大的经济价值，也可能成为扰乱社会秩序的工具。只有在法律和伦理的框架内，人工智能才能真正成为人类社会的助手，而不是潜在的威胁。
信息来源：The Verge，原文链接：https://www.theverge.com/podcast/986661/ny-gov-kathy-hochul-ai-data-centers-ban-3d-printed-guns-flock-cameras
封面图片来源：Unsplash / 摄影师 Arnaud Mariat
