随着生成式AI技术的飞速发展，AI代理（AI Agents）正以前所未有的速度进入企业生产环境，承担着从数据处理到客户交互的复杂任务。然而，一份最新的行业调查揭示了这一繁荣背后的隐忧：企业正面临严峻的“代理安全缺口”。调查数据显示，高达54%的企业已经遭遇了确认的AI代理安全事故，或者险些发生此类事故。
这一惊人的数字表明，AI代理的安全问题已不再是理论探讨，而是迫在眉睫的现实威胁。所谓的“代理安全缺口”，是指企业赋予AI代理的高度自主权限，与当前用于限制和管控这些代理的安全措施之间存在巨大差距。这种差距使得代理的扩散速度远远超过了防护措施的部署速度。
造成这一局面的核心原因在于身份管理的缺失。在传统的IT安全中，身份是第一道防线，但在AI代理领域，这一防线却异常薄弱。调查发现，仅有约三分之一（32%）的企业为每个AI代理分配了独立的、受管制的身份。相反，大多数企业仍采用“凭证共享”的模式，让代理们共用API密钥或借用人类/服务账户的凭证。这种做法极大地扩大了攻击的“爆发半径”——一旦某个代理被攻破或权限配置过度，它将能够像病毒一样在整个系统中横向移动，导致难以追踪的连带破坏。
更令人担忧的是，企业对于风险隔离的投入严重不足。只有三成（30%）的企业将最高风险的AI代理隔离在沙箱环境中。从纵深防御的角度来看，观察和执行是必要的，但隔离才是当防护失效时限制损害的最后手段。然而，大多数企业恰恰在这一关键环节掉链子，导致代理系统处于一种“只管看、不管关”的危险状态。
在安全工具的选择上，企业也表现出明显的“路径依赖”。目前，绝大多数企业（82%）依赖模型提供商（如OpenAI、Google、Microsoft）和云巨头提供的原生防护工具。这些工具虽然提供了基础的安全护栏，但往往是为模型本身设计的，而非专门针对AI代理的自主性、流动性设计的。相比之下，专门针对AI代理安全的专业厂商（如Palo Alto、CrowdStrike等）尚未在市场上占据主导地位。
一个颇具讽刺意味的现象是，尽管面临如此高的安全事故率和薄弱的安全架构，企业对现有工具的满意度却出奇的高，平均评分达到4.2/5。这种“虚假的满足感”源于这些原生工具使用的便捷性和低摩擦成本。然而，随着AI赋能的攻击手段日益精进，这种建立在便利性而非实质性防御基础上的满意度显得脆弱不堪。事实上，只有约三分之一的企业认为其防御能力领先于AI驱动的攻击者，而大多数企业认为双方处于势均力敌的状态。
此外，预算的滞后也是一大隐患。AI代理安全支出在企业安全总预算中仅占极小一部分，大多数企业甚至不到10%。面对日益复杂的AI安全威胁，资金投入显然没有跟上风险演变的步伐。
值得注意的是，这种安全焦虑正在转化为行动。调查显示，超过一半的企业计划在未来一年内更换或升级其AI安全工具。尤其是那些已经经历过安全事故的企业，更换工具的意愿更为强烈。这预示着，企业将逐渐从依赖模型提供商的“默认防护”，转向引入更专业的身份管理和隔离控制，以填补日益扩大的代理安全缺口。
总之，AI代理的广泛应用正在重塑企业IT架构，但也暴露了传统安全框架的局限性。企业若想在享受AI红利的同时规避风险，必须优先解决“非人类身份”的管理问题，并建立专门的隔离机制，而非仅仅依赖现成的防护软件。
信息来源：AI | VentureBeat，原文链接：https://venturebeat.com/ai/the-agent-security-gap-54-of-enterprises-have-already-had-an-ai-agent-incident-and-most-still-let-agents-share-credentials
封面图片来源：Unsplash / 摄影师 Brett Jordan
