在人工智能（AI）技术飞速发展的今天，关于“AI 是否会取代人类黑客”的争论从未停止。然而，安全研究员 James Kettle 通过一系列深入实验揭示了一个更为现实且令人警惕的事实：目前最致命、最高效的 AI 黑客攻击手段，依然离不开人类的深度参与。这种“人类在回路”的协作模式，正在重塑网络安全的攻防格局。
James Kettle，知名的安全研究员，也是 PortSwigger Web Security Academy 的负责人，长期致力于网络安全技术的探索。最近，他进行了一项大胆的实验，试图将最新的 AI 工具引入传统的渗透测试流程中，以此来测试 AI 在实际黑客攻击场景下的极限。
在实验中，Kettle 利用 Burp Suite（一款广受网络安全专家欢迎的 Web 应用安全测试平台）作为主要工具，向 AI 模型提出了复杂的漏洞利用请求。结果显示，AI 展现出了惊人的处理速度和知识储备。它能够迅速分析 HTTP 请求结构，解释服务器响应，甚至自动生成用于攻击的 Payload。对于新手安全研究员而言，这种能力意味着门槛的显著降低——原本需要数小时钻研的技术细节，AI 可以在几秒钟内提供思路或代码片段。
然而，随着实验的深入，Kettle 发现了一个关键问题：AI 虽然强大，但并非全知全能。AI 依然会产生“幻觉”，即生成看似合理但实际上无法执行或存在逻辑错误的代码。更关键的是，AI 往往缺乏对复杂业务逻辑的理解。在真实的企业级应用中，漏洞往往隐藏在深层逻辑之中，而非简单的参数篡改。此时，AI 的表现会大打折扣，它需要人类提供精确的上下文、明确的指令以及最终的决策判断。
“人类在回路”的概念因此显得尤为重要。Kettle 的实验表明，AI 更像是一个不知疲倦的助手或副驾驶，它负责处理繁琐的数据分析和代码生成，而人类则充当指挥官的角色。人类负责评估 AI 生成的结果，过滤掉其中的错误信息，并根据实际情况调整攻击策略。这种协作模式不仅提高了攻击效率，还使得攻击手段更加难以被传统的自动化防御系统侦测。
这一发现对网络安全行业具有深远的影响。对于攻击者来说，AI 的引入使得“低技能”攻击者也能构建出高质量的攻击载荷，从而加剧了网络威胁的复杂程度。对于防御者而言，这意味着传统的基于规则和签名的安全防御体系正面临巨大挑战。防御者必须同样引入 AI 技术，利用机器学习模型来识别异常行为，并构建能够理解上下文的人工智能防御系统。
综上所述，虽然 AI 正在改变黑客攻击的面貌，但它并未取代人类的智慧。相反，它正在将黑客攻击推向一种新的高度——一种更加高效、更加隐蔽且高度依赖人机协作的高级攻击形态。对于安全从业者来说，掌握如何与 AI 协同工作，将成为未来不可或缺的核心技能。
信息来源：Feed: Artificial Intelligence Latest，原文链接：https://www.wired.com/story/the-most-dangerous-ai-hacking-techniques-still-have-human-input/
封面图片来源：Unsplash / 摄影师 Kevin Horvat
