在人工智能的演进历程中,我们正经历着从“聊天机器人”向“AI 代理”的范式转移。当开发者将一个复杂的编码任务交给 AI 代理时,这不再是一次性的交互,而是一个动态的、循环往复的执行过程。这一转变不仅改变了我们与 AI 的互动方式,更对现有的评估指标——尤其是 token 计数——提出了严峻挑战。
传统的评估方式往往基于简单的提示与回复模式。然而,现代 AI 代理展现出了类似人类的复杂工作流:它们首先进行规划,生成初步代码,接着运行测试,并根据测试结果自我修正,再重新生成代码。这一过程往往需要反复多次才能完成一个看似简单的任务。
根据最新的行业观察,一个典型的编码任务所消耗的 token 数量,可能是基础聊天提示的 10 倍甚至 50 倍之多。这意味着,随着 AI 代理能力的增强,其资源消耗(主要是 token)将呈指数级增长。如果开发者仅仅盯着 token 计数器,很容易低估 AI 代理的实际工作负载和复杂度。
因此,业界专家提出了一个新的视角:我们应该停止单纯计算 token 的消耗,转而开始关注“交付成果”。在软件开发的语境下,这意味着不再纠结于模型生成了多少字,而是关注代码是否最终通过了所有测试,是否真正解决了问题,即所谓的“shipped”(交付上线)的成果。这种评估标准的转变,对于降低成本、优化模型性能以及准确衡量 AI 代理的价值至关重要。未来的 AI 评估体系,必须从关注“过程消耗”转向关注“最终价值”,才能真正推动智能体技术在工程实践中的落地与普及。
信息来源:Artificial intelligence – MIT Technology Review,原文链接:https://www.technologyreview.com/2026/11/02/1147702/stop-counting-tokens-start-counting-what-ships/
封面图片来源:Unsplash / 摄影师 Markus Winkler
