greenai.guide

首页 › 我该如何……? › 如何防止 AI 智能体浪费 token?

我该如何……?

如何防止 AI 智能体浪费 token?

更新于 · 阅读约需 1 分钟

简而言之

为每个智能体设定一个可检验、能结束运行的目标,对步数、token(词元)、时间和花费设定硬性上限,并加入循环检测,在它重复自己时让它停下。精简每一步携带的上下文,能用规则做的决定就用普通代码,把简单的子任务交给小模型。智能体消耗的 token 可能是一次聊天的许多倍,所以这些限制很快就能见效。

步骤

  1. 定义一个成功检查,一旦达到目标就结束运行。
  2. 对步数、token、时间和花费设定硬性上限,并在运行触及上限时记录下来。
  3. 检测重复的操作或几乎相同的消息,并停止运行。
  4. 对旧的历史记录进行总结或删除,让每次调用读取的内容更少。
  5. 基于规则的决定用普通代码完成,简单的子任务交给小模型。
  6. 记录每项已完成任务的 token 数,包括重试和失败的运行。

在每个智能体投入生产之前,为它设定限制和停止条件。 智能体会一次又一次地调用模型,而每次调用通常都携带着不断增长的任务历史。

为什么这很重要?

Anthropic 报告称,其智能体消耗的 token(词元)通常约为一次聊天的四倍,多智能体系统则约为十五倍。Cemri 及其同事分析了七个多智能体框架的 1,600 多条运行轨迹,发现了 14 种不同的失败模式,从任务说明不清到智能体未能核查自己的工作。每一种都是花费 token 却得不到结果的方式。

哪些防护措施有效?

  • 停止条件。 Green Software Foundation 关于智能体编排的模式建议,在目标达成时就终止智能体循环,而不是运行固定的迭代次数。
  • 硬性上限。 大多数框架都支持;例如 OpenAI Agents SDK 有一个 max_turns 设置,超过时就会停止运行。上限应当安全地失效:停下来并报告,而不是悄悄重试。
  • 循环检测。 标记出重复的工具调用,或智能体之间几乎相同的消息。
  • 精简上下文。 向后传递摘要,而不是完整的文档和日志。请参阅如何避免每次都重新发送整段对话。
  • 缓存。 同一个问题不要问两次:请参阅如何使用缓存。

什么做法效果最大?

使用能奏效的最简单设计。 一个固定脚本,或者一次提示得当、配有工具的模型调用,往往就能完成任务。其次再加一个有步数限制的单一智能体;只有面对范围广、价值高、真正可以并行的任务时,才使用多个智能体。2026 年英国一场由数学家、计算机科学家和业界人士参加的绿色 AI sandpit(研讨工作坊)指出,成群的智能体陷入循环,是一个真实存在却研究不足的浪费来源。

相关证据请阅读智能体 AI 与 token 浪费。

来源

  1. How we built our multi-agent research system, Anthropic (2025)
  2. Why do multi-agent LLM systems fail?, Cemri et al. (2025)
  3. Running agents (max_turns), OpenAI Agents SDK documentation (2025)
  4. Optimize agent orchestration to reduce unnecessary model calls, Green Software Foundation, Green Software Patterns (2025)

加入我们

帮助减少 AI 对地球的影响

通过电子邮件获取新指南、资助征集和名录收录信息,大约每月一次。您也可以将您的产品、课程、博士岗位或研究添加到名录中。

不做跟踪。一键退订。 其他加入方式 · 隐私