简而言之
选择一个与 AI 所交付价值相匹配的功能单位,例如每份被总结的文档或每项成功完成的任务,然后用能耗除以这个单位的数量。把单位能耗、单位质量和总量放在一起追踪。单位数据显示系统是否越来越高效;总量则显示增长是否抵消了效率提升。
步骤
- 选择一个功能单位,优先按每项成功完成的任务计算,而不是按每次调用计算。
- 为每次模型调用标注它所属的任务,包括重试和失败的尝试。
- 用实测或估算的能耗,除以交付的单位数量。
- 针对同样的单位,追踪质量或成功率。
- 每月同时报告单位数据和总量数据。
总量随增长而上升,会掩盖效率;按任务计算的数据才能显示效率。 两者都追踪,您就能知道自己是否在进步,以及这种进步是否足够。
我应该选择哪种单位?
| 单位 | 适用于 | 注意事项 |
|---|---|---|
| 每次调用 | 简单的日志记录 | 掩盖了重试和智能体循环 |
| 每次请求或回答 | 聊天和搜索功能 | 看不出回答是否有用 |
| 每份文档、工单或图片 | 批量处理 | 文档大小不一 |
| 每项成功完成的任务 | 智能体和工作流 | 需要明确的成功判定标准 |
按每项成功完成的任务计算通常最好,因为用户的一次请求可能涉及多次调用。Anthropic 报告称,其智能体使用的 token(词元)通常约为聊天交互的四倍,而多智能体系统约为十五倍。
为什么还要保留总量?
Luccioni、Strubell 和 Crawford 警告说,AI 的效率提升可能被使用量的增长所抵消,即反弹效应。如果每项任务的能耗减半,而任务数量增至三倍,总量仍然会上升。正因如此,Green Software Foundation 的 SCI 规范是一个按功能单位计算的比率,但您仍应在旁边报告绝对数值。
常见错误
- 只统计成功的调用, 导致失败的尝试从数据中消失。
- 在不同报告之间更换单位。
- 只报告效率而不报告质量。 一项更便宜却更常失败的任务,并不算改进。
请参阅防止效率提升被抵消和如何测量 AI 能耗。
来源
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- How we built our multi-agent research system, Anthropic (2025)
- From efficiency gains to rebound effects: the problem of Jevons' paradox in AI's polarized environmental debate, Luccioni, Strubell and Crawford, ACM FAccT (2025)
相关内容
如何计算一项 AI 功能的软件碳强度(SCI)得分?
计算 AI 功能的 SCI 得分:能耗乘以电网碳强度,加上隐含排放,再除以功能单位,例如每次请求。
如何估算 AI API 调用的能耗?
托管的 AI API 无法直接计量,但您可以用 EcoLogits 根据 token(词元)数量和模型假设估算每次调用的能耗,并将其与成本一起记录。
如何防止 AI 的效率提升被更多的使用抵消?
如何防止 AI 节省下来的能源被不断增长的使用量吞噬:跟踪总量,为使用设定上限或预算,撤掉腾出的算力,并问一问是否真的需要。
如何测量 AI 的能耗和碳排放
实用指南:如何计量或估算 AI 工作的能耗和碳排放,涵盖工具、系统边界、按任务计算的指标以及如实说明不确定性。