简而言之
在做任何改动之前,先测量现有系统,所用的硬件、负载和输入要与之后完全相同,并重复运行以了解正常的波动范围。在报告总量的同时报告每单位有用工作的能耗,并且只有当节省幅度大于噪声、且质量没有下降时,才声称实现了节能。
步骤
- 选择一个功能单位,例如每次请求或每份文档的能耗。
- 在固定的配置和工作负载下多次测量现有系统,包括空闲时的基线。
- 每次只改一处,并在相同条件下重新测量。
- 每次运行都在记录能耗的同时记录质量或任务成功率。
- 只声称大于各次运行间波动的节省,并同时报告总量和单位数字。
只有在改动前测量过、改动后用同样方法再测量、且差异大于噪声时,节省才算数。 没有基线,节能声明只是猜测,也可能经不起推敲。
怎样才算公平的比较?
- 相同的配置: 硬件、地区、软件版本和设置。
- 相同的负载: 同样的请求、文档或训练数据,数量也相同。
- 多次运行: 读数会随温度、后台进程和频率调节而变化。请报告平均值和范围。
- 看能耗,而不只是速度: GreenCode Constitution 的研究在 llama.cpp 推理引擎上发现,GPU 能耗降低了 4.7%,而速度只提升了 3%。时间和能耗可能讲述不同的故事。
- 质量保持不变: 更便宜但错得更多的回答不算节省。
基线应该用什么单位?
像 Green Software Foundation 的 SCI 规范那样使用功能单位:每次请求、每份文档或每项成功完成的任务。然后同时报告总量,因为随着使用量增长,每项任务的能耗可能下降,而总能耗却在上升。请参阅按任务追踪 AI 能耗。
常见错误
- 改动前后各只测一次。 一对读数可能只是噪声。
- 同时改动多处,结果无法判断是什么起了作用。
- 移动基线,例如在不同使用量下,把新的小模型和旧的大模型进行比较。
- 把仅因电网变清洁而带来的碳排放下降算作效率提升。
在公布节能成果之前,请对照诚实的绿色声明进行检查。
来源
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
相关内容
我该如何……?
如何按每项任务而不是按总量追踪 AI 能耗?
选择一个功能单位,例如每份文档或每项成功完成的任务,按这个单位记录能耗和质量,并与总量一起报告。
我该如何……?
如何为 AI 能耗和排放设定目标?
如何设定有实际意义的 AI 能耗和排放目标:以实测基线为起点,同时设定强度目标和绝对目标,并定期审查。
我该如何……?
如何对我们的绿色 AI 作出诚实的宣传?
如何在不“漂绿”的前提下描述 AI 的环境表现:作出具体、经过测量、可比较的说法,并说明基准、方法和局限。
良好实践
关于 AI 的诚实环保声明
如何避免在 AI 上“洗绿”:哪些可以声明、哪些不能,反弹效应,诚实报告,以及英国、欧盟和美国的环保声明规则。