greenai.guide

首页 › 我该如何……? › 如何设定基线来证明 AI 节能效果?

我该如何……?

如何设定基线来证明 AI 节能效果?

更新于 · 阅读约需 1 分钟

简而言之

在做任何改动之前,先测量现有系统,所用的硬件、负载和输入要与之后完全相同,并重复运行以了解正常的波动范围。在报告总量的同时报告每单位有用工作的能耗,并且只有当节省幅度大于噪声、且质量没有下降时,才声称实现了节能。

步骤

  1. 选择一个功能单位,例如每次请求或每份文档的能耗。
  2. 在固定的配置和工作负载下多次测量现有系统,包括空闲时的基线。
  3. 每次只改一处,并在相同条件下重新测量。
  4. 每次运行都在记录能耗的同时记录质量或任务成功率。
  5. 只声称大于各次运行间波动的节省,并同时报告总量和单位数字。

只有在改动前测量过、改动后用同样方法再测量、且差异大于噪声时,节省才算数。 没有基线,节能声明只是猜测,也可能经不起推敲。

怎样才算公平的比较?

  • 相同的配置: 硬件、地区、软件版本和设置。
  • 相同的负载: 同样的请求、文档或训练数据,数量也相同。
  • 多次运行: 读数会随温度、后台进程和频率调节而变化。请报告平均值和范围。
  • 看能耗,而不只是速度: GreenCode Constitution 的研究在 llama.cpp 推理引擎上发现,GPU 能耗降低了 4.7%,而速度只提升了 3%。时间和能耗可能讲述不同的故事。
  • 质量保持不变: 更便宜但错得更多的回答不算节省。

基线应该用什么单位?

像 Green Software Foundation 的 SCI 规范那样使用功能单位:每次请求、每份文档或每项成功完成的任务。然后同时报告总量,因为随着使用量增长,每项任务的能耗可能下降,而总能耗却在上升。请参阅按任务追踪 AI 能耗。

常见错误

  • 改动前后各只测一次。 一对读数可能只是噪声。
  • 同时改动多处,结果无法判断是什么起了作用。
  • 移动基线,例如在不同使用量下,把新的小模型和旧的大模型进行比较。
  • 把仅因电网变清洁而带来的碳排放下降算作效率提升。

在公布节能成果之前,请对照诚实的绿色声明进行检查。

来源

  1. Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
  2. GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)

加入我们

帮助减少 AI 对地球的影响

通过电子邮件获取新指南、资助征集和名录收录信息,大约每月一次。您也可以将您的产品、课程、博士岗位或研究添加到名录中。

不做跟踪。一键退订。 其他加入方式 · 隐私