简而言之
报告硬件;所有运行(包括调参和失败运行)的 GPU 小时数;以 kWh 计的能耗及所用工具;地点和电网碳强度;以 kg CO₂e 计的排放;以及在注明批次大小下的推理能耗。说明边界包括哪些内容,以及这些数字有多大的不确定性。如果边做边测,例如使用 CodeCarbon 之类的工具,这就只是填一张表,而不是事后重建。
步骤
- 从项目一开始就记录每一次运行的能耗,而不仅仅是最终运行。
- 用一张标准表格报告硬件、GPU 小时数、能耗、地点、电网碳强度和排放。
- 给出在注明的批次大小和序列长度下,每 1,000 次请求的推理能耗。
- 说明边界,包括是否计入数据中心的额外开销。
- 在最佳分数之外,同时报告相对于算力的结果,例如每 kWh 的准确率。
把算力和能耗作为标准结果来报告,而不是写在脚注里。 没有这些信息,效率方面的说法就无法核实,读者也无从判断一点点准确率的提升是否耗费了十倍的能源。
这一主张很早就有人提出:Strubell、Ganesh 和 McCallum 在 2019 年量化了训练多个语言模型的经济成本和环境成本,Schwartz 及其同事则在《Green AI》一文中主张在报告准确率的同时报告效率。
表格应包括哪些内容?
| 项目 | 示例 |
|---|---|
| 硬件 | GPU 型号和数量、CPU、内存 |
| 运行时间 | 最终运行以及所有调参和失败运行的 GPU 小时数 |
| 能耗 | kWh,实测或估算,并注明工具及其版本 |
| 地点 | 国家或电网区域,以及所用的碳强度 |
| 排放 | kg CO₂e |
| 推理 | 在注明的批次大小和序列长度下,每 1,000 次请求的能耗 |
| 边界 | 是否包括冷却和数据中心额外开销(PUE) |
如果您发布模型,请把这些数字填入 Hugging Face 模型卡的 co2_eq_emissions 字段。
常见错误
- 只报告获胜的那次运行。 其背后的搜索过程通常占了大部分能耗。
- 不给出不确定性。 基于功率模型的估算可能与电表实测值不同;请给出一个范围。
- 略去负面结果。 一种没有奏效的效率方法,可以让别人免于重复尝试。
Lannelongue 及其同事提出的 GREENER 原则为研究团队和机构提供了更广泛的框架。请参阅研究人员指南和如何测量 AI 能耗。
来源
- Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
- Green AI, Schwartz, Dodge, Smith and Etzioni, Communications of the ACM (2020)
- GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
- Displaying carbon emissions for your model, Hugging Face Hub documentation (2026)
相关内容
如何测量训练一个模型的碳足迹?
用 CodeCarbon 等工具跟踪一次训练的能耗,乘以当地电网的碳强度,并报告所用硬件、时长和地点。
如何为科研项目设定算力预算?
为 AI 研究设定并跟踪算力预算:估算 GPU 小时数,先做小规模试验,尽早停止效果差的运行,复用模型,并报告相对于算力的结果。
面向研究人员的绿色 AI
为研究人员提供的指南:介绍高效的 AI 方法、如何在论文中测量和报告能耗、如何设定算力预算、如何争取科研经费,以及数学能发挥作用的领域。
如何测量 AI 的能耗和碳排放
实用指南:如何计量或估算 AI 工作的能耗和碳排放,涵盖工具、系统边界、按任务计算的指标以及如实说明不确定性。