日常使用 AI
- 什么时候该用 AI 的“思考”或推理模式?
真正困难的问题,例如多步数学、棘手的代码或细致的分析,使用推理或“思考”模式;日常问题、起草和摘要,则使用标准或快速模型。推理模式在回答之前会写出很长的隐藏推导过程,一项基准测试发现,它们的平均能耗高出 30 倍。 - 如何使用 AI 智能体和深度研究工具而不造成浪费?
把智能体和深度研究模式留给真正需要多个步骤的任务,例如跨多个来源研究一个宽泛的主题;快速提问则使用普通聊天。智能体完成一项任务要多次调用模型:Anthropic 报告称,智能体使用的 token(词元)约为聊天的四倍,多智能体系统约为十五倍。 - 如何关闭我不需要的 AI 功能?
打开您使用的每个应用、手机、浏览器或办公套件的设置,找到以其 AI 助手命名或名为“智能功能”的部分,关闭您不用的功能。对每封邮件、每个网页或每份文档自动运行的功能,无论您是否阅读结果,都会消耗能源,因此默认设置很重要。 - 如何写出更节能的提示?
写简短、具体的提示,准确说明您想要什么,只提供模型需要的上下文,并为回答设定长度。模型读写的文字越多,能耗就越高,所以两者都精简,并争取第一次就得到可用的回答,节省最多。 - 如何减少 AI 生成图像和视频的环境影响?
少生成图像和视频,开始之前先想好提示,视频要短、分辨率够用即可,并复用好的结果。一项研究发现,生成图像每次请求的能耗是文本分类的一千多倍,而一段简短的 AI 视频的代价还要高得多。 - 如何减少我使用 ChatGPT 的能耗?
用一个清晰的请求说清您的需要,让回答保持简短,换新话题就开新对话,并且节制地生成图像和视频。按已公布的估算,一个典型的文本问题耗电约三分之一瓦时,但长输入、反复重新生成和媒体生成可能使能耗成倍增加。 - 如何判断一项任务是否真的需要用 AI?
先问一问:是否已有更简单的工具能可靠地完成这项工作,例如搜索引擎、计算器、地图、词典、模板或电子表格公式。在生成式 AI 能真正节省时间或改善结果的地方使用它,例如起草、解释或改写文字;对于其他工具就能处理好的查询和计算,则不必使用。 - 如何和孩子谈论 AI 与环境?
向孩子解释:AI 运行在名为数据中心的大楼里的高性能计算机上,这些计算机要用电,常常还要用水来降温;有些用途,比如生成图片和视频,耗费的资源远多于其他用途。保持平静、务实:目的是有思考地使用 AI,而不是为此感到内疚。 - 如何在手机上使用 AI 而不浪费能源?
关闭您不用的 AI 功能;简单任务优先使用快速的设备端功能;把生成图片或视频这类繁重任务留到真正需要时再做。设备端的小模型可以避免把数据发送到数据中心,但仍然消耗您的电池,因此最大的节省在于不运行那些没有任何价值的 AI。 - 如何在网上搜索时不显示我不需要的 AI 回答?
寻找只显示普通网页链接的搜索选项或筛选条件,选择默认不自动生成 AI 回答的搜索引擎或设置,或者用书签直接访问您信任的网站。为每次搜索都生成一个 AI 回答,会增加您可能并不需要的模型计算,对于营业时间或已知网站这类简单查询尤其如此。 - 如何帮助家人更可持续地使用 AI?
约定几个简单的家庭习惯,而不是定规矩:使用最简单的可行工具,把问题问清楚,修改答案而不是重新生成,把 AI 图片和视频当作偶尔的消遣,而不是无止境的娱乐。延长手机、平板电脑和笔记本电脑的使用时间也很重要,因为制造设备同样会产生足迹。 - 如何抵消我使用 AI 产生的碳排放?
先减排,并把碳抵消当作可选的额外之举,而不是让 AI 使用变得“碳中和”的手段。对大多数人来说,日常文本 AI 的碳足迹很小;减少高消耗的用途,例如图像和视频生成以及没完没了的重新生成,比购买碳信用更有效。软件碳排放标准不允许用碳抵消来减少测得的碳足迹。 - 如何避免一遍又一遍地重新生成 AI 回答?
弄清第一个回答为什么没达到要求,然后用一句简短的追问告诉 AI 要改什么,而不是点击“重新生成”。每次重新生成都是一个全新的完整回答,所以习惯性地“掷骰子”五次、十次,会让一项任务的能耗成倍增加,图片和视频尤其如此。 - 如何避免与 AI 的长对话浪费能源?
换话题时就开启新对话;如果一段长对话仍然有用,就请 AI 做一个简短回顾,再在新对话中从这份回顾继续。聊天机器人通常要重新读取之前的全部对话才能回答每条新消息,所以很长的对话会让每次回复都比实际需要的更耗能。 - 如何避免只为使用 AI 而更换设备?
大多数 AI 工具在云端运行,通过您现有设备上的浏览器或应用即可使用,因此您很少需要新硬件。让设备用得更久,就能避免制造新设备带来的环境足迹,其中包括电子垃圾,而研究人员预计生成式 AI 会让电子垃圾增加。 - 我使用 AI 的能耗到底算多还是少?
按已公布的数据,向聊天机器人提一个普通的文本问题,耗电不到一瓦时,大约相当于烤箱运行一秒钟左右。图像、视频、长文档和推理模式的消耗可能高出许多倍,而全球总量增长迅速,所以“根本不算什么”和“简直是灾难”这两种说法都没有抓住要点。
选择 AI 工具和模型
- AI 应该在我的设备上运行,还是在云端运行?
把小型、频繁、涉及隐私或对延迟敏感的任务放在设备上运行,把需要大模型的大型或偶发任务交给高效的云服务。一些研究发现,对于合适的模型,在设备上运行可以大幅节能,但运营良好的数据中心是很难超越的基准,因此请尽可能针对您自己的情况进行测量。 - 哪个 AI 聊天机器人最环保?
目前还没有人能可靠地按能耗给主要聊天机器人排名,因为服务商公布的数据各不相同、测量方法不一,有些甚至根本不公布。请选择公开其能耗和用水情况、为简单问题提供更轻量模型、允许您控制功能的服务,然后好好使用它:您如何使用聊天机器人,比您选择哪一个更重要。 - 如何使用 AI 编程助手而不留下太大的足迹?
在明显有回报的地方使用助手;给它聚焦的上下文,而不是整个代码仓库;日常修改选用更小或更快的模型;把困难任务拆成您逐一审查的简单步骤。一项研究发现,在所测试的任务中,AI 辅助编程的碳足迹约为手工编程的 33 倍,因此习惯很重要。 - 如何判断一款 AI 工具是否环保?
要看证据,而不是标签:附有计算方法的每次请求能耗或排放数据、可选择的较小模型、关于运行地点的信息,以及 AI Energy Score 等独立评级。目前很少有工具公布全部这些信息,所以对于没有数字支撑的“绿色”或“可持续”,请把它当作一种说法,而不是事实。 - 如何判断经典机器学习能否代替大语言模型?
如果您的输入是结构化数据或带标签的短文本,输出是一个数值、一个类别或一个排序,请先尝试经典模型:线性模型、梯度提升树或小型分类器。它们的运行成本低得多,速度更快,更容易解释,而且往往同样准确。只有当任务确实需要开放式的语言能力时,才使用大语言模型。 - 如何向 AI 公司索取能耗数据?
针对您使用的模型,询问每次典型请求的能耗、碳排放和用水量,以及计算方法、系统边界和运行地点。同时索取基于位置和基于市场的碳排放数据。许多服务商目前还无法完整回答,但具体的问题比笼统的问题能得到更好的答复,而反复提问能形成需求。 - 如何在本地运行 AI 模型?
安装 Ollama 或 llama.cpp 之类的本地运行工具,下载一个 GGUF 等量化格式的小型开放权重模型,然后在您自己的电脑上运行。选择能完成任务的最小模型:量化版本所需内存少得多,一个 16 位形式下约需 16 GB 的 80 亿参数模型,在 4 位下约 4–5 GB 就能装下。 - 如何找到专用模型,而不是使用通用聊天机器人?
准确说明任务,然后在 Hugging Face 等模型平台上按任务类型搜索,并用您自己的示例测试两三个小型候选模型。为单一任务构建的模型,运行成本可能比完成同样工作的通用生成式模型低几个数量级,所以在选定聊天机器人之前,值得花一个下午做测试。 - 如何比较不同 AI 模型的能耗?
如果有标准基准覆盖您的任务,例如 Hugging Face 的 AI Energy Score,就使用它;否则就在相同的任务、硬件和设置下自己测量候选模型。比较每个成功完成任务的能耗,同时比较质量,因为一个便宜却会失败的模型,最终花费更多。 - 如何看懂 AI Energy Score 评级?
AI Energy Score 评级根据每 1,000 次查询实测的 GPU 能耗,将一个模型与在同一任务上测试的其他模型相比,按能效给出一到五星。星级越多,表示完成该任务的能耗越低;但星级只在同一任务内具有相对意义,所以只能把模型与针对同一任务评级的其他模型进行比较。 - 如何识别 AI 营销中的“漂绿”?
对于没有数字、方法和边界支撑的“绿色”“可持续”或“碳中和 AI”等说法,以及依赖碳抵消或年度可再生能源证书的声明,要保持警惕。诚实的声明会说明测量了什么、对比的基线是什么、哪些内容没有计入;在欧盟,无法证实的笼统环保声明是被禁止的。 - 如何选择更小的 AI 模型?
先用真实样例定义什么是“够用”,然后从最小到最大依次测试模型,在第一个达标的模型处停下。小型和专用模型的能耗可能只是大型通用模型的一小部分:联合国教科文组织(UNESCO)和伦敦大学学院(University College London)报告称,在合适的任务上最多可节能 90%。
测量能耗与排放
- 如何为科研项目设定算力预算?
估算主要实验所需的 GPU 小时数,为探索留出余量,并像管钱一样对照预算跟踪使用情况。先以小规模试验想法,尽早停止效果差的运行,复用预训练模型和检查点,并报告结果所耗费的算力。预算能让取舍一目了然,也能防止无休止的调参。 - 如何估算 AI API 调用的能耗?
您无法计量自己不掌控的硬件,所以改为估算:记录每次调用的输入和输出 token(词元),并使用 EcoLogits 之类的工具。它会封装您的 AI 客户端,报告每个请求的估算能耗和排放。请把这些数字标注为估算值,说明所用方法,并在能拿到供应商报告的数据时替换它们。 - 如何估算 AI 的水足迹?
用水量与能耗相关:把 AI 工作的能耗乘以数据中心现场冷却的水分利用效率(WUE),如果发电用水在您的边界之内,再加上发电所用的水。已公布的单次提示词用水数据从不到 1 毫升到几十毫升不等,主要原因是它们统计的范围不同。用水发生在哪里,与用了多少水同样重要。 - 如何估算我个人使用 AI 的碳足迹?
大致统计您每周使用多少次文字提问、长文档任务和图片生成,再乘以已公布的单次请求数据,就能得到一个粗略的范围。按企业自己公布的数据,一次典型的文字提示耗能不到一瓦时,而长输入和图片的耗能要高得多,所以总量通常由您最耗能的习惯决定。请把结果当作估算,而不是精确数字。 - 如何报告我的 AI 研究的能耗?
报告硬件;所有运行(包括调参和失败运行)的 GPU 小时数;以 kWh 计的能耗及所用工具;地点和电网碳强度;以 kg CO₂e 计的排放;以及在注明批次大小下的推理能耗。说明边界包括哪些内容,以及这些数字有多大的不确定性。如果边做边测,例如使用 CodeCarbon 之类的工具,这就只是填一张表,而不是事后重建。 - 如何按每项任务而不是按总量追踪 AI 能耗?
选择一个与 AI 所交付价值相匹配的功能单位,例如每份被总结的文档或每项成功完成的任务,然后用能耗除以这个单位的数量。把单位能耗、单位质量和总量放在一起追踪。单位数据显示系统是否越来越高效;总量则显示增长是否抵消了效率提升。 - 如何查到所在电网的碳强度?
使用与 AI 工作运行地点和时间相匹配的分地区电网数据。在英国(大不列颠),国家能源系统运营商(National Energy System Operator)的 Carbon Intensity API 提供分地区的估算和预测;Electricity Maps 覆盖全球 350 多个区域。只有在没有更精细的数据时,才退而使用全国年平均值,并说明您用的是哪一种。 - 如何核实关于 AI 能耗的说法?
问六个问题:以什么为单位(每个提示、每张图像,还是每年?),由谁测量,包含哪些内容,数据有多旧,与什么相比,以及说的是效率还是总使用量。大多数误导性的说法,无论是危言耸听还是令人安心,都过不了其中某一关。公开的每个提示能耗数据之所以不同,主要是因为计算的内容不同。 - 如何测量 AI 在我自己电脑或 GPU 上的能耗?
在您自己的机器上可以直接测量:使用 CodeCarbon 或能读取处理器和 GPU 计数器的功耗工具,或者在电脑和墙上插座之间接一个计量智能插座。先记录空闲基准,在整个作业期间持续采样而不是只取瞬时值,并重复运行几次,再相信得到的数字。 - 如何测量训练一个模型的碳足迹?
用 CodeCarbon 等排放追踪器包裹您的训练脚本,它会根据 CPU、GPU 和内存估算能耗,并按当地电网换算成碳排放。把每一次运行都计算在内,包括调参和失败的运行;记录硬件、地点和时长,并随模型一起公布结果。如果没有日志,可以事后用 Green Algorithms 等计算器进行估算。 - 如何计算 AI 硬件的隐含碳排放?
隐含碳是指硬件在制造、运输和处置过程中产生的排放。要计算它,先取硬件的隐含排放总量,再按您的 AI 工作占用这些设备的时间和比例分摊,然后把这一份额加到运行排放上,这正是 SCI 规范中 M 项的做法。由于数据往往不足,请说明您的假设;还要记住,硬件用得越久,同样的排放就分摊到越多的工作上。 - 如何计算一项 AI 功能的软件碳强度(SCI)得分?
软件碳强度(SCI)得分已作为 ISO/IEC 21031:2024 发布,其公式为 ((E × I) + M) per R:所用能耗乘以基于位置的电网碳强度,加上分摊的硬件隐含排放,再除以一个功能单位,例如一次请求或一份文档。选定单位,划定边界,收集或估算每一项,并在每次改动后重新计算。 - 如何设定基线来证明 AI 节能效果?
在做任何改动之前,先测量现有系统,所用的硬件、负载和输入要与之后完全相同,并重复运行以了解正常的波动范围。在报告总量的同时报告每单位有用工作的能耗,并且只有当节省幅度大于噪声、且质量没有下降时,才声称实现了节能。
面向开发者和数据科学家
- 为了节能,应该选择检索还是微调?
当模型需要会变化的事实或您特有的事实时,使用检索:把它们放进可搜索的索引,只取回相关段落。当模型需要它所缺少的技能、格式或风格时,使用微调。为保持事实更新而反复训练会重复训练成本,而把整份文档粘贴进每个提示会浪费推理资源,因此两种方法各有用武之地。 - 如何判断混合专家模型能否节省能源?
混合专家模型会把每个 token(词元)分配给少数几个专门的子网络,因此每个 token 只有模型的一部分在工作。例如,Mixtral 有 470 亿个参数,但每个 token 只使用 130 亿个。与质量相近的稠密模型相比,这可以减少每次回答的计算量,但所有专家仍须驻留在内存中,所以请在您自己的硬件上比较质量、延迟和单次请求能耗。 - 如何在不需要大量算力的情况下微调模型?
从预训练模型出发,只训练一个小型适配器,而不是训练全部权重,可使用 LoRA,或使用 4 位权重的 QLoRA。与对 GPT-3 进行全量微调相比,LoRA 将可训练参数减少到万分之一,GPU 内存减少到三分之一;QLoRA 则在单个 48 GB GPU 上微调了一个 650 亿参数的模型。在考虑任何更大的方案之前,先对照您的质量要求检验结果。 - 如何存储 AI 训练数据,让数据管道少读一些数据?
用列式格式存储训练数据和特征数据,让作业只读取它用到的列和分区;把原始文本一次性转换为二进制格式,而不是每次运行或每个 epoch 都重新解析。转换前后各测量一次典型作业,确认转换的收益超过成本。与模型相比,数据处理很容易被忽视,但每一次实验都要运行它。 - 如何对模型进行量化?
量化是用更少的位数存储模型权重,通常用 8 位或 4 位代替 16 位或 32 位,因此所需内存更少,每次回答的能耗也往往更低。加载现成的量化版本,或用您所用库的内置方法进行量化,然后用您自己的示例与全精度模型对比测试。如果质量保持不变、每次请求的能耗下降,就保留它。 - 如何对神经网络进行剪枝?
对训练好的网络剪枝,即去除贡献最小的权重、神经元或层,然后进行简短的微调使其恢复,并按您的质量标准进行测试。剪枝曾把 AlexNet 的参数减少到九分之一而不损失准确率,超大型语言模型也已能一次性剪枝到至少 50% 的稀疏度。如果您希望在普通硬件上运行得更快,请优先选择结构化剪枝。 - 如何批量处理 AI 请求以节省能源?
用支持连续批处理的推理引擎来处理实时流量,让并发请求共享加速器。不需要即时回答的工作,例如夜间文档处理,可以先排队,再以大批量运行,最好安排在电网更清洁的时段。一次只处理一个请求的加速器利用率很低,却仍然消耗大量电力。 - 如何把大模型蒸馏成小模型?
先检查您的模型是否已有蒸馏版本。如果没有,就用大型“教师”模型为您的任务标注或生成示例,用这些示例训练一个小型“学生”模型,再用您自己的真实案例测试学生模型。早期的例子 DistilBERT 比 BERT 小 40%、快 60%,同时保留了 BERT 97% 的语言理解能力。 - 如何把模型缩小到能在边缘设备上运行?
从可能达到质量要求的最小模型开始,再通过蒸馏、量化和剪枝进一步缩小,每一步都在目标设备上测试。在真实硬件上同时测量每次推理的能耗、延迟和准确率,并在电量低或设备过热时让模型降级运行。 - 如何把请求路由到更小的模型?
在模型前面放一个路由器:可以是一条规则、一个小型分类器,或者一个级联流程,先试小模型,在置信度低或检查未通过时再升级。在一些测试中,已发表的路由器在不降低质量的情况下把成本削减了一半以上。请用您自己的数据调整阈值,并按每项成功完成的任务而不是每次调用来衡量成本。 - 如何用推测解码加快大模型的速度?
把您的大模型与同一系列的一个小型草稿模型配对:草稿模型提出若干个 token(词元),大模型在一次前向计算中核验它们,只保留认可的部分。输出与单独使用大模型时完全相同,原始研究报告的推理速度快 2 到 3 倍。请先确认您的推理服务栈支持这项技术,然后测量每次请求的能耗,而不只是速度。 - 如何用缓存降低大语言模型调用的能耗?
采用两层缓存。服务商的提示缓存会复用对固定前缀的处理结果,例如很长的系统提示或共享文档,因此请把稳定的内容放在最前面。您自己的响应缓存会保存相同请求的答案,这样就不必再次调用模型。只要设置合理的过期时间,两者都能减少计算量、成本和延迟。 - 如何让 AI 写出节能的代码?
明确要求高效的代码,并说出约束条件,例如内存、内存分配或算法复杂度,然后在采用代码之前运行测试并测量其能耗。研究发现,改变提示词可以让生成的代码能效最多提高 91.9%,但往往以正确性为代价。请给助手提供可遵循的能耗原则,并由人来检查结果。 - 如何让向量搜索和 RAG 更高效?
使用近似最近邻索引,而不是把每个查询与存储的每个向量逐一比较;只检索少量简短、相关的段落,而不是大量长段落;只为发生变化的内容重新生成嵌入。然后,在上下文质量良好的前提下,使用能答好问题的最小生成模型。检索系统中的大部分浪费来自暴力搜索和过长的提示。 - 如何设计 AI 功能,让它在没人需要时不运行?
让 AI 功能在用户提出要求时才运行,而不是在每次加载页面、收到消息或打开文件时自动运行。共享结果只生成一次并重复使用,能用规则做出的决定就用普通代码,并移除很少有人使用的 AI 功能。W3C 的《网络可持续性指南》要求团队在实施 AI 之前先评估是否需要 AI,这一点既适用于每个功能,也适用于每个触发条件。 - 如何避免从零开始训练模型?
先搜索与您的任务相近的预训练模型,再对它进行适配:微调、训练 LoRA 这类小型适配器,或者通过检索补充知识,而不是重新训练。如果您已有多个从同一基础模型微调而来的模型,对它们的权重取平均可以提高准确率,而且不增加推理成本。除了基础模型研究之外,很少有必要从零开始训练。 - 如何避免聊天机器人每次都重新发送整段对话?
大多数聊天功能在每一轮都会把整段对话重新发送给模型,因此输入随每条消息不断增长。限制发送的历史轮次数,把较早的轮次总结成一段简短的笔记,只检索与问题相关的早期消息或文档,并缓存固定的系统提示。长输入的能耗远高于短输入。 - 如何防止 AI 智能体浪费 token?
为每个智能体设定一个可检验、能结束运行的目标,对步数、token(词元)、时间和花费设定硬性上限,并加入循环检测,在它重复自己时让它停下。精简每一步携带的上下文,能用规则做的决定就用普通代码,把简单的子任务交给小模型。智能体消耗的 token 可能是一次聊天的许多倍,所以这些限制很快就能见效。 - 如何降低生产环境中模型服务的能耗?
使用能达到质量要求的最小模型,在专为推理构建的运行时上提供服务,开启批处理,以半精度或量化格式加载权重,并启用库中经过优化的注意力和缓存路径。然后在真实流量下对两三种运行时和硬件方案做基准测试,在比较延迟的同时,也按单次请求能耗来做选择。 - 如何降低训练模型的能耗?
尽可能从预训练模型出发,选择可能达到要求的最小架构,使用混合精度训练,在验证指标不再提升时停止,并在低碳地区和时段使用高能效硬件运行。Patterson 及其同事发现,模型、数据中心和处理器的选择最多可将训练的碳足迹降低约 100 到 1,000 倍。测量每一次运行,让各种取舍一目了然。 - 如何降低超参数搜索的能耗?
用随机搜索或自适应搜索代替大规模网格搜索,提前停止表现差的试验,先在小数据或小模型上做试点,并从您所用架构公开的默认值出发。记录每一次试验的能耗,而不只是最终胜出的那次,并在开始之前设定算力预算。调优运行的成本往往超过最终训练,而且很少被报告。 - 如何限制大语言模型的输出长度?
在 API 调用中设置最大输出长度,在提示中告诉模型您需要的格式和长度,并使用停止序列或结构化输出,让它在任务完成时就停下。能耗随模型生成的 token(词元)数量增长,因此限制输出是任何应用中最简单的节能方法之一。
数据中心、云与托管
- 如何为 AI 选择可持续的数据中心?
索取证据,而不是看标签:您的工作运行所在地的电网碳强度和逐小时清洁电力占比,站点的 PUE 和用水量,硬件的服役时长,以及您能否获得自己账户的能耗和排放数据。在欧盟,较大的数据中心必须报告能耗和用水量,因此这些数据往往是存在的。请选择清洁的托管服务,但要继续削减您发送到那里的工作量。 - 如何为 AI 选择节能的硬件?
在两三种硬件和运行时方案上对您实际使用的模型进行基准测试,在真实的批量规模下比较每次请求或每次训练运行的能耗,同时比较延迟和成本。Patterson 及其同事发现,模型、数据中心和处理器的选择结合起来,最多可将训练的碳排放降低约 100 到 1,000 倍。让好的硬件保持忙碌并长期服役,因为制造新设备本身就有环境足迹。 - 如何减少 AI 的水足迹?
用水量随能耗而变化,所以第一步是一样的:使用更小的模型、更短的输出,减少重新生成。此外,选择公开用水数据的托管方,避免在水资源紧张地区开展高负荷工作,并向供应商索取站点层面的用水数据。每条文本提示的用水量很小;真正重要的是总量和对当地的影响。 - 如何减少在科研计算集群上运行 AI 实验的环境足迹?
先从测量开始:许多集群会在 Slurm 调度器中记录每个作业的能耗,CodeCarbon 或 Green Algorithms 计算器可以补足缺口。然后只申请所需的 GPU、内存和时间,先以小规模试验想法,为长时间作业设置检查点,并在电网更清洁时运行可灵活安排的作业。报告整个项目的能耗,而不仅仅是最终运行。 - 如何利用云上的闲置算力运行 AI 作业?
云服务商以低价出售闲置算力,条件是可以在短时间通知后收回,这就是竞价实例(spot)或可抢占实例(preemptible)。训练、评估、批量推理和数据处理只要能保存检查点并顺利重试,就可以使用这类算力。Microsoft 的指导意见是只把它用于能容忍中断的工作,因为中断可能带来不稳定。 - 如何在电网更清洁的时候安排模型训练?
找出可以等待的作业,例如训练、微调、评估和批量推理,在碳强度预测显示电网更清洁时启动它们。定期保存检查点,让长时间作业在碳强度上升时暂停、在下降时恢复,同时守住明确的截止时间。碳感知调度减少的是碳排放而不是能耗,所以应在提高效率的基础上进行。 - 如何找到我的云服务提供商的碳排放数据?
大型云服务提供商会在账单或可持续发展控制台中发布客户碳排放数据:AWS Sustainability 控制台、Microsoft 的 Azure 排放工具,以及 Google Cloud 的 Carbon Footprint 仪表板。它们按服务、区域和范围细分排放量,但这些数据按月提供且是估算值,所以请把它们看作趋势,并与您自己按工作负载的测量结合使用。 - 如何看懂 PUE 和 WUE 数据?
电能使用效率(PUE)是数据中心的总能耗除以计算设备的能耗:越接近 1.0,损失在冷却和电力转换上的能源就越少。水资源使用效率(WUE)是每千瓦时计算所消耗的现场用水升数:越低越好。这两个指标都不能说明完成了多少计算、电力有多清洁,或者这些工作是否必要。 - 如何确认我的 AI 是否使用可再生能源?
先问清您的 AI 实际在哪里运行,再针对该地区查看两件事:电网的碳强度,以及逐小时与清洁电力匹配的用电比例。“100% 可再生”通常指按年度总量匹配的证书或合同,它并不会改变当地电网在某一小时实际供应的电力。请同时索取基于位置和基于市场的数据。 - 如何选择碳排放低的云区域?
利用提供商公布的区域数据或 Electricity Maps 等数据源,按电网碳强度和无碳能源比例比较各个区域,再权衡延迟、数据驻留规定和成本。训练、微调和夜间处理等批量工作最容易迁移;面向用户的推理通常需要靠近用户。 - 如何避免 GPU 和笔记本环境闲置?
把按需运行设为默认:流水线和训练作业应在触发时启动资源,完成后释放资源。让闲置的笔记本环境和开发用 GPU 在设定时间后自动关闭,在非工作时间把非生产环境缩减到零,并在报告成本的同时按团队报告闲置的 GPU 小时数,让浪费一目了然。 - 附近计划建设数据中心,我如何表达意见?
找到规划申请,阅读开发商关于能源、用水、噪音和余热的说明,并在公众咨询期内提出具体、有依据的问题。询问该场地将占用多少电网容量和水资源、是否会再利用余热,以及投入运营后将报告哪些能耗和用水数据。具体的问题比笼统的反对更有分量。
面向机构
- 作为政策制定者,如何推动 AI 更加绿色?
从透明度入手:要求或鼓励 AI 提供商和数据中心报告可比较的能耗、用水和排放数据。利用公共采购奖励高效的 AI,为数据中心规划电网和水资源容量,并资助高效方法的研究和技能培养。除了效率,还要关注总需求,因为 AI 越便宜,往往用得越多。 - 如何为 AI 能耗和排放设定目标?
先测量基线,然后同时设定两类目标:强度目标(每项有用任务的能耗或排放)和针对总量的绝对目标或上限。强度反映效率;绝对数字则显示使用量的增长是否吞噬了节省。随着模型和使用情况的变化,至少每年审查一次。 - 如何为绿色 AI 论证商业价值?
从成本、速度和风险的角度论证,因为降低 AI 能耗的做法(更小的模型、更少的 token(词元)、更少的无效调用)同样能降低开支、缩短等待。拿出一个来自您自己工作的实测例子,补充报告和监管方面的理由;如果更适合您的听众,可以把环境效益作为一个真实但次要的论点。 - 如何判断一个 AI 项目是否值得它带来的环境足迹?
估算 AI 自身的环境足迹(训练或微调,加上在预期使用期内的运行),并与同一时间段内衡量的收益相比较。要与最简单的非 AI 方案比较,而不是与什么都不做相比。如果项目旨在节约能源或减少排放,节省的量必须明显超过 AI 自身的成本,否则就是净损失。 - 如何制定绿色 AI 政策?
保持简短、实用:说明何时值得使用 AI;设置高效的默认值(够用的最小模型、输出长度上限、非必要不开启功能);在采购中要求回答能源问题;并承诺按任务进行测量。为政策指定负责人和复审日期,列出几项可衡量的承诺,并把它纳入您已有的流程。 - 如何在 AI 采购中纳入可持续性要求?
向供应商索取每次请求或每项任务的能耗和排放数据,并要求说明方法和边界、工作负载的运行地点,以及基于地点和基于市场的两种碳排放数据。在招标中为这些证据的质量打分,并在合同中写明报告要求、模型选择以及模型变更的事先通知。许多供应商目前还无法完整作答,但提出这些问题能看出谁真正重视此事。 - 如何在我们的可持续发展报告中报告 AI 排放?
把 AI 纳入您现有的温室气体清单,而不是单列一个数字:您自己运行的硬件所用电力计入范围二,云服务和 AI 服务通常计入范围三的外购商品和服务。尽可能使用供应商数据,其余部分用明确说明的方法根据使用量估算,并给出边界和不确定性。在总量之外,同时展示每项有用任务的能耗。 - 如何在整个组织内关闭不需要的 AI 功能?
利用您的 AI 使用清单,找出默认开启的 AI 功能,然后逐项决定:保留大家在用的,关闭或限制没人用的,并允许按需申请开通。在管理后台统一修改,而不是让用户各自操作;告诉员工改了什么、为什么改;每季度复查一次使用数据。减少闲置的 AI 许可证还能省钱。 - 如何培训员工高效使用 AI?
用一次简短的培训,结合您自己工作中的真实例子,教会几个习惯:先确认 AI 是否是合适的工具;写清晰、具体的提示;要求简短的回答;修改而不是重新生成;少用图片和视频。再在公司工具中设置高效的默认值来配合培训,因为默认值能覆盖那些没来上课的人。 - 如何对我们的绿色 AI 作出诚实的宣传?
只宣传您测量过的内容,具体说明改进了什么、以什么为基准,并说明方法、边界和局限。把每项任务的效率与总使用量分开,也不要把说法建立在碳抵消或年度证书之上。“绿色 AI”或“碳中和 AI”等含糊措辞有风险,在英国和欧盟还可能违反消费者保护法。 - 如何摸清我们组织在哪些地方使用 AI?
建立一份包含四类条目的简单清单:员工直接使用的 AI 工具、已有软件中内置的 AI 功能、自动化流程和智能体,以及替您运行 AI 的供应商服务。每一项都记下负责人、运行频率、已知的模型或提供商,以及输入了哪些数据。这份清单是减少浪费、管理风险和开展报告的起点。 - 如何满足欧盟《人工智能法》的能耗记录要求?
如果您在欧盟提供通用 AI 模型,《人工智能法》附件 XI 要求您的技术文档包含该模型已知或估算的能耗,以及训练所用的计算资源。请从一开始就跟踪训练的算力和能耗,记录所用方法,无法测量的部分则进行估算。如果您只是使用 AI,这项义务由您的供应商承担,但您可以向其索取这些数据。 - 如何让我们公司的 AI 使用更可持续?
先摸清公司在哪些地方使用 AI,再把高效的选择设为默认:使用能达到质量要求的最小模型、简短的输出,非必要时关闭 AI 功能。向供应商询问每次请求的能耗以及运行地点,按每项有用任务进行测量,并把这些写进一份有专人负责的简短政策。这些步骤大多在节能的同时,也能降低成本、缩短等待时间。 - 如何让我的小企业的 AI 足迹保持在较低水平?
在明显能节省时间的任务上使用 AI,让请求简短而具体,修改答案而不是重新生成,并少用图片和视频。关闭那些付了费却没在用的 AI 功能,并简单记录您使用了哪些工具,以便回答客户的询问。对小企业来说,同样的习惯还能减少订阅费用和人工成本。 - 如何防止 AI 的效率提升被更多的使用抵消?
在跟踪每项任务能耗的同时跟踪 AI 的总能耗,让增长一目了然,并事先决定节省下来的部分如何处理:撤掉腾出的算力,保留预算或上限,或者有意识地再投入。把效率与“适度”结合起来,问一问每一项新用途是否值得。如果不这样做,更便宜的 AI 往往只会被用得更多。 - 慈善机构如何可持续地使用 AI?
在能为员工和志愿者腾出时间、服务使命的地方使用 AI,选择能完成任务的最轻量工具,并避免批量生成图片这类繁重用途。制定一份简短的政策,在数据保护之外也涵盖环境影响;向供应商询问有关能源和运行地点的简单问题;并坦诚地告诉支持者您是如何使用 AI 的。
中小学、大学与培训
- 如何在学习中使用 AI 而不浪费能源?
在 AI 有助于学习的地方使用它,例如解释难懂的概念、给您出题或对草稿提出反馈;查找事实和来源时,则使用您的笔记、教科书和图书馆检索。提出有针对性的问题,只粘贴您需要的段落,避免反复重新生成或为了好玩而生成图片:这些习惯既节能,通常也有助于学习。 - 如何学习绿色 AI?
先读一篇关于 AI 能耗去向的简短说明,再用一款免费工具测一测您自己的使用情况,例如代码能耗追踪器或 AI API 调用估算器。然后选择一门适合您水平的课程,并关注您所在领域的社区或研究团队。通过测量真实的东西来学习,比单纯阅读记得更牢。 - 如何找到绿色 AI 方向的博士项目?
不要只看标注为“绿色 AI”的项目:高效 AI 研究分布在计算机科学、数学、电气工程和各领域科学中,常常以高效机器学习、可持续计算或低功耗硬件等名称出现。搜索博士培养项目和项目列表,阅读近期论文找到活跃的导师,并询问研究中将如何测量能耗。 - 如何把绿色 AI 纳入大学课程?
增加一条简短、实用的教学线索,而不是开设一门全新的课程:讲解 AI 的能耗来自哪里,让学生测量自己代码或模型运行的能耗,并要求他们在报告准确率的同时报告算力和能耗。在技术类课程中,讲授小模型、量化和复用等高效方法;在其他课程中,重点讲授合理使用和如何评判各种说法。 - 如何教学生认识 AI 对环境的影响?
先讲清一个观念:每一个 AI 回答都运行在真实的计算机上,这些计算机要用电、用水;然后用几个可靠的数据,再加一个动手活动,例如比较文字生成和图片生成。把这个主题与计算机、科学和地理课联系起来,并保持平衡:目的是帮助学生有思考地使用 AI,而不是让他们为使用 AI 感到内疚。 - 学校如何制定可持续使用 AI 的规则?
在学校现有的 AI 政策中加入一小节环境内容,而不是另写一份。说明何时 AI 是合适的工具,优先使用简短文本而不是生成图片和视频,在学校账户中设置轻量的默认选项,并向学生讲清原因。把这些内容与保护儿童、数据保护和评估方面的规则放在一起,后者仍然优先。