greenai.guide

首页 › 文章 › 边缘 AI:更环保,还是只是更不显眼?

文章

边缘 AI:更环保,还是只是更不显眼?

更新于 · 阅读约需 1 分钟

简而言之

在手机、传感器和本地服务器上运行 AI,而不是在遥远的数据中心运行,可以减少传输数据的能耗并保护隐私。但这会把计算分散到数十亿台设备上,而这些设备的能耗和制造足迹很少有人测量。边缘 AI 是否更环保,取决于模型、设备、运行频率以及它替代的是什么,而相关证据仍然很少。

要点

  • 边缘 AI 在采集数据的设备上或其附近运行模型,而不是在中心化的数据中心运行。
  • 它避免了通过网络传输数据(网络传输要耗能),并能保护数据隐私,但放弃了共享、满负荷运行的服务器所具有的效率。
  • 比较边缘推理与云端推理的研究结论不一;结果在很大程度上取决于模型、硬件和比较基准。
  • 制造设备的碳成本很高,因此缩短设备寿命或要求购买新硬件的 AI 功能,其代价可能超过节省的能源。
  • 边缘 AI 难以测量和监管,因为没有数据中心电表,没有 PUE,也没有报告义务。

关于 AI 能耗的讨论大多集中在数据中心,因为大电表都装在那里。但越来越多的 AI 运行在别处:手机、笔记本电脑、汽车、摄像头、门铃和工厂传感器上。这就是“边缘 AI”。它可能是解决 AI 环境足迹问题的办法之一,也可能只是把足迹转移到了没人统计的地方。

什么是边缘 AI?

边缘 AI 在采集数据的设备上或其附近运行模型,而不是把数据发送到遥远的数据中心。 “端侧”(on-device)AI 是其中的极端情形:模型直接在手机或传感器上运行。

边缘 AI 已经很常见:

  • Apple 2025 年的技术报告介绍了一个约 30 亿参数的端侧语言模型,它采用 2 位量化感知训练进行压缩,从而能够装进手机和笔记本电脑并在其上运行。
  • Google 的 Android AICore 服务让应用可以在受支持的 Pixel 和三星手机上使用 Gemini Nano,这是一个在设备上运行的模型。
  • 工业摄像头、无人机、汽车和医疗设备在本地运行视觉和控制模型,因为它们不能等待网络连接,也不能依赖网络连接。

设备数量庞大且仍在增长。据 IoT Analytics 统计,截至 2024 年底,联网的物联网设备约有 185 亿台(不含手机、个人电脑和平板电脑),预计到 2030 年将达到约 390 亿台。

为什么边缘 AI 可能节能?

因为传输数据要耗能,而本地处理可以避免这部分能耗。 它还能让敏感数据留在原地。

国际能源署(International Energy Agency)估计,数据传输网络的用电量约占全球电力的 1–1.5%,与数据中心的占比相近。在采集数据的地方处理数据、只发送结果,可以减轻这部分负担。

但有一点需要注意。Mytton、Lundén 和 Malmodin 在 2024 年指出,网络能耗与数据量并不成正比:无论是否有数据流动,网络的大部分电力都会被消耗。少发送数据并不能一比一地节省能源,因此简单的“每千兆字节多少千瓦时”估算会高估节省量。

其他潜在好处:

  • 隐私与主权。 从不离开设备、医院或电网运营商的数据,不会在传输中泄露,也不会被第三方使用。
  • 韧性。 网络或云服务中断时,本地模型仍能继续工作。
  • 时延。 无需往返传输即可得到结果,这对车辆和机械很重要。

为什么边缘 AI 可能代价更高?

因为小型设备的效率通常不如大型、共享、满负荷运行的服务器,而且制造设备的碳成本很高。

  • 利用率。 数据中心的加速器可以把许多用户的请求批量处理,并保持忙碌。手机或传感器只运行一个用户的请求,然后就闲置下来。
  • 制造。 Meta 的 Wu 及其同事在 2022 年报告说,来自硬件制造的隐含碳正在成为 AI 总体足迹的主要来源,并指出转移到边缘的计算可能运行在难以获得可再生能源的地方。需要新手机、或让旧手机显得卡顿的 AI 功能,会增加制造排放,其量可能超过节省的任何能源。
  • 成倍放大。 每台设备的小成本,乘以数十亿台设备,就是一笔大成本。一个持续运行模型的门铃或摄像头,总能耗可能超过偶尔调用云端所需的能耗。

证据怎么说?

证据不一,并且在很大程度上取决于比较对象。 Li、Islam 和 Ren(2025)比较了生成式 AI 在云端和边缘设备上的推理,发现多个模型在边缘部署时环境足迹更小;在他们于一款新近手机上的测试中,能耗节省超过 90%。他们的云端基准并不是完全优化的生产服务,这一点很重要:高效数据中心里批处理良好的服务器是更难超越的基准。

追踪整个 AI 服务(从设备、经网络到数据中心)的端到端研究仍然很少,对大语言模型而言尤其如此。2026 年,英国一场由数学家、计算机科学家和业界人士参加的绿色 AI sandpit(研讨工作坊)把对数百万台设备上边缘 AI 净能耗效应的建模列为一个悬而未决的问题。

为什么边缘 AI 难以测量和监管?

因为没有统一的电表。 数据中心会报告能耗和电能使用效率(PUE),在欧盟,较大的数据中心必须向一个统一的机制报告。手机、传感器和桌边 AI 工作站则没有这样的义务。

这部分能耗即使显现出来,也只是电池消耗,或者分摊到数百万家庭和企业的、略高一些的电费。这样一来,很容易声称把工作转移到边缘节省了能源,却没有人能够核实。参见测量是瓶颈。

怎样让边缘 AI 更环保?

使用小而高效的模型,只在需要时运行,并运行在人们已经拥有的硬件上。 降低数据中心能耗的方法,在依靠电池的设备上更加重要:

  • 压缩模型:剪枝、量化和蒸馏。参见让 AI 更高效的数学。
  • 事件驱动处理:在有事发生时才唤醒模型,而不是持续运行。
  • 需要用到云端时,发送摘要而不是原始数据。
  • 支持旧设备,让 AI 功能不会迫使人们更换设备。

GreenCode 是一个关于节能软件的欧洲研究项目,它也提出了同样的观点:经过调优的小模型、用检索代替蛮力堆砌上下文、把任务路由给最便宜的胜任组件,以及合理调度,这些才是让 AI 在电池供电和受限硬件上可行的关键,因为在这些场景中根本没有多耗能的余地。

下一步怎么做

  • 逐个案例决定使用边缘还是云端,可参考边缘还是云端?中的问题。
  • 既要计算运行能耗,也要计算制造能耗,并避免需要新硬件的功能。
  • 在测试中测量设备能耗,而不只是准确率和速度。
  • 按事件运行模型而不是持续运行,并发送结果而不是原始数据。
  • 如果您采购边缘 AI 产品,请向供应商索取每次推理的能耗和受支持的设备寿命。参见可持续 AI 采购。

常见问题

什么是边缘 AI?

在采集数据的设备(如手机、摄像头、汽车或工厂传感器)上或其附近运行的 AI,而不是在远程数据中心运行的 AI。

端侧 AI 对环境更好吗?

有时是。它可以省去把数据发送到云端的能耗,但小型设备的效率不如共享服务器,而且新的 AI 功能可能促使人们购买新硬件。净效果因具体情况而异。

端侧 AI 会耗尽手机电池吗?

在手机上运行模型和任何其他高负载应用一样会耗电。厂商使用经过压缩的小模型和专用芯片来降低耗电,但能源仍然被消耗了,而且不会出现在任何数据中心统计中。

来源

  1. Data centres and data transmission networks, International Energy Agency (2023)
  2. Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
  3. Number of connected IoT devices (State of IoT 2025), IoT Analytics (2025)
  4. Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
  5. Gemini Nano with Android AICore, Google, Android Developers (2024)
  6. A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
  7. Sustainable AI: environmental implications, challenges and opportunities, Wu et al., MLSys (2022)
  8. Green AI and energy-aware computing, GreenCode (2026)

加入我们

帮助减少 AI 对地球的影响

通过电子邮件获取新指南、资助征集和名录收录信息,大约每月一次。您也可以将您的产品、课程、博士岗位或研究添加到名录中。

不做跟踪。一键退订。 其他加入方式 · 隐私