简而言之
在手机、传感器和本地服务器上运行 AI,而不是在遥远的数据中心运行,可以减少传输数据的能耗并保护隐私。但这会把计算分散到数十亿台设备上,而这些设备的能耗和制造足迹很少有人测量。边缘 AI 是否更环保,取决于模型、设备、运行频率以及它替代的是什么,而相关证据仍然很少。
要点
- 边缘 AI 在采集数据的设备上或其附近运行模型,而不是在中心化的数据中心运行。
- 它避免了通过网络传输数据(网络传输要耗能),并能保护数据隐私,但放弃了共享、满负荷运行的服务器所具有的效率。
- 比较边缘推理与云端推理的研究结论不一;结果在很大程度上取决于模型、硬件和比较基准。
- 制造设备的碳成本很高,因此缩短设备寿命或要求购买新硬件的 AI 功能,其代价可能超过节省的能源。
- 边缘 AI 难以测量和监管,因为没有数据中心电表,没有 PUE,也没有报告义务。
关于 AI 能耗的讨论大多集中在数据中心,因为大电表都装在那里。但越来越多的 AI 运行在别处:手机、笔记本电脑、汽车、摄像头、门铃和工厂传感器上。这就是“边缘 AI”。它可能是解决 AI 环境足迹问题的办法之一,也可能只是把足迹转移到了没人统计的地方。
什么是边缘 AI?
边缘 AI 在采集数据的设备上或其附近运行模型,而不是把数据发送到遥远的数据中心。 “端侧”(on-device)AI 是其中的极端情形:模型直接在手机或传感器上运行。
边缘 AI 已经很常见:
- Apple 2025 年的技术报告介绍了一个约 30 亿参数的端侧语言模型,它采用 2 位量化感知训练进行压缩,从而能够装进手机和笔记本电脑并在其上运行。
- Google 的 Android AICore 服务让应用可以在受支持的 Pixel 和三星手机上使用 Gemini Nano,这是一个在设备上运行的模型。
- 工业摄像头、无人机、汽车和医疗设备在本地运行视觉和控制模型,因为它们不能等待网络连接,也不能依赖网络连接。
设备数量庞大且仍在增长。据 IoT Analytics 统计,截至 2024 年底,联网的物联网设备约有 185 亿台(不含手机、个人电脑和平板电脑),预计到 2030 年将达到约 390 亿台。
为什么边缘 AI 可能节能?
因为传输数据要耗能,而本地处理可以避免这部分能耗。 它还能让敏感数据留在原地。
国际能源署(International Energy Agency)估计,数据传输网络的用电量约占全球电力的 1–1.5%,与数据中心的占比相近。在采集数据的地方处理数据、只发送结果,可以减轻这部分负担。
但有一点需要注意。Mytton、Lundén 和 Malmodin 在 2024 年指出,网络能耗与数据量并不成正比:无论是否有数据流动,网络的大部分电力都会被消耗。少发送数据并不能一比一地节省能源,因此简单的“每千兆字节多少千瓦时”估算会高估节省量。
其他潜在好处:
- 隐私与主权。 从不离开设备、医院或电网运营商的数据,不会在传输中泄露,也不会被第三方使用。
- 韧性。 网络或云服务中断时,本地模型仍能继续工作。
- 时延。 无需往返传输即可得到结果,这对车辆和机械很重要。
为什么边缘 AI 可能代价更高?
因为小型设备的效率通常不如大型、共享、满负荷运行的服务器,而且制造设备的碳成本很高。
- 利用率。 数据中心的加速器可以把许多用户的请求批量处理,并保持忙碌。手机或传感器只运行一个用户的请求,然后就闲置下来。
- 制造。 Meta 的 Wu 及其同事在 2022 年报告说,来自硬件制造的隐含碳正在成为 AI 总体足迹的主要来源,并指出转移到边缘的计算可能运行在难以获得可再生能源的地方。需要新手机、或让旧手机显得卡顿的 AI 功能,会增加制造排放,其量可能超过节省的任何能源。
- 成倍放大。 每台设备的小成本,乘以数十亿台设备,就是一笔大成本。一个持续运行模型的门铃或摄像头,总能耗可能超过偶尔调用云端所需的能耗。
证据怎么说?
证据不一,并且在很大程度上取决于比较对象。 Li、Islam 和 Ren(2025)比较了生成式 AI 在云端和边缘设备上的推理,发现多个模型在边缘部署时环境足迹更小;在他们于一款新近手机上的测试中,能耗节省超过 90%。他们的云端基准并不是完全优化的生产服务,这一点很重要:高效数据中心里批处理良好的服务器是更难超越的基准。
追踪整个 AI 服务(从设备、经网络到数据中心)的端到端研究仍然很少,对大语言模型而言尤其如此。2026 年,英国一场由数学家、计算机科学家和业界人士参加的绿色 AI sandpit(研讨工作坊)把对数百万台设备上边缘 AI 净能耗效应的建模列为一个悬而未决的问题。
为什么边缘 AI 难以测量和监管?
因为没有统一的电表。 数据中心会报告能耗和电能使用效率(PUE),在欧盟,较大的数据中心必须向一个统一的机制报告。手机、传感器和桌边 AI 工作站则没有这样的义务。
这部分能耗即使显现出来,也只是电池消耗,或者分摊到数百万家庭和企业的、略高一些的电费。这样一来,很容易声称把工作转移到边缘节省了能源,却没有人能够核实。参见测量是瓶颈。
怎样让边缘 AI 更环保?
使用小而高效的模型,只在需要时运行,并运行在人们已经拥有的硬件上。 降低数据中心能耗的方法,在依靠电池的设备上更加重要:
- 压缩模型:剪枝、量化和蒸馏。参见让 AI 更高效的数学。
- 事件驱动处理:在有事发生时才唤醒模型,而不是持续运行。
- 需要用到云端时,发送摘要而不是原始数据。
- 支持旧设备,让 AI 功能不会迫使人们更换设备。
GreenCode 是一个关于节能软件的欧洲研究项目,它也提出了同样的观点:经过调优的小模型、用检索代替蛮力堆砌上下文、把任务路由给最便宜的胜任组件,以及合理调度,这些才是让 AI 在电池供电和受限硬件上可行的关键,因为在这些场景中根本没有多耗能的余地。
下一步怎么做
- 逐个案例决定使用边缘还是云端,可参考边缘还是云端?中的问题。
- 既要计算运行能耗,也要计算制造能耗,并避免需要新硬件的功能。
- 在测试中测量设备能耗,而不只是准确率和速度。
- 按事件运行模型而不是持续运行,并发送结果而不是原始数据。
- 如果您采购边缘 AI 产品,请向供应商索取每次推理的能耗和受支持的设备寿命。参见可持续 AI 采购。
常见问题
什么是边缘 AI?
在采集数据的设备(如手机、摄像头、汽车或工厂传感器)上或其附近运行的 AI,而不是在远程数据中心运行的 AI。
端侧 AI 对环境更好吗?
有时是。它可以省去把数据发送到云端的能耗,但小型设备的效率不如共享服务器,而且新的 AI 功能可能促使人们购买新硬件。净效果因具体情况而异。
端侧 AI 会耗尽手机电池吗?
在手机上运行模型和任何其他高负载应用一样会耗电。厂商使用经过压缩的小模型和专用芯片来降低耗电,但能源仍然被消耗了,而且不会出现在任何数据中心统计中。
来源
- Data centres and data transmission networks, International Energy Agency (2023)
- Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
- Number of connected IoT devices (State of IoT 2025), IoT Analytics (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Gemini Nano with Android AICore, Google, Android Developers (2024)
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Sustainable AI: environmental implications, challenges and opportunities, Wu et al., MLSys (2022)
- Green AI and energy-aware computing, GreenCode (2026)