要点
小さく、頻繁で、プライベートな作業や、応答の速さが大事な作業は端末で動かし、大きなモデルが必要な大きな作業やたまにしか行わない作業は、効率のよいクラウドサービスに任せましょう。適したモデルなら端末上で大きく省エネできるという研究もありますが、よく運用されたデータセンターは手ごわい比較対象です。できれば自分のケースで測ってみてください。
手順
- 作業に必要なものを書き出します。モデルの大きさ、実行の頻度、プライバシー、オフラインで動く必要があるかどうかです。
- 小さなモデル、頻繁な利用、プライベートなデータ、オフラインでの利用には端末を選びます。
- 大きなモデル、たまに行う重い作業、まとめて処理できる作業にはクラウドを選びます。
- 測定できる場合は、ネットワークも含めて、両方の選択肢で作業あたりのエネルギーを比べます。
- バッテリーの持ちやハードウェアの古さも、端末側のコストとして考えに入れます。
小さく頻繁な作業は端末に、大きくたまにしか行わない作業はクラウドに向いています。どちらかが常にグリーンということはありません。答えは、モデル、実行の頻度、そしてそれぞれの側の効率によって決まります。
根拠は何を示していますか?
結果はまちまちです。Li、Islam、Ren は、いくつかの生成モデルをエッジで動かすとフットプリントが減り、最近のスマートフォンでの試験では90%を超える省エネになったと報告しました。ただし、比較に使ったクラウドは十分に最適化された本番サービスではありませんでした。効率のよいデータセンターで、リクエストをうまくまとめて処理するサーバーに勝つのはもっと難しいのです。数学者、計算機科学者、産業界が集まった 2026年の英国のグリーン AI サンドピット(集中討議型ワークショップ)では、何百万台もの端末に分散した AI の正味のエネルギー効果は未解決の問題とされました。
どう選べばいいですか?
| 端末が向いている場合 | クラウドが向いている場合 |
|---|---|
| 小さなモデル。たとえば Apple の約30億パラメータの端末上モデル | 手元に収まらない大きなモデル |
| 頻繁に動く。たとえば写真を撮るたび、キーを打つたび | たまにしか動かない |
| プライベートなデータや機密性の高いデータ | まとめて処理したり、時間を決めて実行したりできる作業 |
| オフラインで、またはすぐに動く必要がある | 最新で最も高性能なモデルが必要 |
Green Software Foundation は、AI モデルをエッジで動かすことをグリーンソフトウェアのパターンの1つに挙げていますが、決まりではなく、適したモデルのための選択肢としてです。
よくある間違い
- 手元で動かせばタダだと思い込む。バッテリーを使いますし、新しいハードウェアへの買い替えを促すこともあります。
- ネットワークを無視する。大きなファイルをクラウドに送ることにもコストがあります。
- 端末には大きすぎるモデルを動かす。遅くなり、電力も消耗します。
より詳しい判断の手引きは、エッジかクラウドかとエッジの AIをご覧ください。
出典
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
関連
エッジかクラウドか:AI はどこで動かすべきか
端末上・エッジの AI と中央のデータセンターを、エネルギー、ネットワーク、ハードウェア、プライバシー、レジリエンスの観点で比べ、段階的に判断する方法を紹介します。
エッジ AI はよりグリーンなのか、それとも見えにくくなるだけなのか
端末上やエッジでの AI はネットワークやデータセンターのエネルギーを節約できますが、誰も測定しない何十億台もの機器に計算を分散させます。わかっていることと、まだわからないことを整理します。
AI モデルを自分のパソコンで動かすには?
Ollama や llama.cpp などで、オープンな AI モデルを自分のノートパソコンやサーバーで動かす方法、収まる量子化モデルの選び方、エネルギーの測り方です。
エッジデバイスで動くくらい AI モデルを小さくするには?
スマートフォン、センサー、組み込みボード向けにモデルを小さくする方法です。小さく始め、蒸留、量子化、枝刈りをし、実機で精度とエネルギーを試します。