# 省エネ AI：AI の消費電力を減らす方法

> 省エネ AI の実践ガイド。AI の消費電力を最も大きく減らす手段を、効果の大きい順に紹介します。小さなモデルや量子化から、ルーティング、キャッシュ、実行場所の選び方まで。

Source: https://greenai.guide/ja/記事/省エネ-ai-ai-の消費電力を減らす方法/  
Updated: 2026-11-20

## 要点

省エネ AI とは、より少ない電力で同じ有用な結果を得ることです。最大の節約は通常、より小さなモデルやタスク特化型のモデルを選ぶこと、必要のないときは長い推論をオフにすること、そしてクリーンな電力網につながった効率のよいデータセンターで動かすことから生まれます。そのうえで、量子化、蒸留、ルーティング、キャッシュ、バッチ処理などの手法が、AI のエネルギーをさらに減らします。公表された研究では、個々の手段で数十パーセントから 90% 以上の節約が報告されており、組み合わせればはるかに大きくなります。

## 要点

- UNESCO と UCL は、小さなタスク特化型モデルによってエネルギー使用量を最大 90% 削減でき、プロンプトと応答を短くすることで 50% 以上削減できることを示しました。
- Hugging Face の AI Energy Score のテストでは、推論モデルは標準的なモデルより平均で 30 倍多くのエネルギーを使いました。あるモデルでは、推論をオンにするとエネルギーが 150〜700 倍に増えました。
- 2024 年の研究では、画像 1,000 枚の生成に約 2.9 kWh かかったのに対し、テキスト分類 1,000 件では 0.002 kWh でした。
- Google の研究者は、モデル、データセンター、プロセッサーの選択を組み合わせることで、訓練のカーボンフットプリントを最大で約 100〜1,000 分の 1 に減らせると推計しました。
- 効率的なサービングは重要です。vLLM のメモリ管理は同じレイテンシで 2〜4 倍のスループットを実現し、投機的デコーディングはあるモデルを出力を変えずに 2〜3 倍高速にしました。
- ある研究では、短い訓練ジョブを低炭素の時間帯に開始すると排出量が最大 80% 減りましたが、長いジョブでは 1.5% 未満の削減にとどまりました。

省エネ AI とは、必要な結果をより少ない電力で得られる AI のことです。このページでは、AI のエネルギーを減らす主な方法を、通常の節約効果のおおよその大きい順に、それぞれの裏付けとなる公表された数値とともに紹介します。

## AI のエネルギー使用を減らす最も手っ取り早い方法は何ですか？ {#what-is-the-quickest-way-to-make-ai-use-less-energy}

**適した最も小さなモデルを使い、必要のない重いモードはオンにしないことです。** エネルギーは回答 1 件ごとに必要な計算量に比例するため、モデルの選択は通常ほかのどの手段よりも効果が大きくなります。UNESCO とユニバーシティ・カレッジ・ロンドン（UCL）による 2025 年の報告書は、小さなタスク特化型モデルによってエネルギー使用量を最大 90% 削減でき、プロンプトと応答を短くすることで 50% 以上削減できることを示しました。報告書によれば、こうした対策を組み合わせると、エネルギー消費を最大 90% 削減できます。

2 つ目の大きな手段は場所です。Google の研究者は 2021 年に、モデル、データセンター、プロセッサーの選択を組み合わせることで、訓練のカーボンフットプリントを最大で約 100〜1,000 分の 1 に減らせると推計しました。効率的な AI モデルを効率的な場所で動かすことに、効果の大部分があります。

## 最も節約できる手段はどれですか？ ランキング {#which-levers-save-the-most-a-ranked-list}

**以下の順序は、公表された研究での典型的な節約の大きさを反映しており、大きいものから並べています。** 実際の結果はタスク、必要な品質、処理を動かす場所によって変わるため、変更の前後で測定しましょう（[AI のエネルギーと炭素の測り方](/ja/グッドプラクティス/ai-のエネルギーと炭素を測る方法/)をご覧ください）。

### 1. 必要のない仕事に生成 AI を使わない {#1-don-t-use-generative-ai-for-jobs-it-isn-t-needed-for}

**生成は、より単純なタスクよりはるかにコストがかかります。** 2024 年の研究で、Sasha Luccioni、Yacine Jernite、Emma Strubell は、画像生成が 1,000 枚あたり平均約 2.9 kWh であるのに対し、テキスト分類は 1,000 件あたり 0.002 kWh であることを測定しました。要求 1 件あたり 1,000 倍をはるかに超えます。また、同じタスクでも、汎用の生成モデルはタスク特化型のシステムより桁違いにコストがかかることも示しました。

動画はさらに重くなります。オープンなテキストから動画を生成するモデルについての 2025 年の研究では、あるモデルで短いクリップ 1 本にほぼ 90 Wh、より大きなモデルで 415 Wh 超が測定され、エネルギーは動画のサイズと長さの 2 乗に比例して増えました。[タスクに AI が必要かを判断する方法](/ja/ハウツー/この作業にそもそも-ai-は必要/)と[LLM の代わりに古典的な機械学習を選ぶ方法](/ja/ハウツー/llm-の代わりに従来の機械学習で十分か判断するには/)をご覧ください。

### 2. モデルを適切な大きさにする {#2-right-size-the-model}

**品質の基準を満たす最も小さなモデルを選びましょう。** UNESCO と UCL の知見に加え、カスケードの研究は、どれだけの余地があるかを示しています。安いモデルから試し、必要なときだけ上位のモデルに切り替える FrugalGPT は、最大 98% 低いコストで GPT-4 と同等の性能を達成しました。コストはエネルギーではありませんが、ホスティングされたモデルでは、計算量のそれなりの目安になります。[仕事に合ったモデルを選ぶ](/ja/グッドプラクティス/用途に合ったモデルを選ぶ/)、[より小さな AI モデルを選ぶ方法](/ja/ハウツー/もっと小さい-ai-モデルを選ぶにはどうすればいい/)、[タスク特化型のモデルを見つける方法](/ja/ハウツー/汎用のチャットボットではなく-タスク専用の-ai-モデルを探すには/)をご覧ください。

### 3. 推論モードは必要なときだけ使う {#3-use-reasoning-modes-only-when-needed}

**「思考」モードはエネルギーを何倍にもします。** 2025 年後半の Hugging Face の AI Energy Score のテストでは、推論モデルは標準的なモデルより平均で 30 倍多くのエネルギーを使い、同じモデルでも推論をオンにするとオフのときより 150〜700 倍多くのエネルギーを使いました。ループの中で何度も呼び出しを行うエージェントも、同じように積み重なりえます。[推論モードを必要なときだけ使う方法](/ja/ハウツー/ai-の-思考-モードや推論モードはいつ使えばいい/)と[エージェント型 AI とトークンの無駄](/ja/記事/エージェント型-ai-とトークンの無駄/)をご覧ください。

### 4. 効率的なハードウェア、データセンター、低炭素の場所を選ぶ {#4-choose-efficient-hardware-data-centres-and-low-carbon-locations}

**処理をどこで、何の上で動かすかによって、炭素は数倍変わりえます。** Jesse Dodge らは、同じ BERT モデルの訓練が、最も効率的なクラウドリージョンでは約 7 kg、最も効率の悪いリージョンでは約 26 kg の CO₂ を排出し、ほぼ 4 倍の差があることを示しました。ハードウェアも改良が続いています。Epoch AI は、最先端の機械学習用チップのエネルギー効率が毎年約 40% 向上していると推計しています。[グリーン AI のためのホスティングとデータセンター](/ja/グッドプラクティス/グリーン-ai-のホスティングとデータセンター/)、[低炭素のクラウドリージョンを選ぶ方法](/ja/ハウツー/炭素排出の少ないクラウドリージョンを選ぶには/)、[AI のための省エネなハードウェアを選ぶ方法](/ja/ハウツー/ai-用の省エネなハードウェアはどう選べばいい/)をご覧ください。

### 5. プロンプト、コンテキスト、出力を短くする {#5-shorten-prompts-context-and-outputs}

**エネルギーは、モデルが読み書きする量に応じて増えます。** Epoch AI は、典型的な ChatGPT のクエリを約 0.3 Wh と推計しており、入力が 10,000 トークンなら約 2.5 Wh、100,000 トークンならほぼ 40 Wh に増えます。長い会話を送り直すことや長い回答を求めることが、日常的な原因です。[エネルギー消費の少ないプロンプトを書く方法](/ja/ハウツー/エネルギーを使わないプロンプトの書き方は/)、[LLM が書く量を制限する方法](/ja/ハウツー/llm-の出力の長さを制限するには/)、[会話全体を送り直すのをやめる方法](/ja/ハウツー/チャットボットが毎回会話全体を送り直すのを止めるには/)をご覧ください。

### 6. 要求を適切なモデルに振り分ける {#6-route-requests-to-the-right-model}

**簡単な要求は小さなモデルに、難しい要求は大きなモデルに送りましょう。** ルーティングの研究は大きな節約を報告しています。Hybrid LLM は、応答の品質を落とさずに大きなモデルへの呼び出しを最大 40% 減らし、RouteLLM は、品質を損なわずにコストを 2 分の 1 以下に減らした場合もありました。[モデルルーティングを設定する方法](/ja/ハウツー/リクエストを小さな-ai-モデルに振り分けるには/)と[生成よりオーケストレーションを](/ja/記事/生成よりオーケストレーション/)をご覧ください。

### 7. モデルを量子化する {#7-quantise-the-model}

**1 つの数値をより少ないビット数で保存し、計算しましょう。** [量子化](/ja/用語集/#quantisation)は、大規模なモデルでエネルギーの大半を占めるメモリとデータ移動を減らします。LLM.int8() は、完全な精度での性能を保ちながら推論に必要なメモリを半分にし、UNESCO と UCL の報告書は、量子化などの圧縮でエネルギーを最大 44% 節約できることを示しました。[モデルを量子化する方法](/ja/ハウツー/ai-モデルを量子化するには/)をご覧ください。

### 8. 大きなモデルを小さなモデルに蒸留する {#8-distil-a-large-model-into-a-small-one}

**小さな「生徒」モデルを、大きな「教師」モデルをまねるように訓練しましょう。** [蒸留](/ja/用語集/#distillation)は、多くの効率的な AI モデルの作り方です。DistilBERT は BERT より 40% 小さく 60% 高速でありながら、言語理解能力の 97% を保ちました。[大きなモデルを小さなモデルに蒸留する方法](/ja/ハウツー/大きな-ai-モデルを小さなモデルに蒸留するには/)をご覧ください。

### 9. 枝刈りをしてスパース性を活用する {#9-prune-and-exploit-sparsity}

**モデルに必要のない重みを取り除きましょう。** SparseGPT は、非常に大規模な言語モデルを、再訓練なしで一度に少なくとも 50% の[スパース性](/ja/用語集/#sparsity)まで[枝刈り](/ja/用語集/#pruning)でき、精度の低下もわずかであることを示しました。エネルギーの節約は、ソフトウェアとハードウェアがゼロを飛ばせるかどうかによるため、実際の枝刈りの節約は、見出しのスパース性の数字が示すより小さくなります。[ニューラルネットワークを枝刈りする方法](/ja/ハウツー/ニューラルネットワークを枝刈り-プルーニング-するには/)をご覧ください。

### 10. キャッシュ、バッチ処理、効率的なサービング {#10-cache-batch-and-serve-efficiently}

**処理の繰り返しを避け、ハードウェアを忙しく保ちましょう。** サービング用のソフトウェアは重要です。vLLM のページ単位の [KV キャッシュ](/ja/用語集/#kv-cache)管理は、同じレイテンシでスループットを 2〜4 倍に高め、投機的デコーディングは T5-XXL を出力を変えずに 2〜3 倍高速にしました。提供企業は再利用に応じて料金を設定しています。OpenAI の Batch API は通常の要求より 50% 安く、Anthropic はキャッシュされたプロンプトの読み込みに通常の入力料金の 10% を課金します。[LLM の呼び出しをキャッシュする方法](/ja/ハウツー/キャッシュで-llm-呼び出しのエネルギーを減らすには/)、[AI の要求をバッチ処理する方法](/ja/ハウツー/省エネのために-ai-へのリクエストをまとめて処理するには/)、[投機的デコーディングを使う方法](/ja/ハウツー/投機的デコーディングで大きなモデルを速くするには/)、[モデルのサービングにかかるエネルギーを減らす方法](/ja/ハウツー/本番環境でモデルを動かすエネルギーを減らすには/)をご覧ください。

### 11. 柔軟な処理をよりクリーンな時間帯に予定する {#11-schedule-flexible-work-for-cleaner-times}

**カーボンアウェアなスケジューリングは、エネルギーではなく排出量を減らし、短く柔軟なジョブで最もよく効きます。** Dodge らの研究では、短い訓練ジョブの開始を低炭素の時間帯まで遅らせると、米国のある地域で排出量が最大 80% 減りましたが、長いジョブでは 1.5% 未満の削減でした。長いジョブを一時停止しては再開すると、最大約 25% の節約になりました。[電力網がよりグリーンなときに訓練を予定する方法](/ja/ハウツー/電力網がクリーンな時間帯に-ai-の学習を実行するには/)と[カーボンアウェアコンピューティング](/ja/用語集/#carbon-aware-computing)をご覧ください。

## 省エネ AI の手段の一覧 {#energy-efficient-ai-levers-at-a-glance}

**この表は、各手段、それを使える人、出典で報告された節約をまとめたものです。** 数値は基準の異なる別々の研究によるものなので、足し合わせられる合計ではなく、規模の目安として読んでください。

| 手段 | 使える人 | 報告されている典型的な節約 | 出典 |
|---|---|---|---|
| 生成モデルの代わりにタスク特化型モデルを使う | 開発者、組織 | 分類などのタスクで桁違い | Luccioni、Jernite、Strubell、2024 年 |
| より小さなタスク特化型モデル | 利用者、開発者 | エネルギー最大 90% | UNESCO と UCL、2025 年 |
| 必要なとき以外は推論をオフ | 利用者、開発者 | あるモデルで 150〜700 分の 1、モデル全体の平均で 30 分の 1 | Hugging Face AI Energy Score、2025 年 |
| モデル、データセンター、プロセッサーの組み合わせ | 開発者、組織 | 炭素が最大約 100〜1,000 分の 1（訓練） | Patterson ら、Google、2021 年 |
| 低炭素のクラウドリージョン | 開発者、組織 | 最良と最悪のリージョンで約 3.7 倍の差 | Dodge ら、2022 年 |
| プロンプトと応答を短くする | 利用者、開発者 | エネルギー 50% 超 | UNESCO と UCL、2025 年 |
| ルーティング | 開発者 | 大きなモデルへの呼び出しが最大 40% 減 | Ding ら、2024 年 |
| 量子化 | 開発者 | エネルギー最大 44%、メモリ半分 | UNESCO と UCL、2025 年、Dettmers ら、2022 年 |
| 蒸留 | 開発者 | 40% 小さく、60% 高速、能力の 97% を保持 | Sanh ら、2019 年 |
| 枝刈り | 開発者 | 重みの少なくとも 50% を削除 | Frantar と Alistarh、2023 年 |
| 効率的なサービングとバッチ処理 | 開発者 | スループット 2〜4 倍 | Kwon ら、2023 年 |
| 投機的デコーディング | 開発者 | 2〜3 倍高速、出力は同じ | Leviathan ら、2022 年 |
| カーボンアウェアな開始時刻 | 開発者、研究者 | 最大 80%（短いジョブ）、1.5% 未満（長いジョブ） | Dodge ら、2022 年 |
| パラメーター効率のよいファインチューニング（LoRA） | 開発者、研究者 | 訓練可能なパラメーターが 10,000 分の 1、GPU メモリが 3 分の 1 | Hu ら、2021 年 |

## 利用者が AI のエネルギーを減らすにはどうすればよいですか？ {#how-can-users-reduce-ai-energy}

**軽い選択肢を選び、求めることを減らしましょう。** ほとんどの人はデータセンターを変えることはできませんが、何を求めるかは変えられます。

- 日常的なタスクには高速なモデルや「mini」モデルを使い、最大のモデルや推論モードは難しい問題のためにとっておきましょう。
- 要求をはっきりさせ、短い回答を求めましょう。とても長い会話を続けるのではなく、新しいチャットを始めましょう。
- 何度も再生成するのは避け、代わりに要求を練り直しましょう。[AI の回答の再生成をやめる方法](/ja/ハウツー/ai-の回答を何度も再生成してしまうのをやめるには/)をご覧ください。
- 画像や動画は必要なときだけ生成しましょう。[AI による画像・動画生成の影響を減らす方法](/ja/ハウツー/ai-で画像や動画を作るときの環境負荷を減らすには/)をご覧ください。
- 使わない AI 機能はオフにしましょう。[AI を効率よく使う：日常の習慣](/ja/グッドプラクティス/ai-を効率よく使う-日々の習慣/)をご覧ください。

規模の目安として、Google は 2025 年に、Gemini のテキストプロンプト（中央値）が 0.24 Wh を使ったと報告しました。個々のテキストプロンプトは小さく、総量を生むのは非常に多くの利用回数と、上に挙げたより重いタスクです。[一般の方向けガイド](/ja/ガイド/グリーン-ai-すべての人のためのやさしいガイド/)をご覧ください。

## 開発者が効率的な AI モデルとシステムを作るにはどうすればよいですか？ {#how-can-developers-build-efficient-ai-models-and-systems}

**まず大きさを適切にし、次にサービングを最適化し、そして測定しましょう。** 実践的な順序は次のとおりです。

1. 自分のデータで品質の基準を設け、候補となる最も小さなモデルをそれに照らしてテストします。
2. ルーティングやカスケードを加え、小さなモデルで対応できないものだけを大きなモデルが扱うようにします。
3. 量子化し、利用量が多ければ蒸留も検討します。
4. 効率的なランタイムでサービングします。バッチ処理、ページ単位の KV キャッシュ、プロンプトキャッシュ、投機的デコーディングです。
5. 出力の長さとエージェントのループに上限を設けます。[AI エージェントによるトークンの無駄をなくす方法](/ja/ハウツー/ai-エージェントがトークンを無駄遣いしないようにするには/)をご覧ください。
6. ゼロから訓練するのではなく、LoRA でファインチューニングします。[モデルをゼロから訓練するのを避ける方法](/ja/ハウツー/ai-モデルをゼロから学習せずに済ませるには/)をご覧ください。
7. 変更の前後でタスクごとのエネルギーを測定します。[タスクごとの AI のエネルギーを追跡する方法](/ja/ハウツー/ai-のエネルギーを合計ではなくタスクごとに追跡するには/)をご覧ください。

詳しくは、[効率的な AI の訓練と推論](/ja/グッドプラクティス/ai-の効率的な学習と推論/)と[効率的な AI のための数学](/ja/記事/ai-をより効率的にする数学/)をご覧ください。

## 組織が大規模に AI のエネルギーを減らすにはどうすればよいですか？ {#how-can-organisations-reduce-ai-energy-at-scale}

**デフォルトを設定し、賢く調達し、測定しましょう。** 組織にとって最も大きな手段は、どのモデルをデフォルトにするか、どの機能をデフォルトでオンにするか、ワークロードをどこで動かすかです。

- 社内ツールでは、小さく高速なモデルをデフォルトにし、より大きなモデルは要望に応じて使えるようにしましょう。
- 調達先に、タスクごとのエネルギーとデータセンターの数値を求めましょう。[持続可能な AI の調達](/ja/グッドプラクティス/持続可能な-ai-調達/)をご覧ください。
- クリーンな電力を使う提供企業とリージョンを選びましょう。[ホスティングとデータセンター](/ja/グッドプラクティス/グリーン-ai-のホスティングとデータセンター/)をご覧ください。
- 方針を定め、スタッフを研修しましょう。[グリーン AI の方針の書き方](/ja/グッドプラクティス/グリーン-ai-ポリシーの書き方/)と[スタッフに AI を効率よく使う研修をする方法](/ja/ハウツー/職員に-ai-を効率よく使ってもらうための研修はどうすればいい/)をご覧ください。
- 基準値と目標を設定しましょう。[AI のエネルギー節約の基準値を設定する方法](/ja/ハウツー/ai-の省エネ効果を証明するためのベースラインはどう決める/)をご覧ください。

## 省エネ AI は総エネルギー使用量を減らしますか？ {#does-energy-efficient-ai-reduce-total-energy-use}

**総利用量が効率の向上より速く増えない場合に限ります。** Google は、Gemini のプロンプト（中央値）のエネルギーが 1 年で 33 分の 1 に下がったと報告しましたが、世界のデータセンターの電力使用量は増え続けています。利用がそれより速く伸びているからです。これが[リバウンド効果](/ja/用語集/#rebound-effect)です。効率は各タスクのコストを下げ、充足はそのタスクが必要かどうかを問います。[効率は充足ではない](/ja/記事/効率は充足ではない-ai-におけるリバウンド効果/)が説明するとおり両方が必要であり、[効率化の成果が打ち消されるのを防ぐ方法](/ja/ハウツー/ai-の効率化の成果が利用増加で相殺されないようにするには/)が実践的な手順を示しています。より広い全体像については、[AI とデータセンターの電力需要](/ja/記事/ai-とデータセンターの電力需要/)と[AI のエネルギー統計](/ja/記事/ai-の消費電力-エネルギー統計-2026-年-11-月更新/)をご覧ください。

## 次にすること {#what-to-do-next}

- より小さなモデルが品質の基準を満たすかテストし、満たすなら切り替えましょう。
- 推論、画像、動画のモードは、必要のない場面ではデフォルトでオフにしましょう。
- 実際の利用量がある AI 機能には、キャッシュ、バッチ処理、ルーティングを加えましょう。
- 新しいワークロードには、低炭素のリージョンと効率的な提供企業を選びましょう。
- 変更のたびに前後でタスクごとのエネルギーを測定し、結果を報告しましょう。
- [コンサルタント一覧](/ja/コンサルタント/)で支援を探すか、[講座](/ja/講座/)でさらに学びましょう。

## よくある質問

### 省エネ AI とは何ですか？

より小さなモデルやより適したモデル、無駄のないソフトウェア、効率的なハードウェアとデータセンター、そして価値を生む場面に限って AI を使うことによって、必要な結果をより少ない電力で得る AI のことです。省エネ AI はグリーン AI の一部であり、グリーン AI は全体の利用量が妥当かどうかも問います。

### AI のエネルギー使用を減らすにはどうすればよいですか？

利用者としては、より小さいモデルや高速なモデルを選び、プロンプトと求める回答を短くし、再生成を避け、推論や画像・動画のモードは必要なときだけ使いましょう。開発者としては、モデルを適切な大きさにしたうえで、量子化、ルーティング、キャッシュ、バッチ処理を加え、低炭素のリージョンで動かしましょう。

### 小さな AI モデルのほうがエネルギー効率がよいのですか？

そのモデルが得意とするタスクなら、たいていはそうです。UNESCO と UCL は、適したタスクでは小さなタスク特化型モデルがエネルギー使用量を最大 90% 削減できると報告しています。自分の仕事で品質を確かめましょう。何度もやり直す必要がある小さなモデルでは、何も節約できないかもしれません。

### 量子化でエネルギーは節約できますか？

たいていはできます。モデルが動かすデータが減り、必要なメモリも少なくなるからです。UNESCO と UCL は、量子化などのモデル圧縮で最大 44% の節約を報告しており、LLM.int8() は推論に必要なメモリを半分にしました。節約の大きさは、ハードウェアが低い精度に対応しているかどうかによります。

### 最もエネルギーを使う AI はどれですか？

動画生成、次いで画像生成と、長い推論やエージェントのタスクです。2025 年の研究では、あるオープンモデルは短い動画クリップ 1 本にほぼ 90 Wh、より大きなモデルは 415 Wh 超を使いました。また推論モデルは、標準的なモデルより平均で約 30 倍多くのエネルギーを使いました。

### 効率化は AI の総エネルギー使用量を本当に減らしますか？

自動的には減りません。安く速くなった AI は、より多く使われる傾向があります。これがリバウンド効果です。効率はタスク 1 件あたりのエネルギーを減らします。総量を抑えるには充足、つまり価値のある場面で AI を使うことも必要です。

### AI の提供企業は、プロンプトキャッシュやバッチ処理でエネルギーを節約していますか？

繰り返しの処理を避けており、だからこそ料金を安くしています。OpenAI はバッチジョブを 50% 割引し、いくつかの提供企業ではキャッシュされた入力の料金が通常のおよそ 10 分の 1 です。料金は節約された計算量の大まかな目安であり、エネルギーの測定値ではありません。

## 出典

- [AI large language models: new report shows small changes can reduce energy use by 90%](https://www.unesco.org/en/articles/ai-large-language-models-new-report-shows-small-changes-can-reduce-energy-use-90), UNESCO and University College London (2025)
- [AI Energy Score v2: refreshed leaderboard, now with reasoning](https://huggingface.co/blog/sasha/ai-energy-score-v2), Hugging Face (Luccioni and Gamazaychikov) (2025)
- [Power hungry processing: watts driving the cost of AI deployment?](https://arxiv.org/abs/2311.16863), Luccioni, Jernite and Strubell (FAccT 2024) (2024)
- [Video killed the energy budget: characterizing the latency and power regimes of open text-to-video models](https://arxiv.org/abs/2509.19222), Delavande, Pierrard and Luccioni (2025)
- [How much energy does ChatGPT use?](https://epoch.ai/gradient-updates/how-much-energy-does-chatgpt-use), Epoch AI (2025)
- [Carbon emissions and large neural network training](https://arxiv.org/abs/2104.10350), Patterson et al., Google (2021)
- [Good news about the carbon footprint of machine learning training](https://research.google/blog/good-news-about-the-carbon-footprint-of-machine-learning-training/), Google Research (2022)
- [Measuring the carbon intensity of AI in cloud instances](https://arxiv.org/abs/2206.05229), Dodge et al. (FAccT 2022) (2022)
- [Measuring the environmental impact of delivering AI at Google scale](https://arxiv.org/abs/2508.15734), Elsworth et al., Google (2025)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al., Hugging Face (2019)
- [LLM.int8(): 8-bit matrix multiplication for transformers at scale](https://arxiv.org/abs/2208.07339), Dettmers et al. (2022)
- [SparseGPT: massive language models can be accurately pruned in one-shot](https://arxiv.org/abs/2301.00774), Frantar and Alistarh (2023)
- [FrugalGPT: how to use large language models while reducing cost and improving performance](https://arxiv.org/abs/2305.05176), Chen, Zaharia and Zou (2023)
- [Hybrid LLM: cost-efficient and quality-aware query routing](https://arxiv.org/abs/2404.14618), Ding et al. (2024)
- [RouteLLM: learning to route LLMs with preference data](https://arxiv.org/abs/2406.18665), Ong et al. (2024)
- [Efficient memory management for large language model serving with PagedAttention](https://arxiv.org/abs/2309.06180), Kwon et al. (2023)
- [Fast inference from transformers via speculative decoding](https://arxiv.org/abs/2211.17192), Leviathan, Kalman and Matias (2022)
- [LoRA: low-rank adaptation of large language models](https://arxiv.org/abs/2106.09685), Hu et al. (2021)
- [Batch API](https://developers.openai.com/api/docs/guides/batch), OpenAI (2026)
- [Prompt caching](https://platform.claude.com/docs/en/build-with-claude/prompt-caching), Anthropic (2026)
- [Leading ML hardware becomes 40% more energy-efficient each year](https://epoch.ai/data-insights/ml-hardware-energy-efficiency), Epoch AI (2024)
