要点
研究者は2つの方法で AI をより環境にやさしくできます。必要な計算の少ない手法を開発すること、そして自分の研究で使うエネルギーを測定し報告することです。プルーニング、量子化、蒸留、より優れた数値計算法、物理と機械学習を組み合わせたハイブリッドモデルは AI のコストを下げ、CodeCarbon や Green Algorithms 計算ツールなどのツールは、論文の中でそのコストを見えるようにします。
要点
- Patterson らは、モデル、データセンター、プロセッサーの選び方によって、学習のカーボンフットプリントを最大でおよそ100分の1から1,000分の1に減らせることを示しました。
- 学習だけでなく推論も研究の対象にすべきです。推論はモデルが使われるたびに実行されます。
- CodeCarbon や Green Algorithms 計算ツールなどの無料ツールを使い、すべての論文でエネルギー、ハードウェア、実行時間、場所を報告しましょう。
- 数学の貢献はアルゴリズムにとどまりません。指標、不確かさ、ベンチマーク、AI の利用がどう広がるかのモデル化にも役立ちます。
- 最終モデルだけでなく、失敗した実行やハイパーパラメータ探索も含めて、プロジェクトの計算予算を決めましょう。
なぜ研究にとってグリーン AI が重要なのか?
研究はほかのすべての人がまねる手法を生み出し、研究そのものも多くの計算を使うからです。推論のコストを半分にする技術がいったん採用されれば、その技術を使うモデルが動くたびにエネルギーが節約されます。
この主張は早くからなされてきました。Strubell、Ganesh、McCallum の2019年の論文は、いくつかの言語モデルの学習にかかる金銭的・環境的コストを定量化し、それを減らす方法を提案しました。その後 Patterson らは、モデルのアーキテクチャ、データセンター、プロセッサーの選び方によって、学習のカーボンフットプリントを最大でおよそ100分の1から1,000分の1に減らせることを示しました。Luccioni、Jernite、Strubell は、同じタスクに対して、多目的の生成モデルの運用はタスク特化型モデルより桁違いに高コストになりうることを示しました。
2026年に英国で、数学者、コンピューター科学者、産業界が集まったグリーン AI のサンドピット(集中討議型ワークショップ)は、研究課題を3つの段階に整理しました。ゼロからの学習、ファインチューニングまたは適応、そしてクラウドか低消費電力の機器かを問わない展開です。それぞれの段階で、異なる技術が使えます。また、既存の研究の多くはプロジェクトの成果物やあまり知られていないコードリポジトリに埋もれているため、どのプロジェクトでも、まずはすでに何が行われているかを調べることが第一歩だと指摘しました。
モデルをより効率的にする手法は?
主な手法の系統は、モデルに不要なものを取り除くこと、より少ないビット数を使うこと、より少ないデータから学ぶこと、そして既知の構造をモデルに組み込むことです。ほとんどは組み合わせて使えます。
プルーニングとスパース性
プルーニング(枝刈り)は、出力にほとんど寄与しない重みを取り除きます。スパース性(疎性)とは、行列や活性化の値のほとんどがゼロであることを指し、計算でそれらを飛ばすことができます。大規模なネットワークは、過剰なパラメータ化が最適化を助けるため、最終的なタスクに必要な数よりはるかに多くのパラメータを持つことが多く、学習後に多くを取り除けます。
未解決の問いには次のようなものがあります。試行錯誤ではなく学習前にスパース性の目標をどう設定するか、動的スパース性(入力によってゼロの位置が変わるもの)を実際のハードウェアでどう効率的に保つか、そして主流のチップのアーキテクチャ上の制約を踏まえて、なぜスパース性がいまだに十分に活用されていないのか、です。理論上の効果は実測の高速化を上回ることが多いため、実際のハードウェアでの実験結果が重要です。
量子化と混合精度
量子化は、たとえば32ビット浮動小数点の代わりに8ビット整数を使うなど、より少ないビット数で保存・計算します。混合精度は、安全な箇所では低い精度を、必要な箇所では高い精度を使います。UNESCO と UCL は、量子化などの圧縮によって、精度を保ちながら最大44%のエネルギーを節約できると報告しています。数値解析の研究者は、どこで精度を下げても安全か、誤差がどう伝わるかを示すのに適した立場にあります。
蒸留と小型モデル
蒸留は、小さな「生徒」モデルを、大きな「教師」モデルをまねるように学習させます。生徒モデルは、どのリクエストでも運用コストが低くなります。関連する研究として、モデル全体ではなく少数の追加パラメータを調整するパラメータ効率の良いファインチューニングや、継続学習があり、ゼロからの再学習を避けられます。
モデルの再利用
新しいモデルを学習させる代わりに、既存のモデルを組み合わせます。Wortsman らは、ファインチューニングした複数のモデルの重みを平均すること(「モデルスープ」)で、推論のコストを増やさずに精度を高められることを示しました。モデルの統合と再利用は、効率の研究にとって有望な分野です。
データ効率
より少なく、より良いデータで学習すれば、学習のエネルギーが直接減ります。手法には、重複した例や価値の低い例の除去、能動学習(ラベル付けする例として最も情報量の多いものを選ぶこと)、少数の例から汎化できるアーキテクチャなどがあります。
数値計算法とデータ移動
AI の多くは線形代数であり、数十年にわたる数値解析の知見が当てはまります。ランダム化数値線形代数やスケッチング(重要な性質を保ったまま行列を圧縮すること)は、演算とデータ移動の両方を減らせます。多くの機器では、データ移動のほうが演算そのものよりエネルギーを多く使います。注意機構の行列のうち重要な部分だけを計算する近似アテンションは、大規模言語モデルにおける活発な研究例です。誤差逆伝播法の背後にある一般的な技術である自動微分は、AI と既存の科学計算コードを結びつけます。
物理と機械学習のハイブリッド
シミュレーション全体をニューラルネットワークに置き換えるのではなく、それに適した部分だけを置き換えます。よくあるパターンは、気候モデルや工学モデルのうち最もエネルギーを多く使う構成要素を学習済みの代理モデル(サロゲート)に置き換え、残りの物理計算はそのまま保つことです。物理情報を組み込んだモデルは、既知の法則を損失関数やアーキテクチャに組み込むことで、はるかに少ないパラメータとデータで済む場合があります。ほかの構造的な手法には、凸性、アンロールしたアルゴリズム(古典的なソルバーの手順をネットワークの層に変えること)、幾何学的深層学習のような対称性の活用があります。
サンドピットでは、あまり探究されていない考え方も挙げられました。
- 学習の目的関数にエネルギーや「炭素」の項を加えること。たとえば、活性化しているニューロンや、混合エキスパートモデルの中の高コストなエキスパートにペナルティを課すことです。
- 長い計算の途中での誤り訂正。一定間隔で確認することで、実行をやり直さずに済むようにします。
- マルチエージェントの AI システムがループにはまってトークンを無駄にしていることの検出。
効率的な学習と推論と効率的な AI のための数学をご覧ください。
論文ではエネルギーをどう測定し報告すべきか?
作業しながら測定し、決まった項目を報告し、論文に載らなかった実行も含めてください。そうしなければ、効率に関する主張は検証も比較もできません。
無料のツールです。
- CodeCarbon はオープンソースの Python パッケージで、CPU、GPU、メモリーが使う電力と、地域の電力網の炭素強度から排出量を推計します。学習と評価のスクリプトに組み込みましょう。
- Lannelongue、Grealey、Inouye による Green Algorithms 計算ツールは、ハードウェア、実行時間、メモリー、場所から計算のフットプリントを推計します。HPC のジョブや、記録を始める前に行った作業に適しています。
- 多くの CPU の RAPL や GPU メーカーの電力インターフェースなどのハードウェアカウンターは、直接の測定値を提供し、これらのツールの基盤になっています。
報告すべき項目です。
| 項目 | 例 |
|---|---|
| ハードウェア | GPU の機種と台数、CPU、メモリー |
| 実行時間 | 最終的な実行の GPU 時間、およびすべての調整用・失敗した実行の GPU 時間 |
| エネルギー | kWh(測定値か推計値か)、使用したツールとバージョン |
| 場所 | 国または電力網の地域、使用した炭素強度 |
| 排出量 | kg CO₂e |
| 推論 | 明示したバッチサイズと系列長での1,000リクエストあたりのエネルギー |
| 境界 | 冷却やデータセンターのオーバーヘッド(PUE)を含むかどうか |
不確かさははっきり示してください。電力モデルによる推計値は計測値と異なることがあり、Google が報告している Gemini のテキストプロンプトの中央値0.24 Whのような事業者の数値は、それぞれ独自の方法と境界を使っています。AI のエネルギーの測定のガイドと、記事測定がボトルネックであるで、さらに詳しく解説しています。
計算予算はどう決めるか?
プロジェクトがどれだけの計算を使ってよいかを事前に決め、お金と同じように管理してください。予算があればトレードオフが見えるようになり、果てしない調整を防げます。
- 主な実験の GPU 時間を見積もり、探索のための余裕を加えます。
- 規模を拡大する前に、小規模な予備実験でアイデアを絞り込みます。
- ハイパーパラメータには、大規模なグリッドサーチより、成績の悪い実行を早期に打ち切るなどの効率的な探索を選びます。
- 適していれば、チェックポイントや事前学習済みモデルを再利用します。
- 時間に融通のきくジョブは、電力網がよりクリーンな時間帯や地域に割り当てます。
- 最高精度だけでなく、kWh あたりの精度など、計算量に対する結果を報告します。
Lannelongue らの GREENER 原則(Governance、Responsibility、Estimation、Energy and embodied impacts、New collaborations、Education and Research)は、研究グループや機関のための枠組みを示しています。
効率は再現性にどう影響するか?
エネルギーと計算量を報告すれば研究を再現しやすくなり、効率的な手法を使えば再現のコストが下がります。数千 GPU 時間を必要とする結果は、ごく少数のグループしか検証できません。
- コード、設定、乱数シードを公開し、結果がいくつの実行に基づいているかを示します。
- 実行間のばらつきを報告します。非決定的な処理の1回の実行から得た精度の数値だけでは、誤解を招くことがあります。
- 可能であれば、ほかの人が活用できるよう、モデルの小型版や蒸留版を公開します。
- 効率化手法の否定的な結果も共有します。ほかの人が同じことを繰り返さずに済みます。
数学はどこで貢献できるか?
数学は、より速いアルゴリズムにとどまらず、何を測定するか、モデルをどこまで信頼するか、AI の利用が社会にどう広がるかを判断するうえでも役立ちます。サンドピットでは、数学者は自分たちが何を改善できるかを、ツールと証拠で示さなければならないと強調されました。
- 効率の理論: プルーニングとスパース性のためのランダム行列理論、小型モデルのための近似理論、より速い学習のための最適化理論。
- 数値解析: AI のパイプラインにおける精度、安定性、誤差の上界、ソルバー。
- 不確かさの定量化: 代理モデルを、特に学習データの範囲外でどこまで信頼できるか。これは、高コストな物理モデルを置き換えられるかどうかを左右します。
- 指標とベンチマーク: エネルギーと品質について合意された比較可能な尺度、そして効率を組み込んだ品質指標。
- シナリオとシステムのモデル化: 効率の向上が総使用量をどう変えるか(リバウンド効果)、組織がなぜ AI の利用に駆り立てられていると感じるのかについてのゲーム理論、エッジと中央での計算のバランス。
- 手法の選択: ある問題にそもそも AI が必要なのか、古典的なアルゴリズムですでにうまく解けるのかを判断するための枠組み。
研究資金や共同研究者はどう見つけるか?
効率に関する研究課題を、コストや速度を重視する実際の応用先のパートナーと組み合わせてください。資金提供者や産業界は、より速く、安く、信頼できる結果ももたらすエネルギー削減に、より前向きに応じます。
- 英国の EPSRC、米国の NSF などの各国の研究会議やそれに相当する機関は、手法の研究に資金を出しています。AI、デジタル研究基盤、ネットゼロに関する公募を確認しましょう。
- Horizon Europe などの欧州のプログラムや、ITEA などの Eureka クラスターは、産業界との共同プロジェクトに資金を出しています。ITEA のプロジェクトである GreenCode は、グリーン AI とソフトウェアのエネルギーの分野の一例です。
- 短期の産業界とのプロジェクト、インターンシップ、共同出資の学生奨学金は、共同研究を始めるための低コストな方法です。
- リサーチソフトウェアエンジニアや HPC センターは、グリーンコンピューティングの専門知識や研修を持っていることが多くあります。
分野横断のチームが最もうまくいきます。ハードウェア、ソフトウェア、数値計算、応用分野の専門家を同じ場に集めましょう。研究ディレクトリには、グリーン AI の研究グループとプロジェクトが載っています。
博士課程にはどんな道があるか?
効率的な機械学習、数値解析、持続可能で低炭素なコンピューティング、HPC、ハードウェアとソフトウェアの協調設計などの博士課程プロジェクトがあります。多くは「グリーン AI」とは表示されていないので、これらのテーマでも検索してください。
道には次のようなものがあります。
- 英国の UKRI Centres for Doctoral Training などの、博士課程の教育センターやプログラム
- EU のマリー・スクウォドフスカ=キュリー・アクションによる博士課程ネットワーク
- 産業界が共同出資または支援する学生奨学金
- 大規模な研究助成に付随するプロジェクト
現在募集中の機会は博士課程ディレクトリで、効率的な AI、グリーンソフトウェア、研究用コンピューティングの短期講座は講座ディレクトリでご覧ください。
次にすること
- 次の実験に CodeCarbon などの記録を加えるか、Green Algorithms 計算ツールで前回のプロジェクトを推計してみましょう。
- 次の論文に、調整用や失敗した実行も含めたエネルギーと計算量の表を加えましょう。
- 現在のプロジェクトの計算予算を決め、毎月見直しましょう。
- すでに使っているモデルで、量子化や蒸留などの効率化手法を1つ試し、そのトレードオフを報告しましょう。
- 作り始める前に、既存のものを確認しましょう。 研究ディレクトリや最近の成果物を検索してください。
- 高コストな AI やシミュレーションの作業を抱えるパートナーを見つけ、共同プロジェクトを提案しましょう。
- 講座ディレクトリで研修を探し、博士課程ディレクトリを学生と共有しましょう。
よくある質問
実験のエネルギー使用量はどう報告すればよいですか?
実験の実行中に CodeCarbon などのツールでエネルギーを記録するか、後から Green Algorithms 計算ツールでハードウェア、実行時間、場所から推計します。kWh、CO₂e、ハードウェア、時間、電力網の地域を報告し、失敗した実行や調整のための実行も含めてください。
量子化で精度は落ちますか?
わずかに落ちるだけのことが多いですが、モデルとタスクによります。UNESCO と UCL は、量子化などの圧縮によって、精度を保ちながら最大44%のエネルギーを節約できると報告しています。自分のベンチマークで確かめてください。
グリーン AI は本格的な研究分野ですか、それとも副次的な問題ですか?
機械学習、数値解析、ハードウェア、計算システムにまたがる、成長中の分野です。学習と推論のエネルギーに関する研究は少なくとも2019年にさかのぼり、現在では EU AI 法が汎用モデルの提供者にエネルギー使用量の文書化を求めています。
グリーン AI で博士号を取ることはできますか?
できます。効率的な機械学習、数値計算法、持続可能なコンピューティング、HPC のプロジェクトを探してください。当サイトの博士課程ディレクトリに、現在募集中の機会が載っています。
出典
- Carbon emissions and large neural network training, Patterson et al. (2021)
- Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Green Algorithms: quantifying the carbon footprint of computation, Lannelongue, Grealey and Inouye, Advanced Science (2021)
- GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
- CodeCarbon, CodeCarbon (2026)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time, Wortsman et al., ICML (2022)
- Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
- AI Act, Annex XI: technical documentation for providers of general-purpose AI models, European Commission AI Act Service Desk (2024)
- Green AI and energy-aware computing, GreenCode (ITEA) (2026)
関連
AI の効率的な学習と推論
開発者と研究者向けに、AI のエネルギーを減らす技法を紹介します。枝刈り、スパース性、量子化、蒸留、KV キャッシュ、バッチ処理、混合精度、スケジューリングを扱います。
AI のエネルギーと炭素を測る方法
AI 作業のエネルギーと炭素を計測または推計するための実践ガイド。ツール、システム境界、タスクあたりの指標、不確かさの誠実な扱い方を解説します。
AI をより効率的にする数学
枝刈り、スパース性、スケッチング、ランダム行列理論、物理情報モデル。数学が AI に必要な計算、メモリ、エネルギーをどう減らすかを説明します。
グリーン AI のボトルネックは測定にある
AI のエネルギー数値が信頼しにくく比べにくい理由を解説します。自己申告の数値、実測ではない推計、異なる境界、そしてよい測定のあり方を紹介します。