要点
品質の基準を満たす範囲で、最も小さいモデル、または最も単純な AI 以外の方法を使い、大規模な汎用モデルは本当に必要な場面に取っておきましょう。特定タスク向けのモデルは、汎用の生成モデルに比べてごく一部のエネルギーで動くことがあります。ルーティングを使えば、両方の利点の大部分を得られます。
要点
- まず、そのタスクにそもそも AI が必要かを問いましょう。ルール、検索、古典的なアルゴリズムで済むことはよくあります。
- 同じタスクで比べると、特定タスク向けのモデルは多目的な生成モデルより、運用コストが桁違いに低いことがわかりました。
- UNESCO と UCL は、小型の特定タスク向けモデルによってエネルギー使用量を最大 90% 削減できると報告しています。
- ルーティングは、簡単なリクエストを小型モデルに、難しいリクエストを大型モデルに送ります。小型モデルでの失敗と再試行が合わさると、かえってコストが増えることがあるため、しきい値は慎重に設定しましょう。
- ハイブリッドなパイプラインでは、大部分のステップに古典的手法や物理ベースの手法を使い、価値を生む部分だけに小さなニューラルネットワークを使います。
なぜモデル選びがこれほど重要なのですか?
AI 機能のエネルギーを左右する最大の要因は、たいていモデルの選択です。 同じタスクでも、運用コストが桁違いに異なるモデルでこなせてしまいます。
ACM FAccT 2024 で発表された体系的な比較で、Luccioni、Jernite、Strubell は、多くのタスクとモデルについて 1,000 回の推論を実行したときのエネルギーを測定しました。その結果、同じタスクでは、モデルの大きさをそろえた場合でも、多目的な生成モデルは特定タスク向けのシステムより桁違いにコストが高いことがわかりました。2025 年の UNESCO と UCL の報告書は、特定のタスクに合わせた小型モデルによってエネルギー使用量を最大 90% 削減できるとしています。
パターンは単純です。汎用モデルは、あなたのタスクが一度も使わない知識や能力の分まで、リクエストのたびに代償を払っているのです。
このタスクにそもそも AI は必要ですか?
まず、AI 以外の方法ですでに済むかどうかを確認しましょう。 最も安い推論は、実行しない推論です。
数学者、コンピューター科学者、産業界が集まった 2026 年の英国のグリーン AI サンドピット(集中討議型ワークショップ)では、この点が繰り返し取り上げられました。よく理解されたアルゴリズムがすでにあるのに、人はつい AI に手を伸ばしがちであり、最もグリーンな計算とは、多くの場合、避けた計算だというのです。W3C の Web Sustainability Guidelines も同様に、AI を導入する前にその必要性を評価するよう求めています。
次のことを問いましょう。
- ルール、参照表、正規表現でできませんか?
- 自分たちのコンテンツを検索すれば答えられませんか?
- 確立された数値計算や統計の手法(最適化手法、回帰、ソルバー)はありませんか?
- 答えは正確に再現でき、監査できる必要がありますか? 決定的な手法のほうが確認しやすくなります。
- これはどのくらいの頻度で実行されますか? 何百万回も使われる機能には、一度きりの処理より多くの設計の手間をかける価値があります。
AI は、時間の節約になる場合でも無料ではありません。12 のプログラミングタスクで手作業のコーディングと AI 支援のコーディングを比べた 2025 年の研究では、AI 支援の方法は平均で手作業の約 33 倍のカーボンフットプリントになり、タスクが難しくなるほどその差は広がりました。これはアシスタントを決して使うなという意味ではありません。明らかに元が取れる場面で使おう、という意味です。
小型、特化型、それともフロンティアモデル?
使える中で最も高性能なものではなく、タスクに合わせてモデルを選びましょう。
| タスクの種類 | 通常はこれで十分 | 大きくすべきとき |
|---|---|---|
| 分類、タグ付け、ルーティング、スパム判定、感情分析 | 小型の特定タスク向け分類器 | まれ |
| 文書からの項目抽出 | 小型またはファインチューニングしたモデル、あるいはルール | 乱雑で多様なレイアウト |
| 自分たちのコンテンツに対する検索と質問応答 | 検索と小型または中型モデルの組み合わせ | 複数の文書にまたがる複雑な推論 |
| 翻訳、要約 | 中型または特化型のモデル | 重要度が高い文章や、ニュアンスの細かい文章 |
| 自由な推論、計画、難しいコード | 大規模な汎用モデル | ここでこそコストに見合う |
特化した小型モデルはいくつかの方法で作れます。詳しくは効率的な学習と推論で取り上げています。
- 蒸留: 大きな「教師」モデルが小さな「生徒」モデルを学習させます。DistilBERT は BERT より 40% 小さく 60% 速い一方で、言語理解能力の 97% を保っていました。
- 自分たちのタスクのデータで小型モデルをファインチューニングする。
- 既存モデルの量子化版を使う。必要なメモリとエネルギーが少なくなります。
公開ベンチマークがある場合は、品質だけでなくエネルギーでも候補を比べましょう。Hugging Face の AI Energy Score は、10 の一般的なタスクについて、1,000 クエリあたりの GPU エネルギーでモデルを評価し、同じタスクの他のモデルと比べて 1〜5 つ星で示します。
モデルルーティングはどのように機能しますか?
ルーターは、各リクエストをうまく答えられそうな最も安いモデルに送り、必要なときだけ上位のモデルに引き上げます。
よくある設計は次のとおりです。
- 分類器を先に置く: 小型モデルやルールの集まりがリクエストの難しさを予測し、モデルを選びます。
- カスケード: まず小型モデルを試し、確信度が低いかチェックに失敗した場合は大きなモデルに渡します。
- 学習型ルーター: どのリクエストでどのモデルがうまくいったかの事例で学習させます。RouteLLM の研究では、一部のケースで応答の品質を下げずにコストを半分以上削減できたと報告されています。
しきい値は慎重に設定する
サンドピットでは重要な注意点が挙がりました。エージェント型のシステムでは、小さすぎるモデルが失敗し、大きなモデルでやり直さざるを得なくなることがあります。安い試行の失敗と高価な再試行を合わせると、最初から大きなモデルを使うより高くつくことがあるのです。そこで、次のようにしましょう。
- 呼び出し 1 回あたりではなく、成功したタスク 1 件あたりのエンドツーエンドのコストを測る。
- 引き上げのしきい値を自分たちのデータで調整する。
- リクエストがどのくらいの頻度で引き上げられたかを記録し、モデルが変わったら見直す。
- ルーティングの判断はエンドユーザーに任せず、システムに組み込む。
ハイブリッドなパイプラインとは何ですか?
ハイブリッドなパイプラインは、大部分のステップに古典的手法、物理ベースの手法、ルールベースの手法を使い、価値を生む部分だけに小型モデルを使います。 エンドツーエンドのニューラルネットワークによる方法より、安く、正確で、信頼しやすいことがよくあります。
例:
- 物理モデルや数値モデルがシミュレーションを行い、小さな学習済みの部品がその最も高コストな部分だけを置き換える(「サロゲート」)。
- 決定的なコードが構文解析、検証、整形を担い、モデルは自由記述のテキストの判断だけを担う。
- 生成モデルが計画や選択を行うが、出力は毎回新たに生成するのではなく、事前に確認済みの部品のライブラリから組み立てる。生成よりオーケストレーションを参照してください。
サンドピットでは、数学的・物理的な構造(対称性、保存則、凸性)をモデルに組み込み、パラメーターや学習を減らすことについても議論されました。効率的な AI のための数学を参照してください。
チェックリスト
- [ ] 最も単純な AI 以外の方法を書き出し、まずそれをテストした
- [ ] 自分たちの実際の事例で品質基準を定めた
- [ ] 少なくとも 1 つの小型または特定タスク向けモデルを、その基準でテストした
- [ ] 各候補のリクエストあたりのエネルギーを、同じ方法で測定して比較した
- [ ] 大きなモデルは、小型モデルが基準を満たさない場面だけで使っている
- [ ] ルーティングのコストを、再試行も含めて成功したタスク 1 件あたりで測定した
- [ ] 選択を記録し、見直す日付を決めた
次にすること
- AI 機能を一覧にし、小さなモデル、古典的な手法、または AI なしで済みそうなものに印をつけましょう。
- 合格ラインを決めた、実際の事例による小さな評価セットを作りましょう。
- 2〜3 種類の大きさのモデルをそれでテストし、それぞれのエネルギーを測定しましょう。
- 利用量の多い機能の 1 つでルーティングを試験導入し、成功したタスク 1 件あたりのコストを追跡しましょう。
- 「基準を満たす最も小さいモデルを使う」ことを、グリーン AI ポリシーに書き込みましょう。
- サプライヤーに、提供しているモデルの大きさとリクエストあたりのエネルギーを尋ねましょう。持続可能な AI 調達を参照してください。
よくある質問
小規模言語モデルで十分ですか?
分類、情報抽出、ルーティングなど、明確に定義された多くのタスクでは十分です。判断する前に、明確な品質基準に照らして自分たちの事例でテストしてください。
モデルルーティングとは何ですか?
ルーターは各リクエストを見て、うまく処理できそうな最も安いモデルに送り、必要なときだけ大きなモデルに引き上げます。公開されているルーターの中には、一部のテストで品質を下げずにコストを半分以上削減したものがあります。
AI を使うべきでないのはどんなときですか?
ルール、参照表、検索、または確立された数値計算手法で、すでにそのタスクを確実にこなせるときです。そうした方法のほうが、たいてい安く、速く、予測しやすく、確認もしやすくなります。
大きいモデルほど常に正確ですか?
いいえ。範囲の狭いタスクでは、ファインチューニングや蒸留をした小型モデルが汎用モデルと同等以上の性能を出すことがあり、その誤りも理解しやすいことが多いです。
出典
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- AI large language models: new report shows small changes can reduce energy use by 90%, UNESCO (2025)
- RouteLLM: Learning to Route LLMs with Preference Data, Ong et al. (arXiv 2406.18665) (2024)
- DistilBERT, a distilled version of BERT, Sanh et al. (arXiv 1910.01108) (2019)
- Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development, arXiv 2505.04521 (2025)
- Green Software Patterns: right-sized, energy-efficient AI models, Green Software Foundation (2025)
- AI Energy Score, Hugging Face (2025)
- Web Sustainability Guidelines, W3C (2025)
関連
AI のエネルギーと炭素を測る方法
AI 作業のエネルギーと炭素を計測または推計するための実践ガイド。ツール、システム境界、タスクあたりの指標、不確かさの誠実な扱い方を解説します。
AI の効率的な学習と推論
開発者と研究者向けに、AI のエネルギーを減らす技法を紹介します。枝刈り、スパース性、量子化、蒸留、KV キャッシュ、バッチ処理、混合精度、スケジューリングを扱います。
生成よりオーケストレーション
検証済みの部品を再利用し、要求を対応できる最小のモデルに振り分けることで AI のエネルギー使用量をどう減らせるか、現時点での根拠とあわせて解説します。
効率は充足ではない:AI におけるリバウンド効果
AI の効率を高めても全体のエネルギー使用量が減るとは限らない理由、リバウンド効果(ジェボンズ効果)とは何か、そして節約を本物にするための方法を説明します。