要点
実際の例で「十分」とは何かを決め、最も小さいモデルから順に試して、最初に合格したところで止めます。小型で特定の作業向けのモデルは、大型の汎用モデルのごく一部のエネルギーで動くことがあります。UNESCO とユニバーシティ・カレッジ・ロンドンは、適した作業では最大 90% の削減を報告しています。
手順
- 作業内容と合格ライン(正解でなければならない回答の割合など)を書き出します。
- テストに使う実際の例を 20〜50件集めます。
- まず最小のモデルや「mini」モデルを試し、合格ラインに届かない場合にだけ大きいものに移ります。
- AI Energy Score など、公開されたエネルギー評価があれば確認します。
- 小さいモデルで対応できない場合に備えて、大きいモデルを残しておきます。
- モデルや作業内容が変わったら、もう一度テストします。
手に入る最も高性能なモデルではなく、品質基準を満たす最小のモデルを使いましょう。 大型の汎用モデルは、リクエストのたびに、作業では使わないかもしれない能力の分まで負担しています。
なぜモデルの大きさがそれほど重要なの?
たいていの場合、エネルギーを左右する最大の要因だからです。 Luccioni、Jernite、Strubell は、同じ作業で比べると、多目的の生成モデルは特定の作業向けのシステムより、動かすのに桁違いのコストがかかることを明らかにしました。UNESCO とユニバーシティ・カレッジ・ロンドンは、特定の作業に合わせた小型モデルでエネルギー使用量を最大 90% 減らせることを示しました。
候補はどうテストすればいい?
- 自分の作業で基準を決めます。 たとえば「請求書の合計額を 98% の確率で正しく抽出する」などです。
- 小さいものから試します。 多くのプロバイダーが「mini」「lite」「flash」版を提供しており、オープンウェイトのモデルファミリーにも複数のサイズがあります。
- 最初に合格したところで止めます。 対象の狭い作業では、大きいほど正確とは限りません。
- 価格だけでなくエネルギーも比べます。 Hugging Face の AI Energy Score は、よくある作業について、オープンモデルを1クエリあたりのエネルギーで1〜5つ星で評価しています。AI Energy Score の評価の読み方をご覧ください。
日常的に使う方にも同じ考え方が当てはまります。簡単な質問には、チャットボットの高速版や軽量版を選びましょう。
よくある間違い
- 評判で選ぶ。 自分の例でテストしましょう。
- 成功1件あたりではなく、呼び出し1回あたりのコストで測る。 小さすぎるモデルが失敗し、大きいモデルでやり直すことになれば、全体ではかえって高くつくことがあります。
- 見直さない。 小型モデルは急速に進歩します。数か月ごとにテストし直しましょう。
各リクエストを自動的に適切なサイズのモデルに送るには、リクエストを小さいモデルに振り分ける方法をご覧ください。全体の手順は適切なモデルを選ぶにあります。
出典
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
関連
用途に合ったモデルを選ぶ
AI を適正なサイズで使う方法。小型・特化型モデルを使うべき場面、フロンティアモデルがコストに見合う場面、ルーティングの仕組み、AI を使わないほうがよい場面を解説します。
汎用のチャットボットではなく、タスク専用の AI モデルを探すには?
分類、抽出、翻訳など 1 つの仕事のために作られた小さなモデルを探し、汎用チャットボットに劣らず、より少ないエネルギーで済むか確かめる方法です。
リクエストを小さな AI モデルに振り分けるには?
定型的なリクエストは小さなモデルに、難しいものだけを大きなモデルに振り分け、やり直しで節約分が消えないようルーターを調整する方法です。
AI モデルごとの消費電力を比べるには?
AI モデルのエネルギーを公平に比べる方法です。AI Energy Score などのベンチマークを使うか、同じ作業、ハードウェア、設定で自分で測ります。