要点
入力が構造化データやラベル付きの短いテキストで、出力が数値、カテゴリー、順位なら、まず従来のモデルを試しましょう。線形モデル、勾配ブースティング木、小さな分類器などです。これらは動かすコストがはるかに低く、速く、説明しやすく、精度も同等であることがよくあります。大規模言語モデルは、タスクが本当に自由な言語処理を必要とするときに使いましょう。
手順
- 入力の種類、出力の種類、品質の基準を書き出します。
- まず、ルール、線形モデル、勾配ブースティング木などの簡単なベースラインを作ります。
- 入力が自由記述のテキストなら、小さな分類器をファインチューニングして試します。
- ベースラインが基準に届かない場合に限り、同じ評価データで LLM を試します。
- 選ぶ前に、品質、レイテンシ、予測あたりのエネルギーを比べます。
品質の基準を満たす最も簡単なモデルを使いましょう。 構造化データや範囲の狭いラベル付けのタスクでは、それは通常、大規模言語モデルではなく従来の機械学習モデルです。
なぜ重要なのですか?
Luccioni、Jernite、Strubell は、多くのタスクでモデルを動かすエネルギーを測りました。テキストの分類は最も安いタスクの 1 つで、1,000 回の推論あたり約 0.002 kWh でした。一方、同じタスクでも、汎用の生成モデルはタスク専用のモデルより桁違いに多くのコストがかかりました。W3C の Web Sustainability Guidelines も、実装の前に AI の必要性を評価するようチームに求めています。
数学者、計算機科学者、産業界が集まった 2026年の英国のグリーン AI サンドピット(集中討議型ワークショップ)は、別の角度から同じ点を指摘しました。よく知られた統計的手法や数値計算の手法ですでに用が足りるのに、人はつい AI に手を伸ばしがちだということです。
簡単な判定法
| タスク | まず試すもの |
|---|---|
| 表形式のデータから数値を予測する | 線形モデルまたは勾配ブースティング木 |
| 少数のラベルのどれかを割り当てる | ファインチューニングした小さな分類器 |
| 似たものを探す | 埋め込みと最近傍探索のインデックス |
| 時系列を予測する | 確立された統計的予測手法 |
| 書く、説明する、会話する | LLM がそのコストに見合う場面 |
よくある間違い
- ベースラインを省くこと。 ベースラインがなければ、LLM が何かを上乗せしているかどうかわかりません。
- LLM でデータにラベルを付けたのに、それで学習し直さないこと。 ラベル作りに一度だけ使い、そのあとは小さなモデルを学習させましょう。
- 精度だけで比べること。 レイテンシ、予測あたりのエネルギー、誤りの説明しやすさも含めましょう。
詳しくは適切なモデルを選ぶと効率的な AI のための数学をお読みください。
出典
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Web Sustainability Guidelines, W3C (2025)
関連
この作業にそもそも AI は必要?
その作業に生成 AI が必要か、それとも検索、電卓、テンプレート、簡単なルールのほうが速く、少ないエネルギーで済むかを判断する簡単なテストです。
汎用のチャットボットではなく、タスク専用の AI モデルを探すには?
分類、抽出、翻訳など 1 つの仕事のために作られた小さなモデルを探し、汎用チャットボットに劣らず、より少ないエネルギーで済むか確かめる方法です。
用途に合ったモデルを選ぶ
AI を適正なサイズで使う方法。小型・特化型モデルを使うべき場面、フロンティアモデルがコストに見合う場面、ルーティングの仕組み、AI を使わないほうがよい場面を解説します。
AI をより効率的にする数学
枝刈り、スパース性、スケッチング、ランダム行列理論、物理情報モデル。数学が AI に必要な計算、メモリ、エネルギーをどう減らすかを説明します。