greenai.guide

ホーム › 記事 › エージェント型 AI とトークンの無駄

記事

エージェント型 AI とトークンの無駄

更新日 · 2分で読めます

要点

AI エージェントは、モデルやツールを何度も呼び出しながら、複数の段階を経てタスクを実行します。そのため、1 回の依頼でチャットの何倍ものトークンを使うことがあります。マルチエージェントシステムではこれがさらに膨らみ、エージェントがループしたり、互いにかみ合わないやり取りを続けたりすると、トークンは無駄になります。予算、ステップ数の上限、ループ検出、適正規模のモデルを組み合わせれば、エネルギーを無駄に燃やさずにエージェントを役立てられます。

要点

  • エージェントは 1 つのタスクで何度もモデルを呼び出すため、トークン使用量、つまりエネルギー使用量は、1 回のチャットの何倍にもなりえます。
  • マルチエージェントシステムはトークン使用量をさらに増やします。それが見合うのは、そこまでの仕組みが必要なほど価値が高く複雑なタスクだけです。
  • エージェントはループに陥ったり同じ作業を繰り返したりして、進展がないままトークンを消費することがあります。
  • ステップ数、トークン、時間、費用に厳しい上限を設け、行き詰まった実行を止められる監視を置くことが、基本的な安全策です。
  • 適正規模にするとは、タスクが許す限り、単一のエージェント、小さなモデル、あるいはエージェントなしで済ませることです。

AI エージェントとは、どのツールを呼び出し次に何をするかを選びながら、複数の段階を経て目標に向かって作業するシステムです。予約や検索をしたり、コードを書いてテストし、やり直したりできます。この自律性は便利ですが、ステップごとにモデルを呼び出すため、1 回のチャットにはないかたちでコストが積み上がります。

エージェントのコストが高くなるのはなぜですか?

エージェントは 1 つのタスクでモデルを何度も呼び出し、そのたびに、それまでのタスクの履歴(増え続けます)を含めて送るのが普通です。ステップ、ツール呼び出し、やり直しのたびに、トークン使用量、ひいてはエネルギー使用量が増えていきます。

トークンとは、モデルが読み書きするテキストのかたまりで、おおよそ単語の一部にあたります。処理されるトークンの一つひとつに計算コストがかかります。チャットでは、1 つの質問から 1 つの回答が生まれます。エージェントでは、1 つの依頼が、計画、検索、結果の読み込み、執筆、確認、修正と、何十回ものモデル呼び出しを引き起こすことがあります。

Anthropic は、2025 年にマルチエージェント研究システムの構築について説明した記事で、この点に触れています。それによると、エージェントは通常、チャットでのやり取りの約 4 倍、マルチエージェントシステムは約 15 倍のトークンを使っていました。また、同社のブラウジングのベンチマークでは、トークン使用量だけで性能のばらつきの 80% を説明できることもわかりました。つまり、システムの成績が良かったのは、主により多くを費やしたからでした。

難しく価値の高いタスクであれば、これは妥当な取引です。単純なタスクであれば、無駄です。

エージェントのエネルギー使用量について、根拠はありますか?

初期の研究は同じ方向を示しています。Kim、Shin、Chung、Rhu(2025)は、データセンターのインフラの観点から、エージェント型の複数ターンのワークフローと単一ターンの推論を比較しました。その結果、エージェントは大幅に多くのエネルギーを使うこと、計算を増やすほど精度の向上は頭打ちになること(収穫逓減)、そしてこの方法でエージェントを拡大した場合のインフラコストは持続不可能になりうることがわかりました。

実際の運用環境で測定された数値は、提供事業者がほとんど公表しないため、まだ乏しいのが現状です。測定こそがボトルネックをご覧ください。

エージェントはどのようにトークンを無駄にするのですか?

タスクを前に進めない作業をすることによってです。よくあるパターンには次のものがあります。

  • ループ。エージェントが同じ動作を繰り返したり、2 つのエージェントが問題を互いに押し付け合い続けたりします。
  • 確認のしすぎ。簡単なテストで済む場面でも、すべてのステップを別のモデル呼び出しで見直します。
  • コンテキストの肥大化。文書全体、ログ、ツールの出力が、その後のすべてのステップに持ち越されます。
  • やり直しの連鎖。1 つの失敗が繰り返しのやり直しを招き、ときにはより大きなモデルへと次々に移っていきます。
  • 委任のしすぎ。1 つのエージェントで足りるタスクを、多数のエージェントに分割します。

Cemri らの研究チーム(2025)は、7 つのマルチエージェントフレームワークから得た 1,600 件を超える注釈付きの実行記録(トレース)を分析し、こうしたシステムが失敗する 14 の異なるパターンを特定しました。これらは、システムとタスクの仕様の問題、エージェント間の不整合、タスクの検証の失敗という 3 つのカテゴリーに分けられます。どの失敗パターンも、結果を出さずにトークンを使う道でもあります。

数学者、コンピューター科学者、産業界が集まった 2026 年の英国のグリーン AI サンドピット(集中討議型ワークショップ)でも、同じ問題が議論されました。エージェントの群れは自らを罠にはめ、意味のない出力を互いに送り合い、何十万ものトークンを使い果たすことがあります。そこで提起された未解決の研究課題は、エージェントの集団が行き詰まっていることを、数学的に、しかも早い段階で検出し、人や仕組みがそれを止められるようにするにはどうすればよいか、というものです。

これは環境面だけでなく、ビジネス面でも重要ですか?

はい。コストとエネルギーは一緒に増えます。Gartner は 2025 年 6 月、エージェント型 AI プロジェクトの 40% 超が、コストの高騰、不明確なビジネス価値、または不十分なリスク管理のために、2027 年末までに中止されると予測しました。トークンの無駄は、このうち 1 つ目の要因に直接つながります。

エージェントを制御するための安全策には、どのようなものがありますか?

厳しい上限、監視、そして止める手段です。これらは基本的なエンジニアリング上の管理策で、ほとんどのエージェントフレームワークがその一部に対応しています。

安全策 役割
ステップ数の上限 1 回の実行でのモデル呼び出し回数に上限を設けます。たとえば OpenAI Agents SDK には max_turns という設定があり、これを超えると実行が止まります。
トークンまたは費用の予算 設定したコストを超えた実行を停止するか、上位に判断を仰ぎます。
時間の上限 想定よりはるかに長くかかっている実行を終了させます。
ループ検出 同じ動作の繰り返しや、エージェント間のほぼ同一のメッセージを検知して知らせます。
外部の監視役 進み具合を見守り、実行を止められる、別の安価なプロセスまたは人です。いわば「赤いボタン」です。
コンテキストの削減 古い履歴を要約したり削除したりして、各呼び出しで読むトークンを減らします。

上限は安全側に倒れるように設計すべきです。予算が尽きたら、エージェントは黙ってやり直すのではなく、停止して、その時点で得られている結果を報告するようにします。

エージェントを適正規模にするとは、どういう意味ですか?

その仕事をこなせる、最も簡素なシステムを使うことです。マルチエージェントシステムを作る前に、次のリストを上から順に検討してください。

  1. エージェントなし。固定のスクリプト、検索、または 1 回のモデル呼び出しで済みませんか?
  2. ツール付きの 1 回の呼び出し。ツールを使える、うまくプロンプトを設計した 1 回のモデル呼び出しで十分なことがよくあります。
  3. 1 つのエージェント。ステップ数に上限を設けた単一のエージェントです。
  4. 複数のエージェント。範囲が広く、価値が高く、本当に並行して進められるタスクに限ります。

どの段階でも、分類、抽出、書式整形などの単純なサブタスクには小さなモデルを使い、大きなモデルは難しい推論のために取っておきます。ただし落とし穴があります。小さすぎるモデルは失敗して、より大きなモデルでの再実行を強いることがあり、長い連鎖では 1 つの失敗がその後のステップを狂わせることもあります。どこで線を引くかは、試して確かめる価値のある設計上の判断です。適切なモデルの選び方と生成よりオーケストレーションをご覧ください。

次にすること

  • 運用しているすべてのエージェントについて、やり直しや失敗した実行も含め、完了したタスクあたりのトークン数を記録します。
  • 本番運用に入る前に、すべてのエージェントにステップ数、トークン、時間、費用の上限を設定します。
  • ループ検出と、人が実行を止められる手段を追加します。
  • うまくいく最も簡単な設計から始め、タスクが必要とする場合にだけエージェントを増やします。
  • 単純なサブタスクは小さなモデルに振り分けます。AI を効率よく使うをご覧ください。
  • エージェント型のツールを購入する場合は、トークン使用量をどのように制限し報告しているかを提供事業者に尋ねてください。持続可能な AI 調達をご覧ください。

よくある質問

エージェント型 AI とは何ですか?

1 つのプロンプトに答えるのではなく、どのツールを呼び出し次に何をするかを自ら判断しながら、複数の段階を経て目標を追求する AI システムです。1 つのタスクで言語モデルを何度も呼び出すことがよくあります。

AI エージェントはなぜそれほど多くのトークンを使うのですか?

各ステップで、増え続けるタスクの履歴がモデルに送り返されます。さらに、エージェントはツールを呼び出し、自分の作業を確認し、やり直すことがあります。マルチエージェントシステムではエージェント同士もメッセージをやり取りし、そのたびにトークンがかかります。

AI エージェントがトークンを無駄にしないようにするには、どうすればよいですか?

ステップ数、トークン、時間、費用に上限を設けること、ループや同じ動作の繰り返しを検出すること、単純なサブタスクには小さなモデルを使うこと、そして人が実行を止められるようにしておくことです。

出典

  1. How we built our multi-agent research system, Anthropic (2025)
  2. Why do multi-agent LLM systems fail?, Cemri et al. (2025)
  3. The cost of dynamic reasoning: demystifying AI agents and test-time scaling from an AI infrastructure perspective, Kim, Shin, Chung and Rhu, HPCA 2026 (2025)
  4. Gartner predicts over 40% of agentic AI projects will be canceled by end of 2027, Gartner (2025)
  5. Running agents (max_turns), OpenAI Agents SDK documentation (2025)

参加する

AI が地球に与える影響を減らすために

新しいガイド、資金の公募、ディレクトリの掲載情報を、月に1回ほどメールでお届けします。または、製品、講座、PhD、研究をディレクトリに追加してください。

トラッキングなし。ワンクリックで配信停止できます。 その他の参加方法 · プライバシー