greenai.guide

ホーム › どうすれば…? › 自分のパソコンや GPU で AI が使うエネルギーはどう測る?

どうすれば…?

自分のパソコンや GPU で AI が使うエネルギーはどう測る?

更新日 · 1分で読めます

要点

自分のマシンなら直接測れます。プロセッサーと GPU のカウンターを読む CodeCarbon や電力計測ツールを使うか、パソコンとコンセントの間に電力計測機能付きのスマートプラグを挟みます。まず待機時の電力を記録し、瞬間的な値ではなく処理全体を通してサンプリングし、数値を信頼する前に何度か実行を繰り返しましょう。

手順

  1. 始める前に、マシンの待機時の電力を測ります。
  2. CodeCarbon、カウンターを使うツール、または電力計測機能付きのスマートプラグで記録しながら、AI の作業を実行します。
  3. 処理全体を通して GPU の電力をサンプリングし、時間で積算します。
  4. 何度か実行を繰り返し、平均と幅を報告します。
  5. マシンごとに一度、ソフトウェアの計測値をコンセント側の電力計と照らし合わせます。

自分のハードウェアなら計測でき、それはどんな推定にも勝ります。 ローカルのモデル、ファインチューニング、AI コーディングツールが、自分のマシンで実際にどれだけの電力を使っているかを知るには、これが最良の方法です。

どんなツールを使える?

方法 読み取る対象 向いている用途
電力計測機能付きスマートプラグ コンセント側でのマシン全体 どなたでも。ほかのツールの確認にも
CodeCarbon プロセッサー、GPU、メモリの電力と、電力網の炭素 Python スクリプト、学習、ローカルでの推論
プロセッサーのカウンター(多くの Intel と AMD のチップの RAPL) CPU とメモリのエネルギー perf、Scaphandre、PowerJoular などの Linux ツール
GPU のテレメトリー(nvidia-smi、NVML) GPU の電力 NVIDIA カードでのモデルの学習と推論

なぜ時間を通してサンプリングするの?

GPU の読み取り値は連続ではなく、サンプリングされたものです。Yang らは、A100 と H100 の GPU では、nvidia-smi が電力について実行時間の約 25% しかサンプリングしておらず、短い処理ではひどく誤った結果になりうることを示しました。処理全体を通して読み取り値を記録し、多くのサンプリング間隔を含むだけの長さで実行し、時間で合計しましょう。

よくある間違い

  • 待機時の電力を忘れる。 デスクトップパソコンは何もしていなくても電力を使います。それを差し引いて、AI で増えた分を確認しましょう。
  • 一度だけ測る。 温度、バックグラウンドの処理、周波数の調整によって読み取り値は変わります。繰り返して幅を示しましょう。
  • 速度だけを比べる。 速さと省エネは両立することが多いものの、いつもそうとは限りません。両方を報告しましょう。

エネルギーを炭素に換算するには、電力網の炭素強度の調べ方をご覧ください。全体の手順はAI のエネルギーを測る方法にあります。

出典

  1. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  2. CodeCarbon, CodeCarbon (2026)
  3. When to use CodeCarbon, CodeCarbon (2025)

参加する

AI が地球に与える影響を減らすために

新しいガイド、資金の公募、ディレクトリの掲載情報を、月に1回ほどメールでお届けします。または、製品、講座、PhD、研究をディレクトリに追加してください。

トラッキングなし。ワンクリックで配信停止できます。 その他の参加方法 · プライバシー