要点
オンデマンドを標準にしましょう。パイプラインや学習ジョブは、起動されたときにリソースを立ち上げ、終わったら解放すべきです。使われていないノートブックや開発用の GPU は一定時間後に自動で停止し、本番以外の環境は時間外にゼロまで縮小し、無駄が見えるよう、チームごとの遊休 GPU 時間をコストと並べて報告しましょう。
手順
- パイプラインと学習ジョブは、起動されたときにリソースを立ち上げ、終わったら解放するようにします。
- ノートブックと開発用の GPU は、一定時間操作がなければ自動で停止するよう設定します。
- 本番以外の環境は、業務時間外にゼロまで縮小します。
- 一時的な環境には、自動で削除される日付を設定します。
- チームごとの遊休 GPU 時間を、コストと並べて報告します。
待機中の GPU も電力を消費し、製造にエネルギーがかかったハードウェアを占有し続けます。 実験のために用意したノートブック、クラスター、テスト環境は、実験の合間に動かしたままにされたり、忘れられたりしがちです。
何をオンデマンドにすべきですか?
Green Software Foundation の AI とエージェントのワークロード向けパターンは、インフラを処理している間だけ動かすよう勧めています。モデル開発、パイプライン、エージェントにはサーバーレスやオンデマンドの実行を使い、起動されたときにリソースが立ち上がり、終わったら止まるようにするということです。
開発やテストについてはどうですか?
Microsoft の Azure Well-Architected のガイダンスは、「本番以外の環境は使わないときに停止する」よう述べています。Kubernetes では、KEDA の cron スケーラーを使って、決まった時間帯にワークロードを拡大し、それ以外の時間はゼロまで縮小できます。本当に動かし続けなければならない共有サービスだけを除外し、その理由を書き残しましょう。
いちばん差が出ること
- ノートブックの自動停止。 ノートブックは、最も忘れられやすい GPU の使い道です。
- 可視化。 遊休 GPU 時間を支出と同じレポートに載せましょう。チームは見えるものに対して行動します。
- 共有。 1 人 1 台より、共有のプールやキューのほうが、たいてい GPU の稼働率は高くなります。
よくある間違い
- 週に 1 回しか動かない作業のために、大きな GPU を「念のため」確保しておくこと。
- 1 日に数回しか使わない社内ツールのために、モデルを常にメモリに読み込んでおくこと。
ホスティングとデータセンターと 効率的な学習と推論をご覧ください。
出典
- Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
- Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Cron scaler, KEDA (CNCF) (2025)
関連
クラウドの余剰キャパシティで AI のジョブを動かすには?
中断できる AI の作業をスポットやプリエンプティブルで動かしましょう。チェックポイントと再試行を備え、中断できない作業は別に置きます。
省エネのために AI へのリクエストをまとめて処理するには?
バッチ処理でアクセラレーターの稼働率を高め、回答あたりのエネルギーを減らす方法です。ライブの通信には連続バッチ処理を、オフライン作業にはキューでまとめた処理を使います。
研究用クラスターでの AI 実験のフットプリントを減らすには?
HPC での AI 実験のエネルギーを減らす方法です。Slurm のエネルギー記録を読み、使う分だけ要求し、小さく試し、チェックポイントを取り、時間を調整します。
グリーン AI のホスティングとデータセンター
AI をどこで動かすかの選び方。電力網の炭素強度、PUE と WUE、再生可能エネルギーの主張、水使用量と立地、そしてホスト事業者への質問を解説します。