greenai.guide

ホーム › どうすれば…? › GPU やノートブックを遊ばせないようにするには?

どうすれば…?

GPU やノートブックを遊ばせないようにするには?

更新日 · 1分で読めます

要点

オンデマンドを標準にしましょう。パイプラインや学習ジョブは、起動されたときにリソースを立ち上げ、終わったら解放すべきです。使われていないノートブックや開発用の GPU は一定時間後に自動で停止し、本番以外の環境は時間外にゼロまで縮小し、無駄が見えるよう、チームごとの遊休 GPU 時間をコストと並べて報告しましょう。

手順

  1. パイプラインと学習ジョブは、起動されたときにリソースを立ち上げ、終わったら解放するようにします。
  2. ノートブックと開発用の GPU は、一定時間操作がなければ自動で停止するよう設定します。
  3. 本番以外の環境は、業務時間外にゼロまで縮小します。
  4. 一時的な環境には、自動で削除される日付を設定します。
  5. チームごとの遊休 GPU 時間を、コストと並べて報告します。

待機中の GPU も電力を消費し、製造にエネルギーがかかったハードウェアを占有し続けます。 実験のために用意したノートブック、クラスター、テスト環境は、実験の合間に動かしたままにされたり、忘れられたりしがちです。

何をオンデマンドにすべきですか?

Green Software Foundation の AI とエージェントのワークロード向けパターンは、インフラを処理している間だけ動かすよう勧めています。モデル開発、パイプライン、エージェントにはサーバーレスやオンデマンドの実行を使い、起動されたときにリソースが立ち上がり、終わったら止まるようにするということです。

開発やテストについてはどうですか?

Microsoft の Azure Well-Architected のガイダンスは、「本番以外の環境は使わないときに停止する」よう述べています。Kubernetes では、KEDA の cron スケーラーを使って、決まった時間帯にワークロードを拡大し、それ以外の時間はゼロまで縮小できます。本当に動かし続けなければならない共有サービスだけを除外し、その理由を書き残しましょう。

いちばん差が出ること

  • ノートブックの自動停止。 ノートブックは、最も忘れられやすい GPU の使い道です。
  • 可視化。 遊休 GPU 時間を支出と同じレポートに載せましょう。チームは見えるものに対して行動します。
  • 共有。 1 人 1 台より、共有のプールやキューのほうが、たいてい GPU の稼働率は高くなります。

よくある間違い

  • 週に 1 回しか動かない作業のために、大きな GPU を「念のため」確保しておくこと。
  • 1 日に数回しか使わない社内ツールのために、モデルを常にメモリに読み込んでおくこと。

ホスティングとデータセンターと 効率的な学習と推論をご覧ください。

出典

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

参加する

AI が地球に与える影響を減らすために

新しいガイド、資金の公募、ディレクトリの掲載情報を、月に1回ほどメールでお届けします。または、製品、講座、PhD、研究をディレクトリに追加してください。

トラッキングなし。ワンクリックで配信停止できます。 その他の参加方法 · プライバシー