要点
クラウドプロバイダーは、短い予告で取り戻せることを条件に、余剰キャパシティをスポットインスタンスやプリエンプティブルインスタンスとして安く販売しています。学習、評価、バッチ推論、データ処理は、チェックポイントを保存してきちんと再試行できれば、これを使えます。中断が不安定さを招くことがあるため、Microsoft のガイダンスでは、中断に耐えられる作業にだけ使うよう勧めています。
手順
- 学習、評価、バッチ推論など、停止して再開できる AI の処理を一覧にします。
- それらのジョブに、定期的なチェックポイントと、きちんと再試行する仕組みを加えます。
- 複数のインスタンスの種類にまたがって、スポットまたはプリエンプティブルのキャパシティで実行します。
- 対話型の作業や締め切りが厳しい作業は、通常のキャパシティに置いておきます。
- 中断でどれだけの作業が失われたかを測り、チェックポイントの間隔を調整します。
余剰キャパシティは、すでに作られ電源も入っているハードウェアです。融通の利く作業に使えば、より有効に活用できます。 たいていずっと安くもあるため、取り組む理由づけにもなります。
どんな AI のジョブが向いている?
- 定期的にチェックポイントを取る学習やファインチューニング
- 各試行が独立しているハイパーパラメーター探索
- 評価やベンチマークの実行
- 文書や画像のキューに対するバッチ推論
- データの準備
Microsoft の Azure Well-Architected のサステナビリティに関するガイダンスは、「Spot VM は中断に耐えられるワークロードにのみ使用する」よう述べており、インフラの無駄を減らせる一方で、不安定さを招くこともあると指摘しています。
ジョブを中断に強くするには?
- オプティマイザーの状態も含めて、適切な間隔でチェックポイントを保存します。
- 再起動したときに、最後のチェックポイントから自動的に再開するようにします。
- 複数のインスタンスの種類を許可し、スケジューラーが使える余剰キャパシティを増やします。
- 出力を少しずつ書き出し、完了した作業が失われないようにします。
チェックポイントがあれば、Green Software Foundation の AI ワークロード向けパターンが示すように、電力網の炭素が多い時間帯にジョブを一時停止することもできます。電力網がグリーンな時間帯に学習を予約するをご覧ください。
よくある間違い
- チェックポイントがない。 1回の中断で何時間分もの作業が失われ、エネルギーが無駄になります。
- チェックポイントを取りすぎる。 保存のコストが、守れるものより大きくなります。
- ユーザー向けのサービスをスポットのキャパシティに置く。
ホスティングとデータセンターをご覧ください。
出典
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)
関連
GPU やノートブックを遊ばせないようにするには?
待機中の AI ハードウェアの無駄をなくす方法:必要時にリソースを起動し、アイドル状態のノートブックを自動停止し、時間外はゼロまで縮小し、遊休 GPU 時間を報告します。
電力網がクリーンな時間帯に AI の学習を実行するには?
電力網の炭素強度が低いときに学習やバッチ処理を実行します。予報を使い、チェックポイントで一時停止でき、期限は厳守する方法です。
省エネのために AI へのリクエストをまとめて処理するには?
バッチ処理でアクセラレーターの稼働率を高め、回答あたりのエネルギーを減らす方法です。ライブの通信には連続バッチ処理を、オフライン作業にはキューでまとめた処理を使います。
グリーン AI のホスティングとデータセンター
AI をどこで動かすかの選び方。電力網の炭素強度、PUE と WUE、再生可能エネルギーの主張、水使用量と立地、そしてホスト事業者への質問を解説します。