greenai.guide

ホーム › どうすれば…? › クラウドの余剰キャパシティで AI のジョブを動かすには?

どうすれば…?

クラウドの余剰キャパシティで AI のジョブを動かすには?

更新日 · 1分で読めます

要点

クラウドプロバイダーは、短い予告で取り戻せることを条件に、余剰キャパシティをスポットインスタンスやプリエンプティブルインスタンスとして安く販売しています。学習、評価、バッチ推論、データ処理は、チェックポイントを保存してきちんと再試行できれば、これを使えます。中断が不安定さを招くことがあるため、Microsoft のガイダンスでは、中断に耐えられる作業にだけ使うよう勧めています。

手順

  1. 学習、評価、バッチ推論など、停止して再開できる AI の処理を一覧にします。
  2. それらのジョブに、定期的なチェックポイントと、きちんと再試行する仕組みを加えます。
  3. 複数のインスタンスの種類にまたがって、スポットまたはプリエンプティブルのキャパシティで実行します。
  4. 対話型の作業や締め切りが厳しい作業は、通常のキャパシティに置いておきます。
  5. 中断でどれだけの作業が失われたかを測り、チェックポイントの間隔を調整します。

余剰キャパシティは、すでに作られ電源も入っているハードウェアです。融通の利く作業に使えば、より有効に活用できます。 たいていずっと安くもあるため、取り組む理由づけにもなります。

どんな AI のジョブが向いている?

  • 定期的にチェックポイントを取る学習やファインチューニング
  • 各試行が独立しているハイパーパラメーター探索
  • 評価やベンチマークの実行
  • 文書や画像のキューに対するバッチ推論
  • データの準備

Microsoft の Azure Well-Architected のサステナビリティに関するガイダンスは、「Spot VM は中断に耐えられるワークロードにのみ使用する」よう述べており、インフラの無駄を減らせる一方で、不安定さを招くこともあると指摘しています。

ジョブを中断に強くするには?

  1. オプティマイザーの状態も含めて、適切な間隔でチェックポイントを保存します。
  2. 再起動したときに、最後のチェックポイントから自動的に再開するようにします。
  3. 複数のインスタンスの種類を許可し、スケジューラーが使える余剰キャパシティを増やします。
  4. 出力を少しずつ書き出し、完了した作業が失われないようにします。

チェックポイントがあれば、Green Software Foundation の AI ワークロード向けパターンが示すように、電力網の炭素が多い時間帯にジョブを一時停止することもできます。電力網がグリーンな時間帯に学習を予約するをご覧ください。

よくある間違い

  • チェックポイントがない。 1回の中断で何時間分もの作業が失われ、エネルギーが無駄になります。
  • チェックポイントを取りすぎる。 保存のコストが、守れるものより大きくなります。
  • ユーザー向けのサービスをスポットのキャパシティに置く。

ホスティングとデータセンターをご覧ください。

出典

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

参加する

AI が地球に与える影響を減らすために

新しいガイド、資金の公募、ディレクトリの掲載情報を、月に1回ほどメールでお届けします。または、製品、講座、PhD、研究をディレクトリに追加してください。

トラッキングなし。ワンクリックで配信停止できます。 その他の参加方法 · プライバシー