greenai.guide

Home › Hoe doe ik…? › Hoe draai ik AI-taken op ongebruikte cloudcapaciteit?

Hoe doe ik…?

Hoe draai ik AI-taken op ongebruikte cloudcapaciteit?

Bijgewerkt · 1 min. leestijd

In het kort

Cloudaanbieders verkopen ongebruikte capaciteit goedkoop, op voorwaarde dat zij die op korte termijn kunnen terugnemen, als spot- of preemptible instances. Training, evaluatie, batch-inferentie en gegevensverwerking kunnen daarvan gebruikmaken als ze checkpoints opslaan en netjes opnieuw starten. Microsoft adviseert dit alleen te gebruiken voor werk dat tegen onderbrekingen kan, omdat de onderbrekingen instabiliteit kunnen veroorzaken.

Stappen

  1. Maak een lijst van AI-workloads die gestopt en herstart kunnen worden, zoals training, evaluatie en batch-inferentie.
  2. Voeg aan die taken regelmatige checkpoints en nette herstartlogica toe.
  3. Draai ze op spot- of preemptible capaciteit, verspreid over meerdere instancetypen.
  4. Houd interactief of deadlinekritisch werk op standaardcapaciteit.
  5. Meet hoeveel werk verloren gaat door onderbrekingen en pas het checkpointinterval daarop aan.

Ongebruikte capaciteit is hardware die al gebouwd is en al stroom krijgt; door die voor flexibel werk te gebruiken, benut u haar beter. Het is meestal ook veel goedkoper, wat het pleidooi ervoor versterkt.

Welke AI-taken zijn hiervoor geschikt?

  • trainings- en fine-tuningruns die regelmatig checkpoints maken;
  • zoektochten naar hyperparameters, waarbij elke proef op zichzelf staat;
  • evaluatie- en benchmarkruns;
  • batch-inferentie over een wachtrij van documenten of afbeeldingen;
  • gegevensvoorbereiding.

De duurzaamheidsrichtlijnen van Microsofts Azure Well-Architected Framework zeggen: "use Spot VMs only for interrupt-tolerant workloads" (gebruik Spot VM's alleen voor workloads die tegen onderbrekingen kunnen). Ze merken op dat deze verspilling van infrastructuur kunnen verminderen, maar ook instabiliteit kunnen veroorzaken.

Hoe maak ik een taak bestand tegen onderbrekingen?

  1. Sla met een verstandig interval checkpoints op, inclusief de toestand van de optimizer.
  2. Laat de taak bij een herstart automatisch verdergaan vanaf het laatste checkpoint.
  3. Sta meerdere instancetypen toe, zodat de scheduler uit meer ongebruikte capaciteit kan putten.
  4. Schrijf uitvoer stap voor stap weg, zodat afgerond werk niet verloren gaat.

Met checkpoints kunt u taken ook pauzeren wanneer het net vervuilend is, zoals het patroon van de Green Software Foundation voor AI-workloads voorstelt; zie training plannen wanneer het net groener is.

Veelgemaakte fouten

  • Geen checkpoints, zodat een onderbreking uren werk weggooit en de energie verspild is.
  • Te vaak checkpoints maken, zodat het opslaan meer kost dan het beschermt.
  • Diensten voor gebruikers op spotcapaciteit zetten.

Zie hosting en datacenters.

Bronnen

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Doe mee

Help de impact van AI op de planeet te verkleinen

Ontvang ongeveer eens per maand nieuwe gidsen, financieringsoproepen en vermeldingen per e-mail. Of voeg uw product, cursus, promotieplaats of onderzoek toe aan de gidsen.

Geen tracking. Met één klik afmelden. Andere manieren om mee te doen · Privacy