greenai.guide

Startseite › Wie kann ich …? › Wie nutze ich freie Cloud-Kapazitäten für KI-Jobs?

Wie kann ich …?

Wie nutze ich freie Cloud-Kapazitäten für KI-Jobs?

Aktualisiert · 1 Min. Lesezeit

Kurz gesagt

Cloud-Anbieter verkaufen freie Kapazität günstig unter der Bedingung, dass sie sie kurzfristig zurückholen können, als Spot- oder Preemptible-Instanzen. Training, Evaluation, Batch-Inferenz und Datenverarbeitung können sie nutzen, wenn sie Checkpoints speichern und sauber neu starten. Microsoft rät, sie nur für unterbrechungstolerante Arbeit zu verwenden, weil die Unterbrechungen zusätzliche Instabilität verursachen können.

Schritte

  1. Listen Sie KI-Arbeitslasten auf, die sich anhalten und neu starten lassen, etwa Training, Evaluation und Batch-Inferenz.
  2. Ergänzen Sie diese Jobs um regelmäßige Checkpoints und eine saubere Wiederholungslogik.
  3. Führen Sie sie auf Spot- oder Preemptible-Kapazität über mehrere Instanztypen hinweg aus.
  4. Lassen Sie interaktive oder termingebundene Arbeit auf Standardkapazität.
  5. Messen Sie, wie viel Arbeit durch Unterbrechungen verloren geht, und passen Sie das Checkpoint-Intervall an.

Freie Kapazität ist Hardware, die bereits gebaut ist und mit Strom versorgt wird; sie für flexible Arbeit zu nutzen, nutzt sie besser aus. Außerdem ist sie meist deutlich günstiger, was zusätzlich dafür spricht.

Welche KI-Jobs eignen sich dafür?

  • Trainings- und Fine-Tuning-Läufe, die regelmäßig Checkpoints speichern;
  • Hyperparametersuchen, bei denen jeder Versuch unabhängig ist;
  • Evaluations- und Benchmark-Läufe;
  • Batch-Inferenz über eine Warteschlange von Dokumenten oder Bildern;
  • Datenaufbereitung.

Die Nachhaltigkeitsleitlinien des Azure Well-Architected Framework von Microsoft sagen, man solle „Spot-VMs nur für unterbrechungstolerante Arbeitslasten verwenden“, und merken an, dass sie Infrastrukturverschwendung verringern, aber auch Instabilität verursachen können.

Wie mache ich einen Job unterbrechungssicher?

  1. Speichern Sie Checkpoints, einschließlich des Optimierer-Zustands, in einem sinnvollen Intervall.
  2. Sorgen Sie dafür, dass der Job beim Neustart automatisch am letzten Checkpoint weitermacht.
  3. Lassen Sie mehrere Instanztypen zu, damit der Scheduler auf mehr freie Kapazität zugreifen kann.
  4. Schreiben Sie Ausgaben schrittweise, damit fertige Arbeit nicht verloren geht.

Checkpoints erlauben es auch, Jobs anzuhalten, wenn das Netz schmutzig ist, wie es das Muster der Green Software Foundation für KI-Arbeitslasten vorschlägt; siehe Training planen, wenn das Netz grüner ist.

Häufige Fehler

  • Keine Checkpoints, sodass eine Unterbrechung Stunden an Arbeit zunichtemacht und die Energie verschwendet ist.
  • Zu häufige Checkpoints, sodass das Speichern mehr kostet, als es schützt.
  • Nutzerorientierte Dienste auf Spot-Kapazität betreiben.

Siehe Hosting und Rechenzentren.

Quellen

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Machen Sie mit

Helfen Sie, die Umweltwirkung von KI zu senken

Erhalten Sie neue Leitfäden, Förderausschreibungen und Verzeichniseinträge etwa einmal im Monat per E-Mail. Oder tragen Sie Ihr Produkt, Ihren Kurs, Ihre PhD-Stelle oder Ihre Forschung in die Verzeichnisse ein.

Kein Tracking. Abmeldung mit einem Klick. Weitere Möglichkeiten mitzumachen · Datenschutz