Kurz gesagt
Cloud-Anbieter verkaufen freie Kapazität günstig unter der Bedingung, dass sie sie kurzfristig zurückholen können, als Spot- oder Preemptible-Instanzen. Training, Evaluation, Batch-Inferenz und Datenverarbeitung können sie nutzen, wenn sie Checkpoints speichern und sauber neu starten. Microsoft rät, sie nur für unterbrechungstolerante Arbeit zu verwenden, weil die Unterbrechungen zusätzliche Instabilität verursachen können.
Schritte
- Listen Sie KI-Arbeitslasten auf, die sich anhalten und neu starten lassen, etwa Training, Evaluation und Batch-Inferenz.
- Ergänzen Sie diese Jobs um regelmäßige Checkpoints und eine saubere Wiederholungslogik.
- Führen Sie sie auf Spot- oder Preemptible-Kapazität über mehrere Instanztypen hinweg aus.
- Lassen Sie interaktive oder termingebundene Arbeit auf Standardkapazität.
- Messen Sie, wie viel Arbeit durch Unterbrechungen verloren geht, und passen Sie das Checkpoint-Intervall an.
Freie Kapazität ist Hardware, die bereits gebaut ist und mit Strom versorgt wird; sie für flexible Arbeit zu nutzen, nutzt sie besser aus. Außerdem ist sie meist deutlich günstiger, was zusätzlich dafür spricht.
Welche KI-Jobs eignen sich dafür?
- Trainings- und Fine-Tuning-Läufe, die regelmäßig Checkpoints speichern;
- Hyperparametersuchen, bei denen jeder Versuch unabhängig ist;
- Evaluations- und Benchmark-Läufe;
- Batch-Inferenz über eine Warteschlange von Dokumenten oder Bildern;
- Datenaufbereitung.
Die Nachhaltigkeitsleitlinien des Azure Well-Architected Framework von Microsoft sagen, man solle „Spot-VMs nur für unterbrechungstolerante Arbeitslasten verwenden“, und merken an, dass sie Infrastrukturverschwendung verringern, aber auch Instabilität verursachen können.
Wie mache ich einen Job unterbrechungssicher?
- Speichern Sie Checkpoints, einschließlich des Optimierer-Zustands, in einem sinnvollen Intervall.
- Sorgen Sie dafür, dass der Job beim Neustart automatisch am letzten Checkpoint weitermacht.
- Lassen Sie mehrere Instanztypen zu, damit der Scheduler auf mehr freie Kapazität zugreifen kann.
- Schreiben Sie Ausgaben schrittweise, damit fertige Arbeit nicht verloren geht.
Checkpoints erlauben es auch, Jobs anzuhalten, wenn das Netz schmutzig ist, wie es das Muster der Green Software Foundation für KI-Arbeitslasten vorschlägt; siehe Training planen, wenn das Netz grüner ist.
Häufige Fehler
- Keine Checkpoints, sodass eine Unterbrechung Stunden an Arbeit zunichtemacht und die Energie verschwendet ist.
- Zu häufige Checkpoints, sodass das Speichern mehr kostet, als es schützt.
- Nutzerorientierte Dienste auf Spot-Kapazität betreiben.
Siehe Hosting und Rechenzentren.
Quellen
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)
Verwandte Themen
Wie verhindere ich, dass GPUs und Notebooks ungenutzt laufen?
Verhindern Sie, dass ungenutzte KI-Hardware Energie verschwendet: Ressourcen bei Bedarf starten, Notebooks automatisch stoppen, nachts auf null skalieren.
Wie plane ich KI-Training für Zeiten, in denen der Strom sauberer ist?
Training und Batch-Jobs laufen lassen, wenn die CO₂-Intensität im Netz niedrig ist: Prognosen nutzen, Jobs per Checkpoint pausierbar machen, Fristen fest einhalten.
Wie bündle ich KI-Anfragen, um Energie zu sparen?
Wie Batching die Auslastung von Beschleunigern erhöht und Energie pro Antwort senkt: Continuous Batching live, Warteschlangen für Offline-Arbeit.
Hosting und Rechenzentren für grüne KI
Wo KI laufen sollte: CO2-Intensität des Stromnetzes, PUE und WUE, Ökostromaussagen, Wasserverbrauch und Standortwahl, mit Fragen an Hoster.