greenai.guide

Startseite › Wie kann ich …? › Wie verhindere ich, dass GPUs und Notebooks ungenutzt laufen?

Wie kann ich …?

Wie verhindere ich, dass GPUs und Notebooks ungenutzt laufen?

Aktualisiert · 1 Min. Lesezeit

Kurz gesagt

Machen Sie den Betrieb nach Bedarf zum Standard: Pipelines und Trainingsjobs sollten Ressourcen starten, wenn sie ausgelöst werden, und sie freigeben, wenn sie fertig sind. Fahren Sie ungenutzte Notebooks und Entwicklungs-GPUs nach einer festgelegten Zeit automatisch herunter, skalieren Sie Nicht-Produktionsumgebungen außerhalb der Arbeitszeit auf null und berichten Sie ungenutzte GPU-Stunden pro Team neben den Kosten, damit die Verschwendung sichtbar wird.

Schritte

  1. Lassen Sie Pipelines und Trainingsjobs Ressourcen beim Auslösen starten und nach Abschluss freigeben.
  2. Stellen Sie Notebooks und Entwicklungs-GPUs so ein, dass sie nach einer Zeit der Inaktivität automatisch herunterfahren.
  3. Skalieren Sie Nicht-Produktionsumgebungen außerhalb der Arbeitszeit auf null.
  4. Geben Sie temporären Umgebungen ein automatisches Löschdatum.
  5. Berichten Sie ungenutzte GPU-Stunden pro Team neben den Kosten.

Eine ungenutzte GPU zieht trotzdem Strom und bindet Hardware, deren Herstellung Energie gekostet hat. Notebooks, Cluster und Testumgebungen, die für ein Experiment eingerichtet wurden, laufen zwischen Experimenten leicht weiter oder werden vergessen.

Was sollte nach Bedarf laufen?

Die Patterns der Green Software Foundation für KI- und Agenten-Workloads empfehlen, Infrastruktur nur laufen zu lassen, während sie arbeitet: serverlose oder bedarfsgesteuerte Ausführung für Modellentwicklung, Pipelines und Agenten, sodass Ressourcen beim Auslösen starten und nach Abschluss stoppen.

Was ist mit Entwicklung und Test?

Die Azure-Well-Architected-Leitlinien von Microsoft empfehlen, „Nicht-Produktionsumgebungen herunterzufahren, wenn sie nicht genutzt werden“. Unter Kubernetes kann der Cron-Scaler von KEDA Workloads innerhalb eines Zeitfensters hochskalieren und außerhalb davon auf null. Nehmen Sie nur die gemeinsam genutzten Dienste aus, die wirklich laufen müssen, und schreiben Sie auf, warum.

Was den größten Unterschied macht

  • Automatisches Herunterfahren von Notebooks, die am häufigsten vergessenen GPU-Nutzer.
  • Sichtbarkeit. Stellen Sie ungenutzte GPU-Stunden in denselben Bericht wie die Ausgaben; Teams handeln bei dem, was sie sehen.
  • Teilen. Ein gemeinsamer Pool oder eine Warteschlange hält GPUs meist besser ausgelastet als eine Maschine pro Person.

Häufige Fehler

  • Große GPUs „für alle Fälle“ reservieren für Arbeit, die einmal pro Woche läuft.
  • Modelle dauerhaft im Speicher halten für ein internes Werkzeug, das ein paar Mal am Tag genutzt wird.

Siehe Hosting und Rechenzentren und effizientes Training und effiziente Inferenz.

Quellen

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

Machen Sie mit

Helfen Sie, die Umweltwirkung von KI zu senken

Erhalten Sie neue Leitfäden, Förderausschreibungen und Verzeichniseinträge etwa einmal im Monat per E-Mail. Oder tragen Sie Ihr Produkt, Ihren Kurs, Ihre PhD-Stelle oder Ihre Forschung in die Verzeichnisse ein.

Kein Tracking. Abmeldung mit einem Klick. Weitere Möglichkeiten mitzumachen · Datenschutz