greenai.guide

Home › Hoe doe ik…? › Hoe voorkom ik dat GPU's en notebooks ongebruikt aan blijven staan?

Hoe doe ik…?

Hoe voorkom ik dat GPU's en notebooks ongebruikt aan blijven staan?

Bijgewerkt · 1 min. leestijd

In het kort

Maak 'op aanvraag' de standaard: pipelines en trainingstaken horen middelen te starten wanneer ze worden geactiveerd en ze vrij te geven als ze klaar zijn. Zet inactieve notebooks en ontwikkel-GPU's na een vaste tijd automatisch uit, schaal niet-productieomgevingen buiten werktijd naar nul en rapporteer inactieve GPU-uren per team naast de kosten, zodat de verspilling zichtbaar wordt.

Stappen

  1. Laat pipelines en trainingstaken middelen starten wanneer ze worden geactiveerd en vrijgeven als ze klaar zijn.
  2. Stel notebooks en ontwikkel-GPU's zo in dat ze na een periode van inactiviteit automatisch uitgaan.
  3. Schaal niet-productieomgevingen buiten werktijd naar nul.
  4. Geef tijdelijke omgevingen een automatische verwijderdatum.
  5. Rapporteer inactieve GPU-uren per team naast de kosten.

Een stilstaande GPU verbruikt nog steeds stroom en houdt nog steeds hardware bezet waarvan de productie energie kostte. Notebooks, clusters en testomgevingen die voor één experiment zijn opgezet, blijven gemakkelijk draaien tussen experimenten door, of worden vergeten.

Wat moet op aanvraag draaien?

De patronen van de Green Software Foundation voor AI- en agent-workloads raden aan infrastructuur alleen te laten draaien terwijl die werkt: serverless of uitvoering op aanvraag voor modelontwikkeling, pipelines en agents, zodat middelen starten wanneer ze worden geactiveerd en stoppen als ze klaar zijn.

Hoe zit het met ontwikkeling en testen?

De Azure Well-Architected-richtlijnen van Microsoft zeggen: "shut down non-production environments when not in use" (zet niet-productieomgevingen uit wanneer ze niet in gebruik zijn). Op Kubernetes kan de cron scaler van KEDA workloads binnen een tijdvenster opschalen en daarbuiten naar nul terugbrengen. Zonder alleen de gedeelde diensten uit die echt moeten blijven draaien, en leg vast waarom.

Wat het grootste verschil maakt

  • Automatisch uitschakelen van notebooks, de GPU-gebruikers die het vaakst worden vergeten.
  • Zichtbaarheid. Zet inactieve GPU-uren in hetzelfde rapport als de uitgaven; teams handelen naar wat ze zien.
  • Delen. Een gedeelde pool of wachtrij houdt GPU's meestal drukker bezig dan één machine per persoon.

Veelgemaakte fouten

  • Grote GPU's "voor de zekerheid" reserveren voor werk dat één keer per week draait.
  • Modellen permanent in het geheugen geladen houden voor een interne tool die een paar keer per dag wordt gebruikt.

Zie hosting en datacenters en efficiënte training en inferentie.

Bronnen

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

Doe mee

Help de impact van AI op de planeet te verkleinen

Ontvang ongeveer eens per maand nieuwe gidsen, financieringsoproepen en vermeldingen per e-mail. Of voeg uw product, cursus, promotieplaats of onderzoek toe aan de gidsen.

Geen tracking. Met één klik afmelden. Andere manieren om mee te doen · Privacy