greenai.guide

Home › Come faccio a…? › Come evito che GPU e notebook restino accesi inutilizzati?

Come faccio a…?

Come evito che GPU e notebook restino accesi inutilizzati?

Aggiornato · 1 min di lettura

In breve

Faccia dell'esecuzione su richiesta la norma: pipeline e job di addestramento dovrebbero avviare le risorse quando vengono attivati e rilasciarle quando finiscono. Spenga automaticamente notebook e GPU di sviluppo inattivi dopo un tempo stabilito, riduca a zero gli ambienti non di produzione fuori orario e riporti le ore-GPU inattive di ogni gruppo accanto ai costi, così lo spreco diventa visibile.

Passaggi

  1. Faccia in modo che pipeline e job di addestramento avviino le risorse quando vengono attivati e le rilascino quando finiscono.
  2. Imposti notebook e GPU di sviluppo perché si spengano automaticamente dopo un periodo di inattività.
  3. Riduca a zero gli ambienti non di produzione fuori dall'orario di lavoro.
  4. Assegni agli ambienti temporanei una data di eliminazione automatica.
  5. Riporti le ore-GPU inattive di ogni gruppo accanto ai costi.

Una GPU inattiva assorbe comunque energia e tiene comunque impegnato hardware la cui produzione ha richiesto energia. Notebook, cluster e ambienti di test allestiti per un esperimento restano facilmente accesi tra un esperimento e l'altro, o vengono dimenticati.

Che cosa dovrebbe funzionare su richiesta?

I pattern della Green Software Foundation per i carichi di lavoro di IA e degli agenti raccomandano di far girare l'infrastruttura solo mentre lavora: esecuzione serverless o su richiesta per lo sviluppo dei modelli, le pipeline e gli agenti, in modo che le risorse si avviino quando vengono attivate e si fermino quando hanno finito.

E per lo sviluppo e i test?

Le linee guida Azure Well-Architected di Microsoft indicano di "spegnere gli ambienti non di produzione quando non sono in uso". Su Kubernetes, il cron scaler di KEDA può aumentare i carichi di lavoro in una fascia oraria e ridurli a zero al di fuori. Escluda solo i servizi condivisi che devono davvero restare attivi, e metta per iscritto il motivo.

Che cosa fa la differenza maggiore

  • L'arresto automatico dei notebook, che sono gli utilizzatori di GPU dimenticati più spesso.
  • La visibilità. Metta le ore-GPU inattive nello stesso report della spesa: i gruppi agiscono su ciò che vedono.
  • La condivisione. Un pool o una coda condivisi di solito tengono le GPU più occupate di una macchina per persona.

Errori comuni

  • Riservare grandi GPU "per sicurezza" per lavori che girano una volta alla settimana.
  • Tenere i modelli caricati in memoria in permanenza per uno strumento interno usato poche volte al giorno.

Veda hosting e data centre e addestramento e inferenza efficienti.

Fonti

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

Si unisca a noi

Aiuti a ridurre l'impatto dell'IA sul pianeta

Riceva per email nuove guide, bandi di finanziamento e schede delle directory, circa una volta al mese. Oppure aggiunga il suo prodotto, corso, dottorato o ricerca alle directory.

Nessun tracciamento. Disiscrizione con un clic. Altri modi per partecipare · Privacy