greenai.guide

Home › Buone pratiche › Come misurare l'energia e il carbonio dell'IA

Buone pratiche

Come misurare l'energia e il carbonio dell'IA

Aggiornato · 7 min di lettura

In breve

Misuri l'energia dell'IA rilevando i consumi dell'hardware che controlla e stimando quelli dei servizi che non controlla, poi converta entrambi in carbonio con dati di rete locali e riferiti allo stesso momento. Registri con ogni dato il confine, il metodo e l'incertezza, e lo riporti per unità di lavoro utile, non solo come totale.

Punti chiave

  • Misuri dove può (contatori hardware, telemetria delle GPU, prese, log dello scheduler) e stimi dove non può (API ospitate, cloud pubblico).
  • Ogni dato richiede un confine del sistema dichiarato: che cosa è incluso, che cosa è escluso e perché.
  • Riporti l'energia per unità di lavoro utile, per esempio per richiesta o per documento, così l'efficienza resta visibile mentre l'uso cresce.
  • Usi l'intensità carbonica della rete location-based per la regione e l'ora in cui il lavoro è stato eseguito; i certificati non la cambiano.
  • Ripeta le misurazioni e indichi un intervallo. Una sola coppia prima-dopo può essere rumore.

Perché misurare?

Non si può ridurre, confrontare né dichiarare onestamente ciò che non si è misurato. La misurazione trasforma "l'IA consuma molta energia" in numeri su cui agire: quale funzione, modello o lavoro costa di più, e se una modifica è servita.

Al sandpit (un laboratorio di idee) britannico sull'IA verde del 2026, con matematici, informatici e industria, la misurazione è emersa più volte come il collo di bottiglia. Molti dati pubblicati sono stime, i metodi spesso non sono documentati e lo stesso lavoro può produrre numeri molto diversi a seconda di che cosa si conta. Questa guida presenta un metodo che regge.

Devo misurare o stimare?

Misuri l'hardware che controlla; stimi i servizi che non controlla. Entrambe le strade sono valide, purché ogni dato dica quale è stata seguita.

Situazione Approccio Strumenti tipici
Il Suo portatile, workstation o server Misurare con i contatori hardware perf o powercap (contatori RAPL Intel/AMD), PowerJoular, Scaphandre
Le Sue GPU Misurare con la telemetria del produttore, campionata nel tempo nvidia-smi o NVML, CodeCarbon
Un cluster di ricerca Leggere la contabilità energetica dello scheduler Slurm sacct (campo ConsumedEnergy), dove abilitato
Macchine virtuali nel cloud pubblico Stimare da utilizzo e fatturazione Cloud Carbon Footprint, cruscotti delle emissioni dei provider
API di IA ospitate Stimare da token e ipotesi sul modello EcoLogits
Confrontare modelli aperti prima di scegliere Usare un benchmark standard Hugging Face AI Energy Score

Le indicazioni di CodeCarbon tracciano la stessa linea: usare CodeCarbon per il codice che gira su hardware gestito da Lei ed EcoLogits per le chiamate a servizi remoti di IA generativa, dove non ha accesso all'hardware.

Conosca i limiti del Suo strumento di misura

  • La telemetria delle GPU campiona, non osserva di continuo. Alcuni ricercatori hanno rilevato che sulle GPU A100 e H100 nvidia-smi campiona la potenza solo per circa il 25% del tempo di esecuzione, il che può causare forti sottostime o sovrastime per i lavori brevi. Campioni per l'intera durata del lavoro, lo faccia durare abbastanza da coprire molti intervalli di campionamento e integri nel tempo.
  • I misuratori software sono modelli. Li verifichi una volta per piattaforma con un misuratore a presa (basta una presa intelligente con misurazione).
  • I numeri del cloud sono stime. Sulle macchine virtuali del cloud pubblico i contatori hardware di solito non sono disponibili, quindi etichetti i dati del cloud come stimati.

Che cosa dovrebbe includere il confine del sistema?

Tracci il confine abbastanza largo da includere tutto ciò che è significativo, e lo metta per iscritto. Un dato senza confine non si può confrontare con nulla.

L'articolo di Google del 2025 su Gemini ne è un buon esempio. Indica per un prompt testuale mediano 0,24 Wh quando conta acceleratori, macchine host, capacità inattiva e sovraccarico del data centre, e 0,10 Wh quando conta solo l'uso attivo di TPU e GPU. Entrambi i dati sono onesti; rispondono a domande diverse. Il confine di Google esclude inoltre la rete esterna, i dispositivi degli utenti e l'addestramento del modello, e i dati non sono stati verificati in modo indipendente.

Esamini questi livelli e decida, per ciascuno, se è dentro o fuori:

  1. L'acceleratore (GPU, TPU) che esegue i calcoli.
  2. Il resto del server: CPU, memoria, archiviazione.
  3. La capacità inattiva e riservata tenuta pronta per il Suo lavoro.
  4. Il sovraccarico del data centre: raffreddamento e conversione dell'energia, rappresentati dal PUE.
  5. La rete tra gli utenti e il servizio.
  6. I dispositivi degli utenti.
  7. Le emissioni incorporate: la quota della fabbricazione dell'hardware attribuibile al Suo uso.
  8. Addestramento e fine-tuning, ripartiti sulla vita utile del modello.
  9. Il processo circostante: nuovi tentativi, esecuzioni fallite, tempo di revisione umana.

Il sandpit ha fatto la stessa osservazione su affermazioni come "l'IA costa trenta volte più che farlo a mano": la risposta dipende dal fatto che si conti o meno il tempo di lavoro della persona, la sua attrezzatura e tutto ciò che la circonda. Definisca il confine prima di confrontare.

Che cosa devo registrare?

Registri abbastanza perché un'altra persona possa ripetere la misurazione e ottenere un numero simile. Per ogni dato, conservi:

  • Che cosa è stato misurato: modello e versione, attività, set di dati o di prompt, numero di token in input e in output.
  • Dove e quando: hardware, regione, data e ora (necessarie per l'intensità carbonica).
  • Come: strumento e versione, frequenza di campionamento, misurato o stimato, consumo di base a riposo incluso o escluso.
  • Il confine: quali dei livelli sopra sono inclusi.
  • La regola di ripartizione: come l'energia condivisa o inattiva è stata suddivisa tra utenti o servizi.
  • La dispersione: numero di esecuzioni, media e intervallo.
  • La qualità: l'accuratezza o il tasso di successo dell'attività in quel momento. Una risposta sbagliata a basso costo non è un risparmio.

Come converto l'energia in carbonio?

Moltiplichi l'energia per l'intensità carbonica della rete nel luogo e nel momento in cui il lavoro è stato eseguito, e aggiunga le emissioni incorporate se rientrano nel Suo confine. La specifica Software Carbon Intensity (SCI) della Green Software Foundation, pubblicata come ISO/IEC 21031:2024, la esprime come un tasso:

SCI = ((E × I) + M) per R

dove E è l'energia, I è l'intensità carbonica della rete location-based, M sono le emissioni incorporate e R è l'unità funzionale. La specifica usa dati di rete location-based e non consente che misure market-based come certificati di energia rinnovabile, contratti di acquisto di energia o compensazioni riducano il punteggio.

  • Usi, dove può, dati regionali e riferiti allo stesso momento. In Gran Bretagna, la Carbon Intensity API del National Energy System Operator fornisce previsioni e stime regionali; Electricity Maps copre molti altri paesi.
  • Ricorra alle medie nazionali annuali solo quando non esiste nulla di più dettagliato, e lo dichiari.

Quali metriche per attività funzionano meglio?

Scelga un'unità funzionale che corrisponda al valore fornito dalla Sua IA e riporti i dati rispetto a quella. I totali crescono con la crescita e nascondono l'efficienza; i dati per unità la mostrano.

Buone unità funzionali per il lavoro di IA:

  • per richiesta, per risposta o per conversazione
  • per documento riassunto, ticket classificato o immagine prodotta
  • per attività riuscita (ancora meglio, perché anche i tentativi falliti contano)
  • per esecuzione di addestramento o per modello sottoposto a fine-tuning, per il lavoro di sviluppo

Poi segua energia per unità, carbonio per unità, qualità per unità e totale fianco a fianco. Se l'energia per unità scende mentre il totale sale, l'efficienza migliora ma l'uso cresce più in fretta: è l'effetto rimbalzo, e la Sua rendicontazione dovrebbe mostrarlo.

Come gestisco l'incertezza?

Ripeta, riporti un intervallo e dichiari solo variazioni più grandi del rumore. Le letture variano con la temperatura, i processi in background e la variazione di frequenza dei processori.

  • Misuri prima il consumo di base a riposo sulla stessa macchina.
  • Esegua ogni test più volte; riporti media e dispersione.
  • Cambi una cosa alla volta e misuri di nuovo con la stessa configurazione e lo stesso carico.
  • Per le stime, elenchi ogni ipotesi (dimensione del modello, hardware, utilizzo, PUE) e indichi un caso basso e uno alto.
  • Sostituisca le stime con dati misurati o comunicati dai fornitori man mano che diventano disponibili.

I dati per prompt pubblicati sono un contesto utile, non un sostituto dei Suoi numeri. La stima dal basso di Epoch AI di circa 0,3 Wh per una tipica richiesta a ChatGPT sale a circa 2,5 Wh con un input di 10.000 token e a quasi 40 Wh con un input di 100.000 token. Il Suo modo d'uso conta più di qualsiasi media da titolo.

Lista di controllo

  • [ ] Ogni dato è etichettato come misurato o stimato, con strumento e versione
  • [ ] Confine messo per iscritto, compreso ciò che è stato escluso e perché
  • [ ] Consumo di base a riposo registrato; regola di ripartizione dell'energia condivisa dichiarata
  • [ ] Potenza delle GPU campionata per l'intero lavoro, non con un'istantanea
  • [ ] Energia riportata per unità funzionale, insieme a totale e qualità
  • [ ] Carbonio calcolato con dati di rete location-based e riferiti allo stesso momento
  • [ ] Più esecuzioni; media e intervallo riportati
  • [ ] Metodo conservato con i risultati, così che altri possano ripeterlo

Che cosa fare adesso

  1. Scelga una funzione o un carico di lavoro di IA e ne definisca l'unità funzionale.
  2. Aggiunga CodeCarbon a uno script di addestramento o di inferenza locale, oppure EcoLogits al Suo client per le API di IA, e registri l'energia con ogni richiesta o esecuzione.
  3. Scriva un metodo di misurazione di una pagina: confine, strumenti, regola di ripartizione, fonte dei dati sul carbonio.
  4. Metta alla prova i modelli candidati prima di sceglierne uno; veda scegliere il modello giusto.
  5. Prima di pubblicare qualsiasi dato, lo verifichi con dichiarazioni ambientali oneste.
  6. Legga perché la misurazione è il collo di bottiglia e trovi strumenti di misurazione nella directory dei prodotti o aiuto dai consulenti.

Domande frequenti

Quanta energia consuma un prompt di IA?

I dati pubblicati per un tipico prompt testuale sono una frazione di wattora: Google indica 0,24 Wh per un prompt testuale mediano di Gemini ed Epoch AI stima circa 0,3 Wh per una tipica richiesta a ChatGPT. Input lunghi, ragionamento e generazione di immagini o video possono costare molto di più.

Posso misurare l'energia di un servizio di IA ospitato come ChatGPT?

Non direttamente. Può stimarla dal numero di token e da ipotesi sul modello con uno strumento come EcoLogits, e chiedere al fornitore i suoi dati e il suo metodo.

Il tempo di esecuzione è un buon sostituto dell'energia?

No. Velocità ed energia spesso vanno di pari passo, ma non sempre, quindi misuri direttamente l'energia e riporti entrambi.

Che cos'è un confine del sistema?

È l'elenco di ciò che il Suo dato include: per esempio solo la GPU, l'intero server, il sovraccarico del data centre, la rete, i dispositivi degli utenti e la fabbricazione dell'hardware. Due dati onesti possono differire di dieci volte perché i loro confini sono diversi.

Fonti

  1. Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
  2. How much energy does ChatGPT use?, Epoch AI (2025)
  3. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  4. Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
  5. ISO/IEC 21031:2024 Software Carbon Intensity (SCI) specification, ISO (2024)
  6. When to use CodeCarbon, CodeCarbon (2025)
  7. EcoLogits documentation, EcoLogits (2025)
  8. AI Energy Score, Hugging Face (2025)
  9. Carbon Intensity API, National Energy System Operator (2025)
  10. Slurm sacct manual (ConsumedEnergy), SchedMD (2025)

Si unisca a noi

Aiuti a ridurre l'impatto dell'IA sul pianeta

Riceva per email nuove guide, bandi di finanziamento e schede delle directory, circa una volta al mese. Oppure aggiunga il suo prodotto, corso, dottorato o ricerca alle directory.

Nessun tracciamento. Disiscrizione con un clic. Altri modi per partecipare · Privacy