In breve
Misuri l'energia dell'IA rilevando i consumi dell'hardware che controlla e stimando quelli dei servizi che non controlla, poi converta entrambi in carbonio con dati di rete locali e riferiti allo stesso momento. Registri con ogni dato il confine, il metodo e l'incertezza, e lo riporti per unità di lavoro utile, non solo come totale.
Punti chiave
- Misuri dove può (contatori hardware, telemetria delle GPU, prese, log dello scheduler) e stimi dove non può (API ospitate, cloud pubblico).
- Ogni dato richiede un confine del sistema dichiarato: che cosa è incluso, che cosa è escluso e perché.
- Riporti l'energia per unità di lavoro utile, per esempio per richiesta o per documento, così l'efficienza resta visibile mentre l'uso cresce.
- Usi l'intensità carbonica della rete location-based per la regione e l'ora in cui il lavoro è stato eseguito; i certificati non la cambiano.
- Ripeta le misurazioni e indichi un intervallo. Una sola coppia prima-dopo può essere rumore.
Perché misurare?
Non si può ridurre, confrontare né dichiarare onestamente ciò che non si è misurato. La misurazione trasforma "l'IA consuma molta energia" in numeri su cui agire: quale funzione, modello o lavoro costa di più, e se una modifica è servita.
Al sandpit (un laboratorio di idee) britannico sull'IA verde del 2026, con matematici, informatici e industria, la misurazione è emersa più volte come il collo di bottiglia. Molti dati pubblicati sono stime, i metodi spesso non sono documentati e lo stesso lavoro può produrre numeri molto diversi a seconda di che cosa si conta. Questa guida presenta un metodo che regge.
Devo misurare o stimare?
Misuri l'hardware che controlla; stimi i servizi che non controlla. Entrambe le strade sono valide, purché ogni dato dica quale è stata seguita.
| Situazione | Approccio | Strumenti tipici |
|---|---|---|
| Il Suo portatile, workstation o server | Misurare con i contatori hardware | perf o powercap (contatori RAPL Intel/AMD), PowerJoular, Scaphandre |
| Le Sue GPU | Misurare con la telemetria del produttore, campionata nel tempo | nvidia-smi o NVML, CodeCarbon |
| Un cluster di ricerca | Leggere la contabilità energetica dello scheduler | Slurm sacct (campo ConsumedEnergy), dove abilitato |
| Macchine virtuali nel cloud pubblico | Stimare da utilizzo e fatturazione | Cloud Carbon Footprint, cruscotti delle emissioni dei provider |
| API di IA ospitate | Stimare da token e ipotesi sul modello | EcoLogits |
| Confrontare modelli aperti prima di scegliere | Usare un benchmark standard | Hugging Face AI Energy Score |
Le indicazioni di CodeCarbon tracciano la stessa linea: usare CodeCarbon per il codice che gira su hardware gestito da Lei ed EcoLogits per le chiamate a servizi remoti di IA generativa, dove non ha accesso all'hardware.
Conosca i limiti del Suo strumento di misura
- La telemetria delle GPU campiona, non osserva di continuo. Alcuni ricercatori hanno rilevato che sulle GPU
A100 e H100
nvidia-smicampiona la potenza solo per circa il 25% del tempo di esecuzione, il che può causare forti sottostime o sovrastime per i lavori brevi. Campioni per l'intera durata del lavoro, lo faccia durare abbastanza da coprire molti intervalli di campionamento e integri nel tempo. - I misuratori software sono modelli. Li verifichi una volta per piattaforma con un misuratore a presa (basta una presa intelligente con misurazione).
- I numeri del cloud sono stime. Sulle macchine virtuali del cloud pubblico i contatori hardware di solito non sono disponibili, quindi etichetti i dati del cloud come stimati.
Che cosa dovrebbe includere il confine del sistema?
Tracci il confine abbastanza largo da includere tutto ciò che è significativo, e lo metta per iscritto. Un dato senza confine non si può confrontare con nulla.
L'articolo di Google del 2025 su Gemini ne è un buon esempio. Indica per un prompt testuale mediano 0,24 Wh quando conta acceleratori, macchine host, capacità inattiva e sovraccarico del data centre, e 0,10 Wh quando conta solo l'uso attivo di TPU e GPU. Entrambi i dati sono onesti; rispondono a domande diverse. Il confine di Google esclude inoltre la rete esterna, i dispositivi degli utenti e l'addestramento del modello, e i dati non sono stati verificati in modo indipendente.
Esamini questi livelli e decida, per ciascuno, se è dentro o fuori:
- L'acceleratore (GPU, TPU) che esegue i calcoli.
- Il resto del server: CPU, memoria, archiviazione.
- La capacità inattiva e riservata tenuta pronta per il Suo lavoro.
- Il sovraccarico del data centre: raffreddamento e conversione dell'energia, rappresentati dal PUE.
- La rete tra gli utenti e il servizio.
- I dispositivi degli utenti.
- Le emissioni incorporate: la quota della fabbricazione dell'hardware attribuibile al Suo uso.
- Addestramento e fine-tuning, ripartiti sulla vita utile del modello.
- Il processo circostante: nuovi tentativi, esecuzioni fallite, tempo di revisione umana.
Il sandpit ha fatto la stessa osservazione su affermazioni come "l'IA costa trenta volte più che farlo a mano": la risposta dipende dal fatto che si conti o meno il tempo di lavoro della persona, la sua attrezzatura e tutto ciò che la circonda. Definisca il confine prima di confrontare.
Che cosa devo registrare?
Registri abbastanza perché un'altra persona possa ripetere la misurazione e ottenere un numero simile. Per ogni dato, conservi:
- Che cosa è stato misurato: modello e versione, attività, set di dati o di prompt, numero di token in input e in output.
- Dove e quando: hardware, regione, data e ora (necessarie per l'intensità carbonica).
- Come: strumento e versione, frequenza di campionamento, misurato o stimato, consumo di base a riposo incluso o escluso.
- Il confine: quali dei livelli sopra sono inclusi.
- La regola di ripartizione: come l'energia condivisa o inattiva è stata suddivisa tra utenti o servizi.
- La dispersione: numero di esecuzioni, media e intervallo.
- La qualità: l'accuratezza o il tasso di successo dell'attività in quel momento. Una risposta sbagliata a basso costo non è un risparmio.
Come converto l'energia in carbonio?
Moltiplichi l'energia per l'intensità carbonica della rete nel luogo e nel momento in cui il lavoro è stato eseguito, e aggiunga le emissioni incorporate se rientrano nel Suo confine. La specifica Software Carbon Intensity (SCI) della Green Software Foundation, pubblicata come ISO/IEC 21031:2024, la esprime come un tasso:
SCI = ((E × I) + M) per R
dove E è l'energia, I è l'intensità carbonica della rete location-based, M sono le emissioni incorporate e R è l'unità funzionale. La specifica usa dati di rete location-based e non consente che misure market-based come certificati di energia rinnovabile, contratti di acquisto di energia o compensazioni riducano il punteggio.
- Usi, dove può, dati regionali e riferiti allo stesso momento. In Gran Bretagna, la Carbon Intensity API del National Energy System Operator fornisce previsioni e stime regionali; Electricity Maps copre molti altri paesi.
- Ricorra alle medie nazionali annuali solo quando non esiste nulla di più dettagliato, e lo dichiari.
Quali metriche per attività funzionano meglio?
Scelga un'unità funzionale che corrisponda al valore fornito dalla Sua IA e riporti i dati rispetto a quella. I totali crescono con la crescita e nascondono l'efficienza; i dati per unità la mostrano.
Buone unità funzionali per il lavoro di IA:
- per richiesta, per risposta o per conversazione
- per documento riassunto, ticket classificato o immagine prodotta
- per attività riuscita (ancora meglio, perché anche i tentativi falliti contano)
- per esecuzione di addestramento o per modello sottoposto a fine-tuning, per il lavoro di sviluppo
Poi segua energia per unità, carbonio per unità, qualità per unità e totale fianco a fianco. Se l'energia per unità scende mentre il totale sale, l'efficienza migliora ma l'uso cresce più in fretta: è l'effetto rimbalzo, e la Sua rendicontazione dovrebbe mostrarlo.
Come gestisco l'incertezza?
Ripeta, riporti un intervallo e dichiari solo variazioni più grandi del rumore. Le letture variano con la temperatura, i processi in background e la variazione di frequenza dei processori.
- Misuri prima il consumo di base a riposo sulla stessa macchina.
- Esegua ogni test più volte; riporti media e dispersione.
- Cambi una cosa alla volta e misuri di nuovo con la stessa configurazione e lo stesso carico.
- Per le stime, elenchi ogni ipotesi (dimensione del modello, hardware, utilizzo, PUE) e indichi un caso basso e uno alto.
- Sostituisca le stime con dati misurati o comunicati dai fornitori man mano che diventano disponibili.
I dati per prompt pubblicati sono un contesto utile, non un sostituto dei Suoi numeri. La stima dal basso di Epoch AI di circa 0,3 Wh per una tipica richiesta a ChatGPT sale a circa 2,5 Wh con un input di 10.000 token e a quasi 40 Wh con un input di 100.000 token. Il Suo modo d'uso conta più di qualsiasi media da titolo.
Lista di controllo
- [ ] Ogni dato è etichettato come misurato o stimato, con strumento e versione
- [ ] Confine messo per iscritto, compreso ciò che è stato escluso e perché
- [ ] Consumo di base a riposo registrato; regola di ripartizione dell'energia condivisa dichiarata
- [ ] Potenza delle GPU campionata per l'intero lavoro, non con un'istantanea
- [ ] Energia riportata per unità funzionale, insieme a totale e qualità
- [ ] Carbonio calcolato con dati di rete location-based e riferiti allo stesso momento
- [ ] Più esecuzioni; media e intervallo riportati
- [ ] Metodo conservato con i risultati, così che altri possano ripeterlo
Che cosa fare adesso
- Scelga una funzione o un carico di lavoro di IA e ne definisca l'unità funzionale.
- Aggiunga CodeCarbon a uno script di addestramento o di inferenza locale, oppure EcoLogits al Suo client per le API di IA, e registri l'energia con ogni richiesta o esecuzione.
- Scriva un metodo di misurazione di una pagina: confine, strumenti, regola di ripartizione, fonte dei dati sul carbonio.
- Metta alla prova i modelli candidati prima di sceglierne uno; veda scegliere il modello giusto.
- Prima di pubblicare qualsiasi dato, lo verifichi con dichiarazioni ambientali oneste.
- Legga perché la misurazione è il collo di bottiglia e trovi strumenti di misurazione nella directory dei prodotti o aiuto dai consulenti.
Domande frequenti
Quanta energia consuma un prompt di IA?
I dati pubblicati per un tipico prompt testuale sono una frazione di wattora: Google indica 0,24 Wh per un prompt testuale mediano di Gemini ed Epoch AI stima circa 0,3 Wh per una tipica richiesta a ChatGPT. Input lunghi, ragionamento e generazione di immagini o video possono costare molto di più.
Posso misurare l'energia di un servizio di IA ospitato come ChatGPT?
Non direttamente. Può stimarla dal numero di token e da ipotesi sul modello con uno strumento come EcoLogits, e chiedere al fornitore i suoi dati e il suo metodo.
Il tempo di esecuzione è un buon sostituto dell'energia?
No. Velocità ed energia spesso vanno di pari passo, ma non sempre, quindi misuri direttamente l'energia e riporti entrambi.
Che cos'è un confine del sistema?
È l'elenco di ciò che il Suo dato include: per esempio solo la GPU, l'intero server, il sovraccarico del data centre, la rete, i dispositivi degli utenti e la fabbricazione dell'hardware. Due dati onesti possono differire di dieci volte perché i loro confini sono diversi.
Fonti
- Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- ISO/IEC 21031:2024 Software Carbon Intensity (SCI) specification, ISO (2024)
- When to use CodeCarbon, CodeCarbon (2025)
- EcoLogits documentation, EcoLogits (2025)
- AI Energy Score, Hugging Face (2025)
- Carbon Intensity API, National Energy System Operator (2025)
- Slurm sacct manual (ConsumedEnergy), SchedMD (2025)
Correlati
Scegliere il modello giusto per il compito
Come dimensionare bene l'IA: quando usare modelli piccoli o specializzati, quando un modello di frontiera vale il suo costo, come funziona il routing e quando non usare l'IA.
Dichiarazioni ambientali oneste sull'IA
Come evitare il greenwashing sull'IA: che cosa si può e non si può dichiarare, effetti rimbalzo, rendicontazione onesta e norme di Regno Unito, UE e USA.
La misurazione è il collo di bottiglia dell'IA verde
Perché i dati sull'energia dell'IA sono difficili da verificare e confrontare: dichiarazioni proprie, stime invece di misure, confini diversi.
Etichette energetiche e benchmark per l'IA
A che punto sono le valutazioni energetiche dell'IA nel 2026: AI Energy Score, MLPerf Power, documentazione dell'AI Act UE e classificazione dei data centre.