In breve
Non si può misurare l'hardware che non si controlla, quindi si stima: registri i token in ingresso e in uscita per ogni chiamata e usi uno strumento come EcoLogits, che avvolge il Suo client di IA e riporta energia ed emissioni stimate per richiesta. Indichi i dati come stime, dichiari il metodo e li sostituisca con numeri forniti dal fornitore quando riesce a ottenerli.
Passaggi
- Registri il modello, i token in ingresso e i token in uscita di ogni chiamata, con l'indicazione della funzionalità che l'ha generata.
- Avvolga il Suo client di IA con uno strumento di stima come EcoLogits per ottenere energia ed emissioni per richiesta.
- Conservi la stima accanto a latenza e costo nei log o nelle dashboard.
- A ogni rilascio, esamini le funzionalità e i prompt più pesanti.
- Chieda al fornitore dati misurati e li sostituisca alle stime quando sono disponibili.
Stimi a partire dai token, la registri per ogni chiamata e chiarisca che si tratta di una stima. I servizi di IA in hosting non offrono alcun contatore, quindi le funzionalità pesanti e i prompt dispendiosi restano invisibili se non costruisce Lei stesso un numero.
Perché i token?
L'energia cresce con la quantità di testo che un modello legge e scrive. La stima dal basso di Epoch AI attribuisce a una tipica richiesta a ChatGPT circa 0,3 Wh, che salgono a circa 2,5 Wh con un input di 10.000 token e a quasi 40 Wh con un input di 100.000 token. I Suoi log dei token, quindi, dicono molto di più di qualsiasi media generica.
Quale strumento devo usare?
Le indicazioni di CodeCarbon tracciano il confine: usi CodeCarbon per il codice che gira su hardware che gestisce Lei, ed EcoLogits per le chiamate a servizi remoti di IA generativa. EcoLogits avvolge le librerie client dei principali fornitori di IA e restituisce l'energia stimata e l'impatto sul riscaldamento globale di ogni richiesta, in base al modello e al numero di token.
Che cosa devo registrare con ogni stima?
- il modello e la versione, e la versione dello strumento usato per la stima;
- i token in ingresso e in uscita;
- la funzionalità o il flusso di lavoro che ha effettuato la chiamata;
- se la chiamata è andata a buon fine, così da calcolare l'energia per compito riuscito.
Errori comuni
- Trattare le stime come misurazioni. Le dimensioni dei modelli e l'hardware dietro i modelli chiusi sono spesso ipotizzati. Indichi un intervallo e lo dichiari.
- Ignorare i nuovi tentativi e i cicli degli agenti. Una sola richiesta dell'utente può generare molte chiamate; veda come monitorare l'energia per compito.
- Non chiedere mai al fornitore. Veda come chiedere a un'azienda di IA i suoi dati energetici.
Maggiori dettagli su metodi e confini in come misurare l'energia dell'IA.
Fonti
- EcoLogits documentation, EcoLogits (2025)
- When to use CodeCarbon, CodeCarbon (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
Correlati
Come misuro l'energia dell'IA per singolo compito invece che in totale?
Scelga un'unità funzionale, come per documento o per compito riuscito, registri energia e qualità rispetto a essa e la riporti accanto al totale.
Come chiedo a un'azienda di IA i suoi dati sul consumo energetico?
Che cosa chiedere a un fornitore di IA su energia, carbonio e acqua per richiesta, come valutare la risposta e perché chiedere serve anche se è incompleta.
Come calcolo il punteggio Software Carbon Intensity di una funzione di IA?
Calcoli il punteggio SCI di una funzione di IA: energia per intensità della rete, più emissioni incorporate, diviso un'unità funzionale come la singola richiesta.
Come misurare l'energia e il carbonio dell'IA
Guida pratica per misurare o stimare energia e carbonio del lavoro di IA: strumenti, confini del sistema, metriche per attività e incertezza dichiarata.