greenai.guide

Home › Come faccio a…? › Come stimo l'energia consumata dalle mie chiamate alle API di IA?

Come faccio a…?

Come stimo l'energia consumata dalle mie chiamate alle API di IA?

Aggiornato · 2 min di lettura

In breve

Non si può misurare l'hardware che non si controlla, quindi si stima: registri i token in ingresso e in uscita per ogni chiamata e usi uno strumento come EcoLogits, che avvolge il Suo client di IA e riporta energia ed emissioni stimate per richiesta. Indichi i dati come stime, dichiari il metodo e li sostituisca con numeri forniti dal fornitore quando riesce a ottenerli.

Passaggi

  1. Registri il modello, i token in ingresso e i token in uscita di ogni chiamata, con l'indicazione della funzionalità che l'ha generata.
  2. Avvolga il Suo client di IA con uno strumento di stima come EcoLogits per ottenere energia ed emissioni per richiesta.
  3. Conservi la stima accanto a latenza e costo nei log o nelle dashboard.
  4. A ogni rilascio, esamini le funzionalità e i prompt più pesanti.
  5. Chieda al fornitore dati misurati e li sostituisca alle stime quando sono disponibili.

Stimi a partire dai token, la registri per ogni chiamata e chiarisca che si tratta di una stima. I servizi di IA in hosting non offrono alcun contatore, quindi le funzionalità pesanti e i prompt dispendiosi restano invisibili se non costruisce Lei stesso un numero.

Perché i token?

L'energia cresce con la quantità di testo che un modello legge e scrive. La stima dal basso di Epoch AI attribuisce a una tipica richiesta a ChatGPT circa 0,3 Wh, che salgono a circa 2,5 Wh con un input di 10.000 token e a quasi 40 Wh con un input di 100.000 token. I Suoi log dei token, quindi, dicono molto di più di qualsiasi media generica.

Quale strumento devo usare?

Le indicazioni di CodeCarbon tracciano il confine: usi CodeCarbon per il codice che gira su hardware che gestisce Lei, ed EcoLogits per le chiamate a servizi remoti di IA generativa. EcoLogits avvolge le librerie client dei principali fornitori di IA e restituisce l'energia stimata e l'impatto sul riscaldamento globale di ogni richiesta, in base al modello e al numero di token.

Che cosa devo registrare con ogni stima?

  • il modello e la versione, e la versione dello strumento usato per la stima;
  • i token in ingresso e in uscita;
  • la funzionalità o il flusso di lavoro che ha effettuato la chiamata;
  • se la chiamata è andata a buon fine, così da calcolare l'energia per compito riuscito.

Errori comuni

Maggiori dettagli su metodi e confini in come misurare l'energia dell'IA.

Fonti

  1. EcoLogits documentation, EcoLogits (2025)
  2. When to use CodeCarbon, CodeCarbon (2025)
  3. How much energy does ChatGPT use?, Epoch AI (2025)

Si unisca a noi

Aiuti a ridurre l'impatto dell'IA sul pianeta

Riceva per email nuove guide, bandi di finanziamento e schede delle directory, circa una volta al mese. Oppure aggiunga il suo prodotto, corso, dottorato o ricerca alle directory.

Nessun tracciamento. Disiscrizione con un clic. Altri modi per partecipare · Privacy