In breve
Riporti l'hardware, le ore-GPU di tutte le esecuzioni compresi messa a punto e fallimenti, l'energia in kWh con lo strumento usato, il luogo e l'intensità di carbonio della rete, le emissioni in kg CO₂e e l'energia di inferenza con una dimensione di batch dichiarata. Dica che cosa include il perimetro e quanto sono incerti i dati. Misurare man mano, con uno strumento come CodeCarbon, trasforma tutto questo in una tabella invece che in una ricostruzione.
Passaggi
- Tenga traccia dell'energia di ogni esecuzione fin dall'inizio del progetto, non solo di quella finale.
- Riporti hardware, ore-GPU, energia, luogo, intensità di carbonio della rete ed emissioni in una tabella standard.
- Indichi l'energia di inferenza ogni 1.000 richieste con una dimensione di batch e una lunghezza di sequenza dichiarate.
- Dichiari il perimetro, compreso se sono conteggiati i costi aggiuntivi del data centre.
- Riporti i risultati in rapporto al calcolo, come l'accuratezza per kWh, accanto al punteggio migliore.
Riporti calcolo ed energia come risultati standard, non in una nota a piè di pagina. Senza questi dati le affermazioni sull'efficienza non si possono verificare, e chi legge non può capire se un piccolo guadagno di accuratezza è costato dieci volte l'energia.
La questione è stata posta presto: nel 2019 Strubell, Ganesh e McCallum hanno quantificato il costo economico e ambientale dell'addestramento di diversi modelli linguistici, e Schwartz e colleghi hanno sostenuto in "Green AI" che l'efficienza va riportata accanto all'accuratezza.
Che cosa deve includere la tabella?
| Voce | Esempio |
|---|---|
| Hardware | Modello e numero di GPU, CPU, memoria |
| Tempo di esecuzione | Ore-GPU delle esecuzioni finali e di tutta la messa a punto e delle esecuzioni fallite |
| Energia | kWh, misurati o stimati, con strumento e versione |
| Luogo | Paese o regione della rete, e intensità di carbonio usata |
| Emissioni | kg CO₂e |
| Inferenza | Energia ogni 1.000 richieste con dimensione di batch e lunghezza di sequenza dichiarate |
| Perimetro | Se sono inclusi raffreddamento e costi aggiuntivi del data centre (PUE) |
Se rilascia il modello, copi i dati nel campo co2_eq_emissions della scheda del modello su Hugging Face.
Errori comuni
- Riportare solo l'esecuzione vincente. La ricerca che l'ha preceduta di solito rappresenta la maggior parte dell'energia.
- Nessuna incertezza. Le stime basate su modelli di potenza possono differire dai valori misurati; indichi un intervallo.
- Escludere i risultati negativi. Un metodo di efficienza che non ha funzionato evita ad altri di ripeterlo.
I principi GREENER di Lannelongue e colleghi offrono un quadro più ampio per gruppi e istituzioni. Veda la guida per i ricercatori e come misurare l'energia dell'IA.
Fonti
- Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
- Green AI, Schwartz, Dodge, Smith and Etzioni, Communications of the ACM (2020)
- GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
- Displaying carbon emissions for your model, Hugging Face Hub documentation (2026)
Correlati
Come misuro l'impronta di carbonio dell'addestramento di un modello?
Monitori l'energia di un addestramento con uno strumento come CodeCarbon, la moltiplichi per l'intensità di carbonio della rete locale e riporti hardware, durata e luogo.
Come stabilisco un budget di calcolo per un progetto di ricerca?
Stabilisca e segua un budget di calcolo per la ricerca sull'IA: stimi le ore-GPU, faccia prove piccole, fermi presto le esecuzioni scarse, riusi i modelli e rapporti i risultati al calcolo.
IA verde per i ricercatori
Guida per i ricercatori su metodi di IA efficienti, misura e rendicontazione dell'energia negli articoli, budget di calcolo, finanziamenti e ruolo della matematica.
Come misurare l'energia e il carbonio dell'IA
Guida pratica per misurare o stimare energia e carbonio del lavoro di IA: strumenti, confini del sistema, metriche per attività e incertezza dichiarata.