In breve
Sulla propria macchina si può misurare direttamente: usi CodeCarbon o uno strumento che legge i contatori di potenza del processore e della GPU, oppure inserisca una presa intelligente con misuratore tra il computer e la presa a muro. Registri prima il consumo a riposo, campioni per tutta la durata del lavoro invece di fare singole letture e ripeta l'esecuzione alcune volte prima di fidarsi del numero.
Passaggi
- Misuri la potenza a riposo della macchina prima di iniziare.
- Esegua il compito di IA con CodeCarbon, uno strumento basato sui contatori o una presa intelligente con misuratore che registri per tutto il tempo.
- Campioni la potenza della GPU per tutto il lavoro e la integri nel tempo.
- Ripeta l'esecuzione più volte e riporti la media e l'intervallo.
- Confronti una volta per ogni macchina un misuratore software con un misuratore a presa.
L'hardware di Sua proprietà si può misurare, e una misura vale più di qualsiasi stima. È il modo migliore per vedere quanto assorbe davvero sulla Sua macchina un modello locale, un ciclo di fine-tuning (affinamento) o uno strumento di IA per scrivere codice.
Quali strumenti posso usare?
| Opzione | Che cosa legge | Adatta per |
|---|---|---|
| Presa intelligente con misuratore | L'intera macchina, alla presa a muro | Chiunque; serve a verificare gli altri strumenti |
| CodeCarbon | Potenza di processore, GPU e memoria, più l'intensità di carbonio della rete | Script Python, addestramento e inferenza locale |
| Contatori del processore (RAPL su molti chip Intel e AMD) | Energia di CPU e memoria | Strumenti Linux come perf, Scaphandre, PowerJoular |
Telemetria della GPU (nvidia-smi, NVML) |
Potenza della GPU | Addestramento e inferenza di modelli su schede NVIDIA |
Perché campionare nel tempo?
Le letture della GPU sono campionate, non continue. Yang e colleghi hanno rilevato che sulle GPU A100 e H100
nvidia-smi campiona la potenza solo per circa il 25% del tempo di esecuzione, il che può trarre gravemente in
inganno per i lavori brevi. Registri le letture per tutta la durata del lavoro, lo faccia durare abbastanza da coprire
molti intervalli di campionamento e sommi i valori nel tempo.
Errori comuni
- Dimenticare il consumo a riposo. Un computer fisso consuma energia anche quando non fa nulla; lo sottragga per vedere quanto aggiunge l'IA.
- Misurare una sola volta. Temperatura, processi in background e variazione della frequenza cambiano le letture. Ripeta e indichi un intervallo.
- Confrontare solo la velocità. Più veloce e meno energia spesso vanno insieme, ma non sempre. Riporti entrambi.
Per convertire l'energia in carbonio, veda come trovare l'intensità di carbonio della rete. Il metodo completo è in come misurare l'energia dell'IA.
Fonti
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- CodeCarbon, CodeCarbon (2026)
- When to use CodeCarbon, CodeCarbon (2025)
Correlati
Come eseguo un modello di IA in locale?
Come eseguire un modello di IA aperto sul proprio portatile o server con strumenti come Ollama o llama.cpp, scegliere un modello quantizzato adatto e misurarne l'energia.
Come misuro l'impronta di carbonio dell'addestramento di un modello?
Monitori l'energia di un addestramento con uno strumento come CodeCarbon, la moltiplichi per l'intensità di carbonio della rete locale e riporti hardware, durata e luogo.
Come stabilisco una base di riferimento per dimostrare i risparmi energetici dell'IA?
Dimostri un vero risparmio energetico dell'IA: misuri prima di ogni modifica con stessa configurazione e carico, ripeta, riporti per unità di lavoro e verifichi la qualità.
Come misurare l'energia e il carbonio dell'IA
Guida pratica per misurare o stimare energia e carbonio del lavoro di IA: strumenti, confini del sistema, metriche per attività e incertezza dichiarata.