greenai.guide

Home › Come faccio a…? › Come misuro l'energia che l'IA consuma sul mio computer o sulla mia GPU?

Come faccio a…?

Come misuro l'energia che l'IA consuma sul mio computer o sulla mia GPU?

Aggiornato · 1 min di lettura

In breve

Sulla propria macchina si può misurare direttamente: usi CodeCarbon o uno strumento che legge i contatori di potenza del processore e della GPU, oppure inserisca una presa intelligente con misuratore tra il computer e la presa a muro. Registri prima il consumo a riposo, campioni per tutta la durata del lavoro invece di fare singole letture e ripeta l'esecuzione alcune volte prima di fidarsi del numero.

Passaggi

  1. Misuri la potenza a riposo della macchina prima di iniziare.
  2. Esegua il compito di IA con CodeCarbon, uno strumento basato sui contatori o una presa intelligente con misuratore che registri per tutto il tempo.
  3. Campioni la potenza della GPU per tutto il lavoro e la integri nel tempo.
  4. Ripeta l'esecuzione più volte e riporti la media e l'intervallo.
  5. Confronti una volta per ogni macchina un misuratore software con un misuratore a presa.

L'hardware di Sua proprietà si può misurare, e una misura vale più di qualsiasi stima. È il modo migliore per vedere quanto assorbe davvero sulla Sua macchina un modello locale, un ciclo di fine-tuning (affinamento) o uno strumento di IA per scrivere codice.

Quali strumenti posso usare?

Opzione Che cosa legge Adatta per
Presa intelligente con misuratore L'intera macchina, alla presa a muro Chiunque; serve a verificare gli altri strumenti
CodeCarbon Potenza di processore, GPU e memoria, più l'intensità di carbonio della rete Script Python, addestramento e inferenza locale
Contatori del processore (RAPL su molti chip Intel e AMD) Energia di CPU e memoria Strumenti Linux come perf, Scaphandre, PowerJoular
Telemetria della GPU (nvidia-smi, NVML) Potenza della GPU Addestramento e inferenza di modelli su schede NVIDIA

Perché campionare nel tempo?

Le letture della GPU sono campionate, non continue. Yang e colleghi hanno rilevato che sulle GPU A100 e H100 nvidia-smi campiona la potenza solo per circa il 25% del tempo di esecuzione, il che può trarre gravemente in inganno per i lavori brevi. Registri le letture per tutta la durata del lavoro, lo faccia durare abbastanza da coprire molti intervalli di campionamento e sommi i valori nel tempo.

Errori comuni

  • Dimenticare il consumo a riposo. Un computer fisso consuma energia anche quando non fa nulla; lo sottragga per vedere quanto aggiunge l'IA.
  • Misurare una sola volta. Temperatura, processi in background e variazione della frequenza cambiano le letture. Ripeta e indichi un intervallo.
  • Confrontare solo la velocità. Più veloce e meno energia spesso vanno insieme, ma non sempre. Riporti entrambi.

Per convertire l'energia in carbonio, veda come trovare l'intensità di carbonio della rete. Il metodo completo è in come misurare l'energia dell'IA.

Fonti

  1. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  2. CodeCarbon, CodeCarbon (2026)
  3. When to use CodeCarbon, CodeCarbon (2025)

Si unisca a noi

Aiuti a ridurre l'impatto dell'IA sul pianeta

Riceva per email nuove guide, bandi di finanziamento e schede delle directory, circa una volta al mese. Oppure aggiunga il suo prodotto, corso, dottorato o ricerca alle directory.

Nessun tracciamento. Disiscrizione con un clic. Altri modi per partecipare · Privacy