greenai.guide

Home › Hoe doe ik…? › Hoe meet ik hoeveel energie AI verbruikt op mijn eigen computer of GPU?

Hoe doe ik…?

Hoe meet ik hoeveel energie AI verbruikt op mijn eigen computer of GPU?

Bijgewerkt · 1 min. leestijd

In het kort

Op uw eigen machine kunt u direct meten: gebruik CodeCarbon of een tool die de tellers van processor en GPU uitleest, of plaats een slimme meetstekker tussen de computer en het stopcontact. Meet eerst het stationaire verbruik, meet gedurende de hele taak in plaats van momentopnamen te nemen, en herhaal de run een paar keer voordat u het getal vertrouwt.

Stappen

  1. Meet het stationaire vermogen van de machine voordat u begint.
  2. Voer de AI-taak uit terwijl CodeCarbon, een tool op basis van tellers of een slimme meetstekker de hele tijd registreert.
  3. Meet het GPU-vermogen gedurende de hele taak en integreer het over de tijd.
  4. Herhaal de run een aantal keer en rapporteer het gemiddelde en de spreiding.
  5. Controleer een softwaremeter per machine één keer met een meter in het stopcontact.

Hardware die u zelf bezit, kunt u meten, en dat is beter dan elke schatting. Zo ziet u het best wat een lokaal model, een fine-tuningrun of een AI-programmeertool werkelijk van uw machine vraagt.

Welke tools kan ik gebruiken?

Optie Wat het meet Geschikt voor
Slimme meetstekker De hele machine, aan het stopcontact Iedereen; controle van andere tools
CodeCarbon Vermogen van processor, GPU en geheugen, plus CO2 van het stroomnet Pythonscripts, training en lokale inferentie
Processortellers (RAPL op veel Intel- en AMD-chips) Energie van CPU en geheugen Linuxtools zoals perf, Scaphandre, PowerJoular
GPU-telemetrie (nvidia-smi, NVML) GPU-vermogen Modeltraining en inferentie op NVIDIA-kaarten

Waarom over de tijd meten?

GPU-metingen zijn steekproeven, geen doorlopende meting. Yang en collega's ontdekten dat nvidia-smi op A100- en H100-GPU's het vermogen maar over ongeveer 25% van de looptijd meet, wat bij korte taken sterk kan misleiden. Log de metingen gedurende de hele taak, laat de taak lang genoeg lopen om veel meetintervallen te omvatten, en tel ze over de tijd op.

Veelgemaakte fouten

  • Het stationaire verbruik vergeten. Een desktop verbruikt stroom terwijl hij niets doet; trek dat af om te zien wat de AI toevoegt.
  • Eén keer meten. Temperatuur, achtergrondtaken en frequentieschaling beïnvloeden de metingen. Herhaal en geef een bandbreedte.
  • Alleen snelheid vergelijken. Sneller en zuiniger gaan vaak samen, maar niet altijd. Rapporteer beide.

Om energie om te rekenen naar CO2, zie CO2-intensiteit van het stroomnet vinden. De volledige methode staat in hoe u het energieverbruik van AI meet.

Bronnen

  1. Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
  2. CodeCarbon, CodeCarbon (2026)
  3. When to use CodeCarbon, CodeCarbon (2025)

Doe mee

Help de impact van AI op de planeet te verkleinen

Ontvang ongeveer eens per maand nieuwe gidsen, financieringsoproepen en vermeldingen per e-mail. Of voeg uw product, cursus, promotieplaats of onderzoek toe aan de gidsen.

Geen tracking. Met één klik afmelden. Andere manieren om mee te doen · Privacy