In het kort
Op uw eigen machine kunt u direct meten: gebruik CodeCarbon of een tool die de tellers van processor en GPU uitleest, of plaats een slimme meetstekker tussen de computer en het stopcontact. Meet eerst het stationaire verbruik, meet gedurende de hele taak in plaats van momentopnamen te nemen, en herhaal de run een paar keer voordat u het getal vertrouwt.
Stappen
- Meet het stationaire vermogen van de machine voordat u begint.
- Voer de AI-taak uit terwijl CodeCarbon, een tool op basis van tellers of een slimme meetstekker de hele tijd registreert.
- Meet het GPU-vermogen gedurende de hele taak en integreer het over de tijd.
- Herhaal de run een aantal keer en rapporteer het gemiddelde en de spreiding.
- Controleer een softwaremeter per machine één keer met een meter in het stopcontact.
Hardware die u zelf bezit, kunt u meten, en dat is beter dan elke schatting. Zo ziet u het best wat een lokaal model, een fine-tuningrun of een AI-programmeertool werkelijk van uw machine vraagt.
Welke tools kan ik gebruiken?
| Optie | Wat het meet | Geschikt voor |
|---|---|---|
| Slimme meetstekker | De hele machine, aan het stopcontact | Iedereen; controle van andere tools |
| CodeCarbon | Vermogen van processor, GPU en geheugen, plus CO2 van het stroomnet | Pythonscripts, training en lokale inferentie |
| Processortellers (RAPL op veel Intel- en AMD-chips) | Energie van CPU en geheugen | Linuxtools zoals perf, Scaphandre, PowerJoular |
GPU-telemetrie (nvidia-smi, NVML) |
GPU-vermogen | Modeltraining en inferentie op NVIDIA-kaarten |
Waarom over de tijd meten?
GPU-metingen zijn steekproeven, geen doorlopende meting. Yang en collega's ontdekten dat nvidia-smi op A100- en
H100-GPU's het vermogen maar over ongeveer 25% van de looptijd meet, wat bij korte taken sterk kan misleiden. Log
de metingen gedurende de hele taak, laat de taak lang genoeg lopen om veel meetintervallen te omvatten, en tel ze
over de tijd op.
Veelgemaakte fouten
- Het stationaire verbruik vergeten. Een desktop verbruikt stroom terwijl hij niets doet; trek dat af om te zien wat de AI toevoegt.
- Eén keer meten. Temperatuur, achtergrondtaken en frequentieschaling beïnvloeden de metingen. Herhaal en geef een bandbreedte.
- Alleen snelheid vergelijken. Sneller en zuiniger gaan vaak samen, maar niet altijd. Rapporteer beide.
Om energie om te rekenen naar CO2, zie CO2-intensiteit van het stroomnet vinden. De volledige methode staat in hoe u het energieverbruik van AI meet.
Bronnen
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- CodeCarbon, CodeCarbon (2026)
- When to use CodeCarbon, CodeCarbon (2025)
Gerelateerd
Hoe draai ik een AI-model lokaal op mijn eigen computer?
Zo draait u een open AI-model op uw eigen laptop of server met tools als Ollama of llama.cpp, kiest u een passend gekwantiseerd model en meet u het energieverbruik.
Hoe meet ik de CO2-voetafdruk van het trainen van een model?
Volg het energieverbruik van een trainingsrun met een tool als CodeCarbon, vermenigvuldig met de lokale CO2-intensiteit en vermeld hardware, tijd en locatie.
Hoe stel ik een nulmeting op om energiebesparing door AI aan te tonen?
Toon een echte energiebesparing bij AI aan: meet vóór elke wijziging met dezelfde opzet en belasting, herhaal runs, rapporteer per eenheid werk en bewaak kwaliteit.
Zo meet u de energie en CO2-uitstoot van AI
Een praktische gids om de energie en CO2-uitstoot van AI-werk te meten of te schatten: tools, systeemgrenzen, maatstaven per taak en eerlijke onzekerheid.