In het kort
Meet de energie van AI door de hardware die u beheert te meten en de diensten die u niet beheert te schatten. Reken beide om naar CO2 met lokale gegevens over het stroomnet die bij het tijdstip passen. Vermeld bij elk cijfer de systeemgrens, de methode en de onzekerheid, en rapporteer het per eenheid nuttig werk, niet alleen als totaal.
Kernpunten
- Meet waar het kan (hardwaretellers, GPU-telemetrie, stekkers, logboeken van de scheduler) en schat waar het niet kan (gehoste API's, publieke cloud).
- Elk cijfer heeft een vermelde systeemgrens nodig: wat valt erbinnen, wat erbuiten, en waarom.
- Rapporteer energie per eenheid nuttig werk, zoals per verzoek of per document, zodat efficiëntie zichtbaar blijft als het gebruik groeit.
- Gebruik de locatiegebaseerde CO2-intensiteit van het stroomnet voor de regio en het uur waarin het werk draaide; certificaten veranderen die niet.
- Herhaal metingen en geef een bandbreedte. Eén enkele meting voor en na kan ruis zijn.
Waarom überhaupt meten?
Wat u niet hebt gemeten, kunt u niet verminderen, vergelijken of eerlijk claimen. Meten maakt van "AI gebruikt veel energie" cijfers waarmee u iets kunt doen: welke functie, welk model of welke taak het meest kost, en of een wijziging hielp.
Tijdens de Britse sandpit (een verkennende werksessie) over groene AI in 2026, met wiskundigen, informatici en de industrie, kwam meten steeds weer naar voren als het knelpunt. Veel gepubliceerde cijfers zijn schattingen, methoden zijn vaak niet gedocumenteerd, en hetzelfde werk kan heel verschillende cijfers opleveren, afhankelijk van wat er wordt meegeteld. Deze gids beschrijft een methode die standhoudt.
Moet ik meten of schatten?
Meet de hardware die u beheert; schat de diensten die u niet beheert. Beide zijn geldig, zolang bij elk cijfer staat welke van de twee het is.
| Situatie | Aanpak | Gebruikelijke tools |
|---|---|---|
| Uw eigen laptop, werkstation of server | Meten met hardwaretellers | perf of powercap (Intel/AMD RAPL-tellers), PowerJoular, Scaphandre |
| Uw eigen GPU's | Meten met telemetrie van de fabrikant, bemonsterd over de tijd | nvidia-smi of NVML, CodeCarbon |
| Een onderzoekscluster | De energieadministratie van de scheduler uitlezen | Slurm sacct (veld ConsumedEnergy), waar ingeschakeld |
| Virtuele machines in de publieke cloud | Schatten op basis van benutting en facturering | Cloud Carbon Footprint, CO2-dashboards van de provider |
| Gehoste AI-API's | Schatten op basis van tokens en aannames over het model | EcoLogits |
| Open modellen vergelijken voordat u kiest | Een standaardbenchmark gebruiken | Hugging Face AI Energy Score |
De eigen richtlijnen van CodeCarbon trekken dezelfde lijn: gebruik CodeCarbon voor code die draait op hardware die u beheert, en EcoLogits voor aanroepen van externe generatieve AI-diensten, waar u geen toegang hebt tot de hardware.
Ken de grenzen van uw meter
- GPU-telemetrie neemt steekproeven; ze kijkt niet continu mee. Onderzoekers ontdekten dat
nvidia-smiop A100- en H100-GPU's het vermogen maar gedurende ongeveer 25% van de looptijd bemonstert. Dat kan bij korte taken tot grote onder- of overschattingen leiden. Bemonster de hele taak, laat die lang genoeg lopen om veel meetintervallen te beslaan, en integreer over de tijd. - Softwaremeters zijn modellen. Controleer er per platform één keer een met een meter aan het stopcontact (een slimme stekker die meet volstaat).
- Cloudcijfers zijn schattingen. Hardwaretellers zijn op virtuele machines in de publieke cloud meestal niet beschikbaar. Label cloudcijfers dus als geschat.
Wat moet de systeemgrens omvatten?
Trek de grens breed genoeg om alles wat van belang is mee te nemen, en schrijf hem op. Een cijfer zonder grens kunt u met niets vergelijken.
Het artikel van Google uit 2025 over Gemini is een goed voorbeeld. Het meldt 0,24 Wh voor een mediane tekstprompt wanneer het de accelerators, hostmachines, inactieve capaciteit en de overhead van het datacenter meetelt, en 0,10 Wh wanneer het alleen het actieve gebruik van TPU's en GPU's meetelt. Beide zijn eerlijk; ze beantwoorden verschillende vragen. De grens van Google laat ook het externe netwerk, de apparaten van gebruikers en de training van het model buiten beschouwing, en de cijfers zijn niet onafhankelijk geverifieerd.
Loop deze lagen door en beslis voor elke laag of die erbinnen of erbuiten valt:
- De accelerator (GPU, TPU) die het rekenwerk doet.
- De rest van de server: CPU, geheugen, opslag.
- Inactieve en gereserveerde capaciteit die voor uw werk klaarstaat.
- Overhead van het datacenter: koeling en stroomomzetting, uitgedrukt in PUE.
- Het netwerk tussen gebruikers en de dienst.
- De apparaten van gebruikers.
- Ingebedde uitstoot: het deel van de productie van de hardware dat aan uw gebruik toe te rekenen is.
- Training en fine-tuning, gespreid over de nuttige levensduur van het model.
- Het omliggende proces: nieuwe pogingen, mislukte runs, tijd voor menselijke controle.
De sandpit maakte hetzelfde punt over claims als "AI kost dertig keer meer dan het met de hand doen": het antwoord hangt ervan af of u de werktijd van de persoon meetelt, diens apparatuur en alles daaromheen. Leg de grens vast voordat u vergelijkt.
Wat moet ik vastleggen?
Leg genoeg vast zodat iemand anders de meting kan herhalen en op een vergelijkbaar cijfer uitkomt. Bewaar voor elk cijfer:
- Wat er is gemeten: model en versie, taak, dataset of set prompts, aantal invoer- en uitvoertokens.
- Waar en wanneer: hardware, regio, datum en tijd (nodig voor de CO2-intensiteit).
- Hoe: tool en versie, bemonsteringsfrequentie, gemeten of geschat, nulverbruik in rust mee- of niet meegeteld.
- De grens: welke van de lagen hierboven erbinnen vallen.
- De toerekeningsregel: hoe gedeelde of inactieve energie over gebruikers of diensten is verdeeld.
- De spreiding: aantal runs, gemiddelde en bandbreedte.
- Kwaliteit: de nauwkeurigheid of het slagingspercentage van de taak op dat moment. Een goedkoop fout antwoord is geen besparing.
Hoe reken ik energie om naar CO2?
Vermenigvuldig de energie met de CO2-intensiteit van het stroomnet waar en wanneer het werk draaide, en tel er de ingebedde uitstoot bij op als die binnen uw grens valt. De Software Carbon Intensity-specificatie (SCI) van de Green Software Foundation, gepubliceerd als ISO/IEC 21031:2024, drukt dit uit als een verhouding:
SCI = ((E × I) + M) per R
waarbij E de energie is, I de locatiegebaseerde CO2-intensiteit van het stroomnet, M de ingebedde uitstoot en R de functionele eenheid. De specificatie gebruikt locatiegebaseerde netcijfers en staat niet toe dat marktgebaseerde instrumenten, zoals certificaten voor hernieuwbare energie, stroomafnamecontracten of compensatie, de score verlagen.
- Gebruik waar mogelijk regionale gegevens die bij het tijdstip passen. In Groot-Brittannië geeft de Carbon Intensity API van de National Energy System Operator regionale voorspellingen en schattingen; Electricity Maps dekt veel andere landen.
- Val alleen terug op jaarlijkse nationale gemiddelden als er niets fijners bestaat, en vermeld dat.
Welke maatstaven per taak werken het best?
Kies een functionele eenheid die past bij de waarde die uw AI levert, en rapporteer daartegen. Totalen stijgen met de groei en verbergen efficiëntie; cijfers per eenheid laten die zien.
Goede functionele eenheden voor AI-werk:
- per verzoek, per antwoord of per gesprek
- per samengevat document, geclassificeerd ticket of gemaakte afbeelding
- per geslaagde taak (nog beter, omdat mislukte pogingen dan meetellen)
- per trainingsrun of per gefinetuned model, voor ontwikkelwerk
Volg vervolgens energie per eenheid, CO2 per eenheid, kwaliteit per eenheid en het totaal naast elkaar. Daalt de energie per eenheid terwijl het totaal stijgt, dan verbetert de efficiëntie, maar groeit het gebruik sneller: dat is het reboundeffect, en uw rapportage moet dat laten zien.
Hoe ga ik om met onzekerheid?
Herhaal, rapporteer een bandbreedte en claim alleen veranderingen die groter zijn dan de ruis. Metingen variëren met de temperatuur, achtergrondprocessen en frequentieschaling.
- Meet eerst het nulverbruik in rust op dezelfde machine.
- Voer elke test meerdere keren uit; rapporteer het gemiddelde en de spreiding.
- Verander één ding tegelijk en meet opnieuw met dezelfde opstelling en belasting.
- Noem bij schattingen elke aanname (modelgrootte, hardware, benutting, PUE) en geef een lage en een hoge variant.
- Vervang schattingen door gemeten of door de leverancier gerapporteerde cijfers zodra die beschikbaar zijn.
Gepubliceerde cijfers per prompt zijn nuttige context, geen vervanging voor uw eigen cijfers. De bottom-upschatting van Epoch AI van ongeveer 0,3 Wh voor een typische ChatGPT-vraag stijgt tot ongeveer 2,5 Wh bij een invoer van 10.000 tokens en tot bijna 40 Wh bij een invoer van 100.000 tokens. Uw gebruikspatroon telt zwaarder dan welk gemiddelde uit de krantenkoppen ook.
Checklist
- [ ] Elk cijfer is gelabeld als gemeten of geschat, met tool en versie
- [ ] Grens opgeschreven, inclusief wat erbuiten bleef en waarom
- [ ] Nulverbruik in rust vastgelegd; toerekeningsregel voor gedeelde energie vermeld
- [ ] GPU-vermogen over de hele taak bemonsterd, niet met een momentopname
- [ ] Energie gerapporteerd per functionele eenheid, naast totaal en kwaliteit
- [ ] CO2 berekend met locatiegebaseerde netgegevens die bij het tijdstip passen
- [ ] Meerdere runs; gemiddelde en bandbreedte gerapporteerd
- [ ] Methode bij de resultaten bewaard, zodat anderen de meting kunnen herhalen
Wat nu?
- Kies één AI-functie of werklast en bepaal de functionele eenheid ervan.
- Voeg CodeCarbon toe aan een script voor training of lokale inferentie, of EcoLogits aan uw client voor de AI-API, en log de energie bij elk verzoek of elke run.
- Schrijf een meetmethode van één pagina: grens, tools, toerekeningsregel, bron van de CO2-gegevens.
- Benchmark kandidaat-modellen voordat u er een kiest; zie kies het juiste model.
- Toets elk cijfer aan eerlijke groene claims voordat u het publiceert.
- Lees waarom meten het knelpunt is, en vind meettools in de productengids of hulp bij consultants.
Veelgestelde vragen
Hoeveel energie gebruikt één AI-prompt?
Gepubliceerde cijfers voor een typische tekstprompt liggen onder één wattuur: Google meldt 0,24 Wh voor een mediane Gemini-tekstprompt, en Epoch AI schat ongeveer 0,3 Wh voor een typische ChatGPT-vraag. Lange invoer, redeneren en het genereren van beeld of video kunnen veel meer kosten.
Kan ik de energie van een gehoste AI-dienst zoals ChatGPT meten?
Niet rechtstreeks. U kunt die schatten op basis van het aantal tokens en aannames over het model, met een tool zoals EcoLogits, en de leverancier om zijn eigen cijfers en methode vragen.
Is rekentijd een goede vervanger voor energie?
Nee. Snelheid en energie gaan vaak samen op, maar niet altijd. Meet energie dus rechtstreeks en rapporteer beide.
Wat is een systeemgrens?
Dat is de lijst van wat uw cijfer omvat: bijvoorbeeld alleen de GPU, de hele server, de overhead van het datacenter, het netwerk, de apparaten van gebruikers en de productie van de hardware. Twee eerlijke cijfers kunnen tienvoudig verschillen omdat hun grenzen verschillen.
Bronnen
- Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
- How much energy does ChatGPT use?, Epoch AI (2025)
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
- ISO/IEC 21031:2024 Software Carbon Intensity (SCI) specification, ISO (2024)
- When to use CodeCarbon, CodeCarbon (2025)
- EcoLogits documentation, EcoLogits (2025)
- AI Energy Score, Hugging Face (2025)
- Carbon Intensity API, National Energy System Operator (2025)
- Slurm sacct manual (ConsumedEnergy), SchedMD (2025)
Gerelateerd
Kies het juiste model voor de taak
AI op maat: wanneer u kleine of gespecialiseerde modellen gebruikt, wanneer een frontiermodel zijn kosten waard is, hoe routing werkt en wanneer u geen AI gebruikt.
Eerlijke groene claims over AI
Greenwashing over AI vermijden: wat u wel en niet kunt claimen, reboundeffecten, eerlijke rapportage en de regels in het VK, de EU en de VS.
Meten is het knelpunt voor groene AI
Waarom energiecijfers van AI moeilijk te vertrouwen en te vergelijken zijn: eigen opgaven, schattingen in plaats van metingen, andere grenzen, en hoe het beter kan.
Energielabels en benchmarks voor AI
Waar energiebeoordelingen voor AI in 2026 staan: AI Energy Score, MLPerf Power, de EU-AI-verordening en datacenterbeoordeling, en wat labels tonen.