In het kort
Gebruik een standaardbenchmark als die uw taak dekt, zoals de AI Energy Score van Hugging Face, en meet de kandidaten anders zelf op dezelfde taak, hardware en instellingen. Vergelijk het energieverbruik per geslaagde taak naast de kwaliteit, want een goedkoop model dat faalt, kost uiteindelijk meer.
Stappen
- Controleer of uw kandidaat-modellen al een AI Energy Score-beoordeling voor uw taak hebben.
- Draai voor modellen zonder beoordeling dezelfde benchmark op elk model, op dezelfde GPU en met dezelfde instellingen.
- Gebruik een vaste set echte prompts met realistische invoer- en uitvoerlengtes.
- Leg per model het energieverbruik per verzoek en de kwaliteit vast, op dezelfde manier gemeten.
- Vergelijk de kosten per geslaagde taak, inclusief nieuwe pogingen.
Vergelijk gelijk met gelijk: dezelfde taak, dezelfde hardware, dezelfde instellingen, dezelfde meting. Gepubliceerde cijfers van verschillende aanbieders gebruiken verschillende methoden en grenzen, dus ze zijn zelden eerlijk te vergelijken.
Bestaat er een kant-en-klare vergelijking?
Voor veel open modellen wel. De AI Energy Score van Hugging Face meet het GPU-energieverbruik per 1.000 queries (zoekopdrachten) voor tien veelvoorkomende taken en geeft een tot vijf sterren ten opzichte van andere modellen op dezelfde taak. Er is ook een manier om private modellen met dezelfde methode te benchmarken. Begin daar.
Hoe meet ik modellen zelf?
- Modellen die u zelf draait: verpak elke run in een tool zoals CodeCarbon, die het energieverbruik schat op basis van het vermogen van processor en geheugen.
- Gehoste API's: schat op basis van het aantal tokens met een tool zoals EcoLogits, en vermeld dat het om een schatting gaat.
- Houd al het andere gelijk: prompts, batchgrootte, invoer- en uitvoerlengte, hardware en regio.
- Herhaal runs en rapporteer een bandbreedte, niet één getal.
De verschillen kunnen groot zijn. In de vergelijking van Luccioni, Jernite en Strubell waren generatieve modellen voor algemeen gebruik ordes van grootte duurder dan taakspecifieke systemen voor dezelfde taken.
Veelgemaakte fouten
- Per aanroep vergelijken in plaats van per succes. Tel nieuwe pogingen en mislukkingen mee.
- Uitvoerlengte negeren. Een model dat twee keer zoveel schrijft, kan twee keer zoveel kosten, ongeacht de grootte.
- Geschatte en gemeten cijfers door elkaar gebruiken in dezelfde tabel zonder dat te vermelden.
Voor de volledige methode, zie hoe u het energieverbruik van AI meet, en voor het lezen van beoordelingen, zie een AI Energy Score-beoordeling lezen.
Bronnen
- AI Energy Score, Hugging Face (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- CodeCarbon, CodeCarbon (2026)
- EcoLogits documentation, EcoLogits (2025)
Gerelateerd
Hoe lees ik een AI Energy Score-beoordeling?
Wat de beoordelingen van één tot vijf sterren van de AI Energy Score betekenen, wat ze meten, hoe u er modellen mee vergelijkt en wat ze niet vertellen.
Hoe meet ik hoeveel energie AI verbruikt op mijn eigen computer of GPU?
Meet het lokale energieverbruik van AI met hardwaretellers, GPU-telemetrie of een meetstekker, meet de hele taak en trek het stationair verbruik af.
Hoe schat ik het energieverbruik van mijn AI-API-aanroepen?
U kunt een gehoste AI-API niet meten, maar wel het energieverbruik per aanroep schatten uit tokens en modelaannames met EcoLogits, en het naast de kosten loggen.
Zo meet u de energie en CO2-uitstoot van AI
Een praktische gids om de energie en CO2-uitstoot van AI-werk te meten of te schatten: tools, systeemgrenzen, maatstaven per taak en eerlijke onzekerheid.