In het kort
Onderzoekers kunnen AI op twee manieren groener maken: door methoden te ontwikkelen die minder rekenwerk vragen, en door het energieverbruik van hun eigen werk te meten en te rapporteren. Pruning (snoeien), kwantisatie, distillatie, betere numerieke methoden en hybride fysica-ML-modellen verlagen de kosten van AI, terwijl tools zoals CodeCarbon en de Green Algorithms-calculator die kosten zichtbaar maken in artikelen.
Kernpunten
- Patterson en collega's vonden dat de keuze van model, datacenter en processor de CO2-voetafdruk van training tot ongeveer 100 tot 1.000 keer kan verkleinen.
- Inferentie verdient onderzoeksaandacht, niet alleen training: inferentie draait elke keer dat een model wordt gebruikt.
- Rapporteer in elk artikel energie, hardware, looptijd en locatie, met een gratis tool zoals CodeCarbon of de Green Algorithms-calculator.
- Wiskunde draagt meer bij dan algoritmen: ook aan metrieken, onzekerheid, benchmarks en het modelleren van hoe AI-gebruik zich verspreidt.
- Stel een rekenbudget op voor een project, inclusief mislukte runs en zoektochten naar hyperparameters, niet alleen voor het uiteindelijke model.
Waarom is groene AI belangrijk voor onderzoek?
Omdat onderzoek de methoden bepaalt die iedereen overneemt, en omdat onderzoek zelf veel rekenkracht gebruikt. Een techniek die de kosten van inferentie halveert, bespaart, eenmaal ingevoerd, energie elke keer dat een model dat die techniek gebruikt, draait.
Dat werd al vroeg aangetoond. Het artikel van Strubell, Ganesh en McCallum uit 2019 bracht de financiële en milieukosten van het trainen van verschillende taalmodellen in kaart en stelde manieren voor om die te verlagen. Patterson en collega's vonden later dat de keuze van modelarchitectuur, datacenter en processor de CO2-voetafdruk van training tot ongeveer 100 tot 1.000 keer kan verkleinen. Luccioni, Jernite en Strubell lieten zien dat het draaien van generatieve modellen voor meerdere doeleinden ordes van grootte duurder kan zijn dan taakspecifieke modellen voor dezelfde taak.
Een Britse sandpit (een verkennende werksessie) over groene AI in 2026, met wiskundigen, informatici en mensen uit het bedrijfsleven, verdeelde de onderzoeksagenda in drie fasen, elk met eigen technieken: training vanaf nul, fine-tuning of aanpassing, en uitrol, in de cloud of op een energiezuinig apparaat. De sandpit merkte ook op dat veel bestaand werk verstopt zit in projectopleveringen en weinig bekende coderepository's, dus de eerste stap voor elk project is uitzoeken wat er al is gedaan.
Welke methoden maken modellen efficiënter?
De belangrijkste families zijn: weghalen wat het model niet nodig heeft, minder bits gebruiken, leren van minder data, en bekende structuur in het model inbouwen. De meeste zijn te combineren.
Pruning en sparsity
Pruning (snoeien) verwijdert gewichten die weinig bijdragen aan de uitvoer. Sparsity (ijlheid) betekent dat de meeste waarden in een matrix of activatie nul zijn, zodat de berekening ze kan overslaan. Grote netwerken hebben vaak veel meer parameters dan de uiteindelijke taak nodig heeft, omdat overparametrisering de optimalisatie helpt. Daardoor kan na de training veel worden weggehaald.
Open vragen zijn onder meer: hoe stelt u doelen voor sparsity vast vóór de training in plaats van met vallen en opstaan, hoe houdt u dynamische sparsity (waarbij de nullen van de invoer afhangen) efficiënt op echte hardware, en waarom wordt sparsity nog te weinig gebruikt, gezien de architectuurbeperkingen van gangbare chips? Theoretische winst is vaak groter dan de gemeten versnelling, dus empirische resultaten op echte hardware tellen.
Kwantisatie en gemengde precisie
Kwantisatie slaat getallen op en rekent ermee in minder bits, bijvoorbeeld 8-bits gehele getallen in plaats van 32-bits drijvendekommagetallen. Gemengde precisie gebruikt lagere precisie waar dat veilig is en hogere precisie waar dat nodig is. UNESCO en UCL melden dat compressie zoals kwantisatie tot 44% energie kan besparen met behoud van nauwkeurigheid. Numeriek analisten kunnen bij uitstek zeggen waar lagere precisie veilig is en hoe fouten zich voortplanten.
Distillatie en kleinere modellen
Distillatie traint een klein "leerling"-model om een groot "leraar"-model na te doen. De leerling is bij elk verzoek goedkoper in gebruik. Verwant werk aan parameter-efficiënte fine-tuning, die een klein aantal extra parameters aanpast in plaats van het hele model, en aan continual learning (doorlopend leren) voorkomt dat alles opnieuw vanaf nul moet worden getraind.
Modellen hergebruiken
Combineer bestaande modellen in plaats van nieuwe te trainen. Wortsman en collega's lieten zien dat het middelen van de gewichten van meerdere gefinetunede modellen ("model soups") de nauwkeurigheid kan verbeteren zonder extra inferentiekosten. Modellen samenvoegen en hergebruiken is een veelbelovend gebied voor efficiëntieonderzoek.
Data-efficiëntie
Trainen op minder, maar betere data verlaagt het energieverbruik van training rechtstreeks. Technieken zijn onder meer het verwijderen van dubbele en weinig waardevolle voorbeelden, active learning (de meest informatieve voorbeelden kiezen om te labelen), en architecturen die generaliseren op basis van weinig voorbeelden.
Numerieke methoden en dataverplaatsing
Een groot deel van AI is lineaire algebra, en tientallen jaren numerieke analyse zijn erop van toepassing. Gerandomiseerde numerieke lineaire algebra en sketching (een matrix comprimeren met behoud van de belangrijke eigenschappen) kunnen zowel het rekenwerk als de dataverplaatsing verminderen, die op veel apparaten meer energie kost dan het rekenwerk zelf. Benaderende attention, die alleen de delen van de attentionmatrix berekent die ertoe doen, is een actief voorbeeld bij grote taalmodellen. Automatische differentiatie, de algemene techniek achter backpropagation, verbindt AI met bestaande wetenschappelijke code.
Hybride fysica-ML
Vervang niet een hele simulatie door een neuraal netwerk, maar alleen het deel waarvoor dat geschikt is. Een veel gebruikt patroon is een geleerd surrogaatmodel voor het meest energie-intensieve onderdeel van een klimaat- of technisch model, terwijl de rest van de fysica blijft. Physics-informed modellen bouwen bekende natuurwetten in de verliesfunctie of de architectuur in, waardoor ze veel minder parameters en minder data nodig kunnen hebben. Andere structurele hulpmiddelen zijn convexiteit, unrolled algorithms (de stappen van een klassieke solver omzetten in netwerklagen) en symmetrie, zoals bij geometric deep learning.
De sandpit bracht ook minder verkende ideeën naar voren:
- een energie- of "CO2"-term toevoegen aan het trainingsdoel, bijvoorbeeld door actieve neuronen of dure experts in een mixture-of-experts-model te bestraffen;
- foutcorrectie tijdens lange berekeningen, met controles op vaste momenten zodat een run niet hoeft te worden herhaald; en
- detecteren wanneer AI-systemen met meerdere agents in lussen vastzitten en tokens verspillen.
Zie efficiënte training en inferentie en wiskunde voor efficiënte AI.
Hoe meet en rapporteer ik energie in artikelen?
Meet terwijl u bezig bent, rapporteer een vaste set gegevens, en neem ook de runs mee die het artikel niet hebben gehaald. Zonder dit kunnen claims over efficiëntie niet worden gecontroleerd of vergeleken.
Gratis tools:
- CodeCarbon, een opensource Python-pakket, schat de uitstoot op basis van het vermogen dat CPU, GPU en geheugen opnemen en de CO2-intensiteit van het lokale stroomnet. Voeg het toe aan scripts voor training en evaluatie.
- De Green Algorithms-calculator, van Lannelongue, Grealey en Inouye, schat de voetafdruk van een berekening op basis van hardware, looptijd, geheugen en locatie. Hij is geschikt voor HPC-taken en voor werk dat u deed voordat u begon met loggen.
- Hardwaretellers, zoals RAPL op veel CPU's en de vermogensinterfaces van GPU-fabrikanten, geven directe metingen waarop deze tools voortbouwen.
Wat u rapporteert:
| Onderdeel | Voorbeeld |
|---|---|
| Hardware | GPU-model en aantal, CPU, geheugen |
| Looptijd | GPU-uren voor de definitieve runs en voor alle tuningruns en mislukte runs |
| Energie | kWh, gemeten of geschat, met de tool en versie |
| Locatie | Land of regio van het stroomnet, en de gebruikte CO2-intensiteit |
| Uitstoot | kg CO₂e |
| Inferentie | Energie per 1.000 verzoeken bij een vermelde batchgrootte en sequentielengte |
| Systeemgrens | Of koeling en overhead van het datacenter (PUE) zijn meegeteld |
Wees duidelijk over onzekerheid. Schattingen uit vermogensmodellen kunnen afwijken van gemeten waarden, en cijfers van aanbieders, zoals de door Google gemelde 0,24 Wh voor een mediane Gemini-tekstprompt, gebruiken hun eigen methoden en grenzen. Onze gids over AI-energie meten en het artikel meten is de bottleneck gaan hier verder op in.
Hoe stel ik een rekenbudget op?
Beslis vooraf hoeveel rekenkracht een project mag gebruiken, en houd dat bij zoals geld. Een budget maakt afwegingen zichtbaar en voorkomt eindeloos tunen.
- Schat het aantal GPU-uren voor de belangrijkste experimenten, en tel er een marge bij op voor verkenning.
- Gebruik kleinschalige pilots om ideeën uit te sluiten voordat u opschaalt.
- Kies efficiënte zoekmethoden voor hyperparameters, zoals het vroegtijdig stoppen van slechte runs, in plaats van grote grid searches.
- Hergebruik checkpoints en voorgetrainde modellen waar die passen.
- Plan flexibele taken in op tijden of in regio's waar het stroomnet schoner is.
- Rapporteer resultaten ten opzichte van rekenkracht, bijvoorbeeld nauwkeurigheid per kWh, niet alleen de beste nauwkeurigheid.
De GREENER-principes van Lannelongue en collega's (Governance, Responsibility, Estimation, Energy and embodied impacts, New collaborations, Education and Research) bieden een kader voor onderzoeksgroepen en instellingen.
Wat is het effect van efficiëntie op reproduceerbaarheid?
Energie en rekenkracht rapporteren maakt werk makkelijker te reproduceren, en efficiënte methoden maken het goedkoper om te reproduceren. Een resultaat dat duizenden GPU-uren vraagt, kan maar door weinig groepen worden gecontroleerd.
- Publiceer code, configuraties en seeds, en vermeld op hoeveel runs een resultaat is gebaseerd.
- Rapporteer de variantie tussen runs. Eén nauwkeurigheidscijfer uit één run van een niet-deterministisch proces kan misleiden.
- Publiceer waar mogelijk kleinere of gedistilleerde versies van modellen, zodat anderen erop kunnen voortbouwen.
- Deel negatieve resultaten over efficiëntiemethoden; zo hoeven anderen ze niet te herhalen.
Waar kan wiskunde bijdragen?
Wiskunde helpt bij meer dan snellere algoritmen: ook bij beslissen wat er gemeten moet worden, hoeveel vertrouwen een model verdient, en hoe AI-gebruik zich door de samenleving verspreidt. De sandpit benadrukte dat wiskundigen met tools en bewijs moeten laten zien wat ze kunnen verbeteren.
- Theorie van efficiëntie: random-matrixtheorie voor pruning en sparsity, benaderingstheorie voor kleine modellen, optimalisatietheorie voor snellere training.
- Numerieke analyse: precisie, stabiliteit, foutgrenzen en solvers binnen AI-pipelines.
- Onzekerheidskwantificering: hoe ver een surrogaatmodel te vertrouwen is, vooral buiten de trainingsdata. Dat bepaalt of het een duur fysisch model kan vervangen.
- Metrieken en benchmarks: afgesproken, vergelijkbare maten voor energie en kwaliteit, en kwaliteitsmetrieken met efficiëntie ingebouwd.
- Scenario- en systeemmodellering: hoe efficiëntiewinst het totale gebruik verandert (het reboundeffect), speltheorie over waarom organisaties zich gedwongen voelen AI te gebruiken, en de balans tussen rekenen aan de edge en centraal rekenen.
- De methode kiezen: kaders om te bepalen wanneer een probleem überhaupt AI nodig heeft, en wanneer een klassiek algoritme het al goed oplost.
Hoe vind ik financiering en samenwerkingspartners?
Combineer een onderzoeksvraag over efficiëntie met een echte toepassingspartner die belang hecht aan kosten of snelheid. Financiers en het bedrijfsleven reageren beter op energiebesparing die ook snellere, goedkopere of betrouwbaardere resultaten oplevert.
- Nationale onderzoeksfinanciers zoals EPSRC in het Verenigd Koninkrijk, de NSF in de Verenigde Staten en hun tegenhangers financieren methodologisch onderzoek; kijk naar oproepen over AI, digitale onderzoeksinfrastructuur en netto nul.
- Europese programma's zoals Horizon Europe en Eureka-clusters zoals ITEA financieren samenwerkingsprojecten met het bedrijfsleven. GreenCode, een ITEA-project, is een voorbeeld op het gebied van groene AI en het energieverbruik van software.
- Korte projecten met het bedrijfsleven, stages en medegefinancierde promotieplaatsen zijn goedkope manieren om een samenwerking te beginnen.
- Research software engineers en HPC-centra hebben vaak expertise en trainingen op het gebied van groen rekenen.
Interdisciplinaire teams werken het best: zet experts in hardware, software, numerieke methoden en het toepassingsdomein bij elkaar. De onderzoeksgids vermeldt groepen en projecten op het gebied van groene AI.
Welke promotietrajecten zijn er?
Er zijn promotieprojecten in efficiënte machine learning, numerieke analyse, duurzaam en CO2-arm rekenen, HPC en co-design van hardware en software. Veel ervan heten niet "groene AI", dus zoek ook op die onderwerpen.
Mogelijke trajecten:
- doctorale opleidingscentra en -programma's, zoals de UKRI Centres for Doctoral Training in het Verenigd Koninkrijk;
- doctorale netwerken binnen de Marie Skłodowska-Curie-acties van de EU;
- promotieplaatsen die door het bedrijfsleven worden medegefinancierd of gesponsord; en
- projecten die deel uitmaken van grotere onderzoeksbeurzen.
Zie de promotiegids voor actuele mogelijkheden en de cursusgids voor korte cursussen over efficiënte AI, groene software en onderzoeksrekenen.
Wat u nu kunt doen
- Voeg CodeCarbon of vergelijkbare logging toe aan uw volgende experiment, of schat uw vorige project met de Green Algorithms-calculator.
- Voeg een tabel met energie en rekenkracht toe aan uw volgende artikel, inclusief tuningruns en mislukte runs.
- Stel een rekenbudget op voor uw huidige project en bekijk het elke maand opnieuw.
- Probeer één efficiëntiemethode, zoals kwantisatie of distillatie, op een model dat u al gebruikt, en rapporteer de afweging.
- Controleer wat er al bestaat voordat u gaat bouwen: doorzoek de onderzoeksgids en recente projectopleveringen.
- Zoek een partner met een kostbare AI- of simulatieworkload en stel een gezamenlijk project voor.
- Zoek opleidingen in de cursusgids, en deel de promotiegids met studenten.
Veelgestelde vragen
Hoe rapporteer ik het energieverbruik van mijn experimenten?
Log het energieverbruik met een tool zoals CodeCarbon terwijl experimenten draaien, of schat het achteraf met de Green Algorithms-calculator op basis van hardware, looptijd en locatie. Rapporteer kWh, CO₂e, hardware, uren en regio van het stroomnet, en neem mislukte runs en tuningruns mee.
Gaat kwantisatie ten koste van de nauwkeurigheid?
Vaak maar een klein beetje, maar het hangt af van het model en de taak. UNESCO en UCL melden energiebesparingen tot 44% door compressie zoals kwantisatie, met behoud van nauwkeurigheid; controleer het op uw eigen benchmarks.
Is groene AI een echt onderzoeksveld of een bijzaak?
Het is een groeiend veld dat machine learning, numerieke analyse, hardware en computersystemen omvat. Studies naar het energieverbruik van training en inferentie gaan terug tot minstens 2019, en de Europese AI-verordening vraagt aanbieders van modellen voor algemene doeleinden nu om het energieverbruik te documenteren.
Kan ik promoveren op groene AI?
Ja. Zoek naar projecten in efficiënte machine learning, numerieke methoden, duurzaam rekenen of HPC. Onze promotiegids vermeldt actuele mogelijkheden.
Bronnen
- Carbon emissions and large neural network training, Patterson et al. (2021)
- Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Green Algorithms: quantifying the carbon footprint of computation, Lannelongue, Grealey and Inouye, Advanced Science (2021)
- GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
- CodeCarbon, CodeCarbon (2026)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time, Wortsman et al., ICML (2022)
- Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
- AI Act, Annex XI: technical documentation for providers of general-purpose AI models, European Commission AI Act Service Desk (2024)
- Green AI and energy-aware computing, GreenCode (ITEA) (2026)
Gerelateerd
Efficiënte training en inferentie van AI
Technieken om het energieverbruik van AI te verlagen: pruning, sparsity, kwantisatie, distillatie, KV-cache, batching, gemengde precisie en planning.
Zo meet u de energie en CO2-uitstoot van AI
Een praktische gids om de energie en CO2-uitstoot van AI-werk te meten of te schatten: tools, systeemgrenzen, maatstaven per taak en eerlijke onzekerheid.
De wiskunde die AI efficiënter maakt
Pruning, sparsiteit, sketching, randommatrixtheorie en fysica-geïnformeerde modellen: hoe wiskunde het rekenwerk, geheugen en energie van AI vermindert.
Meten is het knelpunt voor groene AI
Waarom energiecijfers van AI moeilijk te vertrouwen en te vergelijken zijn: eigen opgaven, schattingen in plaats van metingen, andere grenzen, en hoe het beter kan.