In het kort
Bepaal aan de hand van echte voorbeelden wat "goed genoeg" betekent, test dan modellen van klein naar groot en stop bij het eerste dat slaagt. Kleine en taakspecifieke modellen kunnen een fractie van de energie van grote algemene modellen gebruiken: UNESCO en University College London melden besparingen tot 90% bij geschikte taken.
Stappen
- Schrijf de taak en een norm op, zoals het aandeel antwoorden dat juist moet zijn.
- Verzamel 20 tot 50 echte voorbeelden om mee te testen.
- Probeer eerst het kleinste of "mini"-model en ga pas omhoog als het de norm niet haalt.
- Bekijk openbare energiebeoordelingen zoals de AI Energy Score, waar die bestaan.
- Houd een groter model achter de hand voor gevallen die het kleine model niet aankan.
- Test opnieuw wanneer de modellen of uw taak veranderen.
Gebruik het kleinste model dat aan uw kwaliteitseis voldoet, niet het krachtigste dat beschikbaar is. Een groot algemeen model betaalt bij elk verzoek voor vaardigheden die uw taak misschien nooit gebruikt.
Waarom maakt de grootte van een model zoveel uit?
Het is meestal de grootste afzonderlijke hefboom voor energie. Luccioni, Jernite en Strubell ontdekten dat generatieve modellen voor meerdere doeleinden voor dezelfde taken ordes van grootte duurder zijn om te draaien dan taakspecifieke systemen. UNESCO en University College London ontdekten dat kleine modellen die op specifieke taken zijn afgestemd het energieverbruik tot 90% konden verminderen.
Hoe test ik kandidaten?
- Leg de lat op basis van uw eigen werk, bijvoorbeeld "haalt het totaalbedrag van de factuur in 98% van de gevallen correct op".
- Test eerst klein. Veel aanbieders hebben "mini"-, "lite"- of "flash"-versies; open-weight-modelfamilies zijn er in verschillende groottes.
- Stop bij het eerste model dat slaagt. Groter is bij smalle taken niet vanzelf nauwkeuriger.
- Vergelijk energie, niet alleen prijs. De AI Energy Score van Hugging Face geeft open modellen één tot vijf sterren voor de energie per vraag bij veelvoorkomende taken; zie een AI Energy Score-beoordeling lezen.
Voor gewone gebruikers geldt hetzelfde idee: kies in uw chatbot de snelle of lichtere optie voor eenvoudige vragen.
Veelgemaakte fouten
- Kiezen op reputatie in plaats van testen op uw eigen voorbeelden.
- Kosten per aanroep meten, niet per succes. Een model dat te klein is en faalt, waardoor u het opnieuw moet draaien op een groot model, kan in totaal meer kosten.
- Nooit opnieuw kijken. Kleine modellen worden snel beter; test elke paar maanden opnieuw.
Zie verzoeken naar kleinere modellen routeren om elk verzoek automatisch naar de juiste grootte te sturen. De volledige methode staat in het juiste model kiezen.
Bronnen
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
Gerelateerd
Kies het juiste model voor de taak
AI op maat: wanneer u kleine of gespecialiseerde modellen gebruikt, wanneer een frontiermodel zijn kosten waard is, hoe routing werkt en wanneer u geen AI gebruikt.
Hoe vind ik een taakspecifiek model in plaats van een algemene chatbot te gebruiken?
Een klein model vinden dat voor één taak is gebouwd, zoals classificeren, extraheren of vertalen, en controleren of het een chatbot evenaart met minder energie.
Hoe stuur ik verzoeken door naar kleinere AI-modellen?
Zo stuurt u routineverzoeken naar een klein model en alleen moeilijke naar een groot model, en stemt u de router af zodat herhaalpogingen de besparing niet opeten.
Hoe vergelijk ik het energieverbruik van verschillende AI-modellen?
AI-modellen eerlijk vergelijken op energie: gebruik benchmarks zoals de AI Energy Score, of meet ze zelf op dezelfde taak, hardware en instellingen.