In het kort
Als uw invoer gestructureerde data of korte gelabelde tekst is en de uitvoer een getal, een categorie of een rangschikking, probeer dan eerst een klassiek model: een lineair model, gradient-boosted trees of een kleine classifier. Die zijn veel goedkoper om te draaien, sneller, makkelijker uit te leggen en vaak even nauwkeurig. Grijp naar een groot taalmodel wanneer de taak echt open taal vraagt.
Stappen
- Schrijf het type invoer, het type uitvoer en de kwaliteitseis op.
- Bouw eerst een eenvoudige basislijn, zoals een regel, een lineair model of gradient-boosted trees.
- Probeer een kleine gefinetunede classifier als de invoer vrije tekst is.
- Test een LLM alleen als de basislijnen de eis niet halen, en dan op dezelfde evaluatieset.
- Vergelijk kwaliteit, latentie en energie per voorspelling voordat u kiest.
Gebruik het eenvoudigste model dat aan uw kwaliteitseis voldoet. Voor gestructureerde data en smalle labeltaken is dat meestal een klassiek machine-learningmodel, geen groot taalmodel.
Waarom is dit belangrijk?
Luccioni, Jernite en Strubell maten de energie van het draaien van modellen voor veel verschillende taken. Tekst classificeren was een van de goedkoopste taken, met ongeveer 0,002 kWh per 1.000 inferenties, terwijl algemene generatieve modellen voor dezelfde taak ordes van grootte meer kostten dan taakspecifieke modellen. Ook de Web Sustainability Guidelines van het W3C vragen teams de noodzaak van AI te beoordelen voordat ze het invoeren.
Een Britse green AI-sandpit (een verkennende werksessie) uit 2026 met wiskundigen, informatici en mensen uit het bedrijfsleven maakte hetzelfde punt vanuit een andere hoek: mensen grijpen vaak naar AI terwijl een goed begrepen statistische of numerieke methode het werk al doet.
Een snelle test
| Uw taak | Probeer eerst |
|---|---|
| Een getal voorspellen uit tabeldata | Lineair model of gradient-boosted trees |
| Een van een paar labels toekennen | Kleine gefinetunede classifier |
| Vergelijkbare items vinden | Embeddings plus een nearest-neighbour-index |
| Een tijdreeks voorspellen | Gevestigde statistische voorspellingsmethoden |
| Schrijven, uitleggen of een gesprek voeren | Hier verdient een LLM zijn kosten terug |
Veelgemaakte fouten
- De basislijn overslaan. Zonder basislijn kunt u niet zien of de LLM iets toevoegt.
- Een LLM data laten labelen waarop u daarna nooit traint. Gebruik hem één keer om labels te maken en train dan een klein model.
- Alleen op nauwkeurigheid vergelijken. Neem ook latentie, energie per voorspelling en de uitlegbaarheid van fouten mee.
Lees meer in het juiste model kiezen en wiskunde voor efficiënte AI.
Bronnen
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Web Sustainability Guidelines, W3C (2025)
Gerelateerd
Hoe bepaal ik of ik voor een taak eigenlijk wel AI nodig heb?
Een snelle test of een taak generatieve AI nodig heeft, of dat zoeken, een rekenmachine, een sjabloon of een simpele regel het sneller en zuiniger doet.
Hoe vind ik een taakspecifiek model in plaats van een algemene chatbot te gebruiken?
Een klein model vinden dat voor één taak is gebouwd, zoals classificeren, extraheren of vertalen, en controleren of het een chatbot evenaart met minder energie.
Kies het juiste model voor de taak
AI op maat: wanneer u kleine of gespecialiseerde modellen gebruikt, wanneer een frontiermodel zijn kosten waard is, hoe routing werkt en wanneer u geen AI gebruikt.
De wiskunde die AI efficiënter maakt
Pruning, sparsiteit, sketching, randommatrixtheorie en fysica-geïnformeerde modellen: hoe wiskunde het rekenwerk, geheugen en energie van AI vermindert.