# Hoe bepaal ik of een mixture-of-experts-model energie bespaart?

> Hoe mixture-of-experts-modellen maar een deel van hun parameters per token activeren, wanneer dat energie bespaart ten opzichte van een dicht model, en wat u meet.

Source: https://greenai.guide/nl/hoe/hoe-bepaal-ik-of-een-mixture-of-experts-model-energie-bespaart/  
Updated: 2026-11-19

## In het kort

Een mixture-of-experts-model stuurt elk token naar een paar gespecialiseerde subnetwerken, zodat maar een deel van het model per token werk doet. Mixtral heeft bijvoorbeeld 47 miljard parameters, maar gebruikt er 13 miljard per token. Dat kan de rekenkracht per antwoord verlagen ten opzichte van een dicht (dense) model van vergelijkbare kwaliteit, maar elke expert moet nog steeds in het geheugen staan. Vergelijk dus kwaliteit, latentie en energie per verzoek op uw eigen hardware.

## Steps

1. Selecteer voor uw taak een mixture-of-experts-model en een dicht model van vergelijkbare kwaliteit.
2. Controleer of beide in uw beschikbare GPU-geheugen passen, met alle experts meegeteld.
3. Draai beide op uw evaluatieset bij uw echte batchgrootte.
4. Vergelijk kwaliteit, latentie en energie per verzoek naast elkaar.
5. Kies op alle drie, en overweeg een kleiner dicht model als dat voldoet.

**Mixture-of-experts-modellen (MoE) kunnen de kwaliteit van een groot model leveren met minder rekenwerk per token,
maar niet met minder geheugen.** Of ze voor u energie besparen, hangt af van uw hardware en verkeer.

## Hoe werkt een mixture of experts? {#how-does-a-mixture-of-experts-work}

Een dicht model gebruikt elke parameter voor elk token. Een MoE-model heeft veel "expert"-subnetwerken en een kleine
router die per token een paar experts kiest. Mixtral of Experts van Jiang en collega's geeft elk token toegang tot 47
miljard parameters, maar gebruikt tijdens inferentie maar 13 miljard actieve parameters, en de auteurs melden dat het
Llama 2 70B en GPT-3.5 overtreft of evenaart op de benchmarks die zij evalueerden. Zie ook het
[woordenlijstitem](/nl/woordenlijst/#mixture-of-experts).

## Wanneer bespaart het energie? {#when-does-it-save-energy}

- **Vergeleken met een dicht model van vergelijkbare kwaliteit** betekenen minder actieve parameters meestal minder
  rekenwerk per token.
- **Als u het geheugen hebt.** Alle experts moeten nog steeds geladen worden, dus u hebt mogelijk evenveel GPU's
  nodig als voor het dichte model. Ongebruikt geheugen verbruikt nog steeds stroom.
- **Bij een goede benutting.** Met batching gebruiken verschillende tokens verschillende experts, wat de hardware
  beter bezig houdt.

## Veelgemaakte fouten {#common-mistakes}

- **Vergelijken met de verkeerde basislijn.** Als een klein dicht model aan uw kwaliteitseisen voldoet, verslaat het
  meestal beide. Zie [hoe u een kleiner AI-model kiest](/nl/hoe/hoe-kies-ik-een-kleiner-ai-model/).
- **Actieve parameters als de volledige kosten zien.** Geheugen, communicatie tussen GPU's en de overhead van de
  routering tellen ook mee.
- **Niet meten.** Gebruik openbare beoordelingen zoals de AI Energy Score als die uw kandidaten dekken; benchmark
  anders beide op dezelfde hardware.

Lees voor de bredere methode [kies het juiste model](/nl/goede-praktijk/kies-het-juiste-model-voor-de-taak/).

## Bronnen

- [Mixtral of experts](https://arxiv.org/abs/2401.04088), Jiang et al., Mistral AI (2024)
- [AI Energy Score](https://huggingface.github.io/AIEnergyScore/), Hugging Face (2025)
