# Hoe maak ik vectorzoeken en RAG efficiënter?

> Manieren om het rekenwerk van retrieval-augmented generation te verminderen: benaderende indexen, minder en kortere passages, incrementeel indexeren, kleinere modellen.

Source: https://greenai.guide/nl/hoe/hoe-maak-ik-vectorzoeken-en-rag-efficienter/  
Updated: 2026-11-19

## In het kort

Gebruik een index voor benaderend zoeken naar dichtstbijzijnde buren in plaats van elke zoekvraag met elke opgeslagen vector te vergelijken, haal een paar korte, relevante passages op in plaats van veel lange, en maak alleen opnieuw embeddings van inhoud die is gewijzigd. Gebruik daarna het kleinste generatiemodel dat met goede context goed antwoordt. De meeste verspilling in retrievalsystemen komt van brute-force zoeken en te grote prompts.

## Steps

1. Vervang brute-force vectorvergelijking door een index voor benaderend zoeken naar dichtstbijzijnde buren.
2. Splits documenten in korte stukken en haal alleen de beste paar op.
3. Maak alleen opnieuw embeddings van nieuwe of gewijzigde inhoud in plaats van de hele index opnieuw op te bouwen.
4. Log het aantal inputtokens per antwoord en kort context in die de kwaliteit niet verbetert.
5. Test een kleiner generatiemodel zodra de retrievalkwaliteit goed is.

**Retrieval moet ervoor zorgen dat het model minder leest, niet meer.** Een goed gebouwd systeem voor
retrieval-augmented generation (RAG, generatie aangevuld met opgehaalde informatie) vindt snel een paar relevante
passages en geeft alleen die aan het model.

## Waar verspilt RAG energie? {#where-does-rag-waste-energy}

- **Brute-force zoeken.** Een zoekvraag één voor één vergelijken met elke opgeslagen embedding groeit mee met de
  omvang van de verzameling. De Green Software Foundation raadt in plaats daarvan een index voor benaderend zoeken
  naar dichtstbijzijnde buren aan.
- **Te grote context.** Twintig lange passages ophalen "voor de zekerheid" vermenigvuldigt het aantal inputtokens.
  Epoch AI schat dat een gewone vraag van ongeveer 0,3 Wh oploopt tot ongeveer 2,5 Wh bij een invoer van 10.000
  tokens.
- **Alles opnieuw opbouwen.** Elke nacht van een hele documentverzameling opnieuw embeddings maken terwijl er maar een
  paar documenten zijn gewijzigd.

## Wat maakt het grootste verschil? {#what-makes-the-biggest-difference}

**Betere retrieval, zodat het model minder context nodig heeft.** Goed opknippen in stukken, een herrangschikstap en
metadatafilters (datum, afdeling, product) zorgen ervoor dat drie korte passages het werk van vijftien lange kunnen
doen. Zodra de context goed is, antwoordt een kleiner generatiemodel vaak net zo goed; zie
[hoe u een kleiner AI-model kiest](/nl/hoe/hoe-kies-ik-een-kleiner-ai-model/).

## Veelgemaakte fouten {#common-mistakes}

- **Een groot embeddingmodel gebruiken** waar een klein model op uw gegevens net zo goed ophaalt. Test beide.
- **Geen evaluatieset.** Meet de retrievalkwaliteit (kwam de juiste passage terug?) los van de kwaliteit van het
  antwoord.
- **Niets cachen.** Populaire vragen kunnen antwoorden hergebruiken; zie [hoe u caching gebruikt](/nl/hoe/hoe-gebruik-ik-caching-om-de-energie-van-llm-aanroepen-te-verminderen/).

Lees voor het bredere idee van hergebruiken in plaats van opnieuw genereren
[orkestratie boven generatie](/nl/artikelen/orkestratie-boven-generatie/).

## Bronnen

- [Green Software Patterns: optimise data storage formats for AI training and inference](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/data-handling/optimize-data-storage-ai-training.md), Green Software Foundation (2025)
- [Retrieval-augmented generation for knowledge-intensive NLP tasks](https://arxiv.org/abs/2005.11401), Lewis et al., NeurIPS (2020)
- [How much energy does ChatGPT use?](https://epoch.ai/gradient-updates/how-much-energy-does-chatgpt-use), Epoch AI (2025)
