# Hoe draai ik een AI-model lokaal op mijn eigen computer?

> Zo draait u een open AI-model op uw eigen laptop of server met tools als Ollama of llama.cpp, kiest u een passend gekwantiseerd model en meet u het energieverbruik.

Source: https://greenai.guide/nl/hoe/hoe-draai-ik-een-ai-model-lokaal-op-mijn-eigen-computer/  
Updated: 2026-11-19

## In het kort

Installeer een lokale runner zoals Ollama of llama.cpp, download een klein model met open gewichten in een gekwantiseerd formaat zoals GGUF en draai het op uw eigen computer. Kies het kleinste model dat uw taak aankan: gekwantiseerde versies hebben veel minder geheugen nodig, dus een model met 8 miljard parameters dat in 16-bitsvorm ongeveer 16 GB nodig heeft, past bij 4 bits in ongeveer 4–5 GB.

## Steps

1. Controleer hoeveel geheugen uw computer heeft en of die een bruikbare GPU of Apple silicon heeft.
2. Installeer een lokale runner zoals Ollama of llama.cpp.
3. Download een klein model met open gewichten in een gekwantiseerd formaat dat in uw geheugen past.
4. Test het op uw echte taken en ga alleen een maat groter als het tekortschiet.
5. Meet het energieverbruik met een stopcontactmeter of een tool zoals CodeCarbon.
6. Sluit het model als u het niet gebruikt, zodat het geen geheugen of stroom vasthoudt.

**Een model lokaal draaien betekent: een runner kiezen, een model dat past, en dan meten.** Uw gegevens blijven op
uw eigen machine en u ziet precies wat de AI aan energie kost, iets wat een gehoste dienst u nooit laat zien.

## Wat heb ik nodig? {#what-do-i-need}

- **Een runner.** Ollama is een populaire manier om open modellen op uw eigen computer te gebruiken. llama.cpp is
  een C/C++-engine op een lager niveau, bedoeld om modellen met minimale installatie op allerlei hardware te draaien.
- **Een modelbestand.** GGUF is een binair formaat dat is geoptimaliseerd voor snel laden en efficiënte inferentie,
  met gekwantiseerde versies van minder dan 2 bits tot 8 bits per gewicht.
- **Genoeg geheugen.** De documentatie van Hugging Face geeft een vuistregel: een model met 8 miljard parameters
  heeft in 16-bitsvorm ongeveer 16 GB nodig voor zijn gewichten, bij 8 bits ongeveer 8 GB en bij 4 bits ongeveer
  4–5 GB. Minder bits kosten wat nauwkeurigheid.

## Is het groener dan de cloud? {#is-it-greener-than-the-cloud}

**Niet vanzelf.** Een laptop die één verzoek tegelijk afhandelt, kan per antwoord minder efficiënt zijn dan een
drukke, goed gebatchte server in een datacenter. Lokaal wint als het model klein is, de taak vaak voorkomt of als u
daarmee voorkomt dat u grote hoeveelheden gegevens over het netwerk stuurt. Zie
[apparaat of cloud](/nl/hoe/hoe-kies-ik-tussen-ai-op-mijn-eigen-apparaat-en-ai-in-de-cloud/).

## Veelgemaakte fouten {#common-mistakes}

- **Het grootste model downloaden dat uw machine aankan.** Begin klein; zie
  [kies een kleiner AI-model](/nl/hoe/hoe-kies-ik-een-kleiner-ai-model/).
- **Het model de hele dag geladen laten** op een desktop met een stroomslurpende GPU.
- **Een nieuwe GPU kopen voordat u een gekwantiseerd model hebt geprobeerd**; zie
  [hoe u een model kwantiseert](/nl/hoe/hoe-kwantiseer-ik-een-model/).

Gebruik voor het energieverbruik een stopcontactmeter of CodeCarbon, zoals beschreven in
[meet de energie die AI op uw eigen computer gebruikt](/nl/hoe/hoe-meet-ik-hoeveel-energie-ai-verbruikt-op-mijn-eigen-computer-of-gpu/). Lees voor
de afwegingen [edge of cloud](/nl/goede-praktijk/edge-of-cloud-waar-moet-ai-draaien/).

## Bronnen

- [Ollama documentation](https://docs.ollama.com), Ollama (2026)
- [llama.cpp: LLM inference in C/C++](https://github.com/ggml-org/llama.cpp), ggml-org (GitHub) (2026)
- [GGUF](https://huggingface.co/docs/hub/gguf), Hugging Face Hub documentation (2026)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
