In het kort
Voer kleine, frequente, privacygevoelige of tijdkritische taken uit op het apparaat, en stuur grote of incidentele taken die grote modellen nodig hebben naar een efficiënte clouddienst. Sommige studies vinden grote energiebesparingen op het apparaat voor geschikte modellen, maar goed beheerde datacenters zijn een lastige maatstaf, dus meet waar mogelijk voor uw eigen situatie.
Stappen
- Zet op een rij wat de taak nodig heeft: modelgrootte, hoe vaak hij draait, privacy en of hij offline moet werken.
- Kies eerder voor het apparaat bij kleine modellen, frequent gebruik, privégegevens en offline gebruik.
- Kies eerder voor de cloud bij grote modellen, incidentele zware taken en werk dat in batches kan.
- Vergelijk waar u dat kunt meten de energie per taak voor beide opties, inclusief het netwerk.
- Reken batterijduur en de leeftijd van de hardware mee als onderdeel van de kosten van het apparaat.
Klein en frequent past bij het apparaat; groot en incidenteel past bij de cloud. Geen van beide is in elk geval groener. Het antwoord hangt af van het model, hoe vaak het draait en hoe efficiënt elke kant is.
Wat zegt het bewijs?
Dat is gemengd. Li, Islam en Ren vonden een kleinere voetafdruk voor edge-gebruik van verschillende generatieve modellen, met energiebesparingen van meer dan 90% in tests op een recente telefoon. Maar hun cloudvergelijking was geen volledig geoptimaliseerde productiedienst, en servers met goede batching in een efficiënt datacenter zijn moeilijker te verslaan. Een Britse green AI-sandpit (een verkennende werksessie) uit 2026 met wiskundigen, informatici en mensen uit het bedrijfsleven noemde het netto-energie-effect van AI verspreid over miljoenen apparaten een open vraag.
Hoe kies ik?
| Pleit voor het apparaat | Pleit voor de cloud |
|---|---|
| Klein model, zoals het model van Apple op het apparaat zelf met ongeveer drie miljard parameters | Groot model dat lokaal niet past |
| Draait vaak, bijvoorbeeld bij elke foto of toetsaanslag | Draait af en toe |
| Privé- of gevoelige gegevens | Werk dat in batches of op gepland tijdstip kan |
| Moet offline of direct werken | Heeft het nieuwste, krachtigste model nodig |
De Green Software Foundation noemt het draaien van AI-modellen aan de edge als een van haar green software patterns, als optie voor geschikte modellen en niet als regel.
Veelgemaakte fouten
- Aannemen dat lokaal gratis is. Het gebruikt uw batterij en kan u richting nieuwe hardware duwen.
- Het netwerk negeren. Grote bestanden naar de cloud sturen kost ook iets.
- Een model draaien dat te groot is voor het apparaat, waardoor het traag is en veel stroom vraagt.
Zie voor een uitgebreidere keuzehulp edge of cloud en AI aan de edge.
Bronnen
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
Gerelateerd
Edge of cloud: waar moet AI draaien?
Zo weegt u AI op het apparaat en aan de edge af tegen centrale datacenters: energie, netwerk, hardware, privacy en veerkracht, met een stappenplan.
AI aan de edge: groener, of alleen minder zichtbaar?
AI op apparaten en aan de edge kan netwerk- en datacenterenergie besparen, maar verspreidt rekenwerk over miljarden apparaten die niemand meet.
Hoe draai ik een AI-model lokaal op mijn eigen computer?
Zo draait u een open AI-model op uw eigen laptop of server met tools als Ollama of llama.cpp, kiest u een passend gekwantiseerd model en meet u het energieverbruik.
Hoe maak ik een model klein genoeg voor een edge-apparaat?
Verklein een model voor telefoons, sensoren en embedded boards: begin klein, distilleer, kwantiseer en prune, en test nauwkeurigheid en energie op het echte apparaat.