# Comment rendre un modèle assez petit pour un appareil embarqué ?

> Réduisez un modèle pour les téléphones, capteurs et cartes embarquées : partez petit, distillez, quantifiez et élaguez, puis testez précision et énergie sur l'appareil réel.

Source: https://greenai.guide/fr/comment/comment-rendre-un-modele-assez-petit-pour-un-appareil-embarque/  
Updated: 2026-11-19

## En bref

Partez du plus petit modèle susceptible d'atteindre votre seuil de qualité, puis réduisez-le encore par distillation, quantification et élagage, en testant chaque étape sur l'appareil cible. Mesurez ensemble l'énergie par inférence, la latence et la précision sur le matériel réel, et laissez le modèle passer à un niveau inférieur quand la batterie est faible ou que l'appareil chauffe.

## Steps

1. Fixez un seuil de qualité et un budget de mémoire, de latence et d'énergie pour l'appareil cible.
2. Partez d'un modèle petit ou distillé plutôt que de réduire un grand modèle généraliste.
3. Quantifiez les poids sur 8 ou 4 bits et vérifiez la précision sur vos propres cas de test.
4. Élaguez les poids qui contribuent peu, puis refaites les tests sur l'appareil.
5. Mesurez ensemble l'énergie par inférence, la latence et la précision sur le matériel réel.
6. Passez à un modèle plus petit ou à une fréquence plus basse quand la batterie est faible ou que l'appareil chauffe.

**Associez un petit modèle de départ à la distillation, à la quantification et à l'élagage, et jugez chaque étape sur
l'appareil lui-même.** Les appareils embarqués ont peu de mémoire et fonctionnent souvent sur batterie : un modèle
trop gros soit ne tient pas, soit vide la batterie et provoque un bridage thermique. Bien choisir la taille permet
aussi de ne pas envoyer les données vers le cloud.

## Quelles techniques réduisent le plus un modèle ? {#which-techniques-shrink-a-model-most}

- **La distillation** entraîne un petit « élève » à imiter un grand « enseignant ». DistilBERT était 40 % plus petit
  et 60 % plus rapide que BERT tout en conservant 97 % de ses capacités de compréhension du langage.
- **La quantification** stocke les poids sur moins de bits. La documentation de Hugging Face donne l'exemple d'un
  modèle de 8 milliards de paramètres dont les poids occupent environ 16 Go en précision 16 bits, environ 8 Go sur
  8 bits et environ 4 à 5 Go sur 4 bits, au prix d'une certaine perte de précision. Consultez
  [comment quantifier un modèle](/fr/comment/comment-quantifier-un-modele/).
- **L'élagage** supprime les poids qui influencent à peine la sortie. Consultez
  [comment élaguer un réseau de neurones](/fr/comment/comment-elaguer-un-reseau-de-neurones/).

## Comment le modèle doit-il se comporter sur l'appareil ? {#how-should-the-model-behave-on-the-device}

Le pattern de la Green Software Foundation pour l'IA embarquée recommande de suivre ensemble l'énergie par inférence,
la latence et la précision, et de s'adapter aux conditions : un modèle plus petit ou une fréquence d'inférence plus
basse quand la batterie est faible ou que l'appareil chauffe.

## Erreurs fréquentes {#common-mistakes}

- **Ne tester que sur un ordinateur portable.** Les accélérateurs, la mémoire et les limites thermiques diffèrent ;
  mesurez sur le matériel cible.
- **Réduire au-delà du seuil de qualité.** Un modèle qui échoue et doit faire appel au cloud en secours peut coûter
  plus qu'il ne fait économiser.
- **Lancer l'inférence en permanence.** Déclenchez-la sur des événements lorsque c'est possible, plutôt qu'à chaque
  image ou chaque seconde.

Savoir si l'appareil ou le cloud est plus vert dépend du cas : consultez [appareil ou cloud](/fr/bonnes-pratiques/peripherie-ou-cloud-ou-faire-tourner-l-ia/)
et [l'IA en périphérie](/fr/articles/l-ia-en-peripherie-plus-verte-ou-simplement-moins-visible/).

## Sources

- [Optimize power consumption for edge AI inference](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/operations/optimize-edge-ai-power-performance.md), Green Software Foundation, Green Software Patterns (2025)
- [Run AI models at the edge](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/architecture/system-topology/run-ai-models-edge.md), Green Software Foundation, Green Software Patterns (2025)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al. (arXiv 1910.01108) (2019)
