# Comment faire tourner un modèle d'IA en local ?

> Comment exécuter un modèle d'IA ouvert sur votre ordinateur ou votre serveur avec Ollama ou llama.cpp, choisir un modèle quantifié adapté et mesurer son énergie.

Source: https://greenai.guide/fr/comment/comment-faire-tourner-un-modele-d-ia-en-local/  
Updated: 2026-11-19

## En bref

Installez un outil d'exécution local comme Ollama ou llama.cpp, téléchargez un petit modèle à poids ouverts dans un format quantifié comme GGUF, et faites-le tourner sur votre propre ordinateur. Choisissez le plus petit modèle qui fait votre tâche : les versions quantifiées ont besoin de bien moins de mémoire, si bien qu'un modèle de 8 milliards de paramètres qui occupe environ 16 Go en 16 bits tient dans environ 4 à 5 Go sur 4 bits.

## Steps

1. Vérifiez la mémoire de votre ordinateur et s'il dispose d'un GPU utilisable ou d'une puce Apple silicon.
2. Installez un outil d'exécution local comme Ollama ou llama.cpp.
3. Téléchargez un petit modèle à poids ouverts dans un format quantifié qui tient dans votre mémoire.
4. Testez-le sur vos tâches réelles et ne passez à une taille supérieure que s'il est insuffisant.
5. Mesurez son énergie avec un wattmètre à la prise ou un outil comme CodeCarbon.
6. Fermez le modèle quand vous ne l'utilisez pas, pour qu'il n'occupe ni mémoire ni électricité.

**Faire tourner un modèle en local, c'est choisir un outil d'exécution, un modèle adapté, puis mesurer.** Les données
restent sur votre machine, et vous voyez exactement ce que l'IA coûte en énergie, ce qu'un service hébergé ne vous
montre jamais.

## De quoi ai-je besoin ? {#what-do-i-need}

- **Un outil d'exécution.** Ollama est un moyen populaire d'utiliser des modèles ouverts sur votre propre ordinateur.
  llama.cpp est un moteur C/C++ de plus bas niveau, conçu pour faire tourner des modèles avec un minimum de
  configuration sur une grande variété de matériels.
- **Un fichier de modèle.** GGUF est un format binaire optimisé pour un chargement rapide et une inférence efficace,
  avec des versions quantifiées allant de moins de 2 bits jusqu'à 8 bits par poids.
- **Assez de mémoire.** La documentation de Hugging Face donne un ordre de grandeur : un modèle de 8 milliards de
  paramètres a besoin d'environ 16 Go pour ses poids en 16 bits, d'environ 8 Go sur 8 bits et d'environ 4 à 5 Go sur
  4 bits. Moins de bits coûtent un peu de précision.

## Est-ce plus vert que le cloud ? {#is-it-greener-than-the-cloud}

**Pas automatiquement.** Un ordinateur portable qui traite une requête à la fois peut être moins efficace par réponse
qu'un serveur de centre de données très sollicité et bien alimenté en lots. Le local l'emporte quand le modèle est
petit, la tâche fréquente, ou quand il évite d'envoyer de gros volumes de données sur le réseau. Consultez
[appareil ou cloud](/fr/comment/faut-il-faire-tourner-l-ia-sur-mon-appareil-ou-dans-le-cloud/).

## Erreurs fréquentes {#common-mistakes}

- **Télécharger le plus gros modèle que votre machine peut contenir.** Commencez petit ; consultez
  [choisir un modèle d'IA plus petit](/fr/comment/comment-choisir-un-modele-d-ia-plus-petit/).
- **Laisser le modèle chargé toute la journée** sur un ordinateur de bureau équipé d'un GPU gourmand.
- **Acheter un nouveau GPU avant d'essayer un modèle quantifié** ; consultez
  [comment quantifier un modèle](/fr/comment/comment-quantifier-un-modele/).

Pour vérifier l'énergie, utilisez un wattmètre à la prise ou CodeCarbon, comme décrit dans
[mesurer l'énergie de l'IA sur votre propre ordinateur](/fr/comment/comment-mesurer-l-energie-consommee-par-l-ia-sur-mon-ordinateur-ou/). Pour les
compromis, lisez [appareil ou cloud](/fr/bonnes-pratiques/peripherie-ou-cloud-ou-faire-tourner-l-ia/).

## Sources

- [Ollama documentation](https://docs.ollama.com), Ollama (2026)
- [llama.cpp: LLM inference in C/C++](https://github.com/ggml-org/llama.cpp), ggml-org (GitHub) (2026)
- [GGUF](https://huggingface.co/docs/hub/gguf), Hugging Face Hub documentation (2026)
- [Quantization overview](https://huggingface.co/docs/transformers/main/en/quantization/overview), Hugging Face Transformers documentation (2026)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
