En bref
Générer chaque réponse, chaque ligne de code ou chaque image de zéro avec un grand modèle est la façon la plus coûteuse d'utiliser l'IA. L'orchestration se sert de l'IA pour planifier et sélectionner, puis assemble le résultat à partir de composants testés et oriente chaque étape vers le modèle le moins coûteux capable de la réaliser. Le token le moins cher est celui que l'on ne génère jamais.
Points clés
- La génération est l'étape coûteuse de l'IA générative ; sélectionner et réutiliser des composants existants et testés coûte bien moins cher.
- Le routage envoie chaque requête au plus petit modèle capable de la traiter, et les routeurs publiés réduisent nettement les coûts avec peu de perte de qualité.
- La recherche documentaire (retrieval) ne fournit que le fragment pertinent d'un document ou d'une base de code, si bien que le modèle lit moins de tokens.
- Réutiliser des composants éprouvés aide aussi la sécurité et la maintenance: une seule correction atteint chaque endroit où le composant est utilisé.
- Le routage a un piège: un modèle trop petit peut échouer et imposer une nouvelle tentative coûteuse sur un grand modèle.
La plupart des débats sur l'empreinte de l'IA portent sur la façon de rendre la génération moins coûteuse : modèles plus petits, puces plus rapides, électricité plus propre. Une autre question est de savoir combien de génération est réellement nécessaire. L'orchestration y répond en traitant la génération comme un dernier recours plutôt que comme le choix par défaut.
Que signifie « l'orchestration plutôt que la génération » ?
Cela signifie utiliser l'IA pour planifier une tâche et choisir les éléments, puis construire le résultat principalement à partir de choses qui existent déjà et ont été vérifiées. On ne demande à un grand modèle de générer quelque chose de nouveau que lorsqu'il n'existe rien d'adapté.
Une grande partie de ce que l'on demande à l'IA générative n'a rien de nouveau. Les logiciels regorgent des mêmes motifs : écrans de connexion, envoi de fichiers, gestion des dates, validation des données. Les contrats réutilisent des clauses types. Les rapports réutilisent des sections types. Générer chacun de ces éléments à neuf, à chaque fois, répète le coût énergétique et produit des versions légèrement différentes qu'il faut chacune vérifier.
Un système orchestré fonctionne plutôt comme une équipe d'ingénieurs bien organisée :
- Un planificateur détermine ce dont la tâche a besoin.
- Un classificateur ou une recherche peu coûteux trouvent un composant existant et testé qui convient.
- Seules les parties réellement nouvelles sont générées, par le plus petit modèle capable de le faire.
- Les parties nouvellement générées sont testées et ajoutées à la bibliothèque, pour que la requête suivante puisse les réutiliser.
La bibliothèque se comporte comme un cache. Un « sandpit » britannique sur l'IA verte réuni en 2026, rassemblant mathématiciens, informaticiens et industriels, a discuté de ce schéma sous l'intitulé « le token le moins cher est celui que l'on ne génère jamais ».
Pourquoi la réutilisation économiserait-elle de l'énergie ?
Parce que retrouver et adapter un composant coûte une infime fraction de sa génération, et que les composants testés demandent moins de reprises. C'est lors de la génération que les tokens, et donc l'essentiel de l'énergie d'inférence, sont dépensés.
Le coût énergétique d'un contenu écrit par l'IA n'est pas négligeable. Une étude du King's College London (Cheung et ses collègues, 2025), article partenaire du projet GreenCode, a comparé la résolution de tâches de programmation à la main et avec un assistant d'IA. En moyenne sur l'ensemble des tâches, qui étaient des problèmes de concours de programmation, la génération de code assistée par IA avait une empreinte carbone 32,72 fois supérieure à celle de l'approche manuelle, et l'écart se creusait à mesure que les tâches devenaient plus complexes. La réutilisation s'attaque précisément à ce coût.
Les bénéfices vont au-delà de l'énergie :
- Qualité. Un composant éprouvé a été testé une fois et peut être utilisé en confiance de nombreuses fois.
- Sécurité. Si un composant s'avère défectueux, vous savez à quels endroits il est utilisé, et une seule correction les atteint tous.
- Maintenance. Une base de code construite à partir d'éléments partagés est plus petite et plus facile à comprendre qu'une base pleine de quasi-doublons.
Qu'est-ce que le routage de modèles ?
Le routage envoie chaque requête au modèle le mieux adapté, généralement le plus petit susceptible de bien répondre. Les requêtes simples vont à de petits modèles bon marché ; les plus difficiles sont transmises à des modèles plus puissants.
La recherche publiée montre le potentiel :
- FrugalGPT (Chen, Zaharia et Zou, 2023) enchaînait des modèles du moins cher au plus cher, en s'arrêtant lorsqu'une réponse était jugée suffisante, et a fait état de performances égales à celles de GPT-4 pour un coût jusqu'à 98 % inférieur.
- RouteLLM (Ong et ses collègues, 2024) a entraîné des routeurs sur des données de préférences humaines pour décider quand une requête a besoin d'un modèle puissant, et a fait état d'une réduction des coûts de plus de moitié dans certains cas, sans perte de qualité.
- Hybrid LLM (Ding et ses collègues, 2024) orientait les requêtes entre un petit et un grand modèle selon la difficulté prévue, avec jusqu'à 40 % d'appels en moins au grand modèle et sans baisse de la qualité des réponses.
Ces études mesurent le coût plutôt que directement l'énergie, mais pour un même fournisseur et un même matériel, moins de tokens sur de grands modèles signifie en général moins d'énergie. Voir choisir le bon modèle.
Qu'est-ce que la recherche documentaire, et en quoi aide-t-elle ?
La recherche documentaire (retrieval) va chercher l'information pertinente et ne fournit que celle-ci au modèle, au lieu de lui faire lire ou se rappeler tout le reste. La génération augmentée par la recherche (RAG), introduite par Lewis et ses collègues en 2020, associe une étape de recherche à un générateur.
Pour l'énergie, l'enjeu est le nombre de tokens. Faire passer des documents ou des bases de code entiers par la fenêtre de contexte d'un modèle coûte de l'énergie à chaque requête. GreenCode, un projet de recherche européen (ITEA) sur les logiciels économes en énergie, utilise la recherche dans un index de la base de code afin que « le nombre de tokens reflète la tâche plutôt que le dépôt », en complément de petits modèles affinés et d'un routage vers le plus petit composant capable.
Que montrent les travaux de GreenCode ?
Que le coût d'utilisation de l'IA doit être compté, et que la façon dont un agent travaille compte autant que le modèle qu'il utilise. Deux articles partenaires l'illustrent :
- EnergyBench (Ionescu, Jensen et Thomsen, 2025) note le code généré par l'IA à la fois sur sa justesse et sur l'énergie qu'il consomme à l'exécution. L'étude a constaté que la formulation du prompt pouvait améliorer l'efficacité énergétique du code généré jusqu'à 91,9 % dans certains cas, mais souvent au détriment de l'exactitude. Demander du code vert dans le prompt n'est pas, à lui seul, une solution fiable.
- La GreenCode Constitution (Kapenekakis et ses collègues, 2026) a donné à un agent de programmation des principes écrits, la justesse d'abord, puis 37 anti-patterns énergétiques, et lui a fait mesurer l'énergie avant et après chaque modification. Sur llama.cpp, un moteur d'inférence déjà très optimisé, il a réduit l'énergie GPU de 4,7 %. L'économie d'énergie dépassait le gain de vitesse, ce qui rappelle que plus rapide ne veut pas toujours dire plus vert : l'énergie doit donc être mesurée directement.
Le pipeline de GreenCode applique lui-même le principe d'orchestration : il privilégie de petits modèles spécialisés, la recherche documentaire et le routage, et effectue une évaluation préalable pour ne pas lancer une tâche dont le coût d'inférence ne serait pas rentabilisé.
Qu'est-ce qui peut mal tourner ?
Le routage et la réutilisation n'économisent de l'énergie que s'ils choisissent bien. Les principaux risques :
- Le sous-dimensionnement. Un modèle trop petit peut échouer, et la nouvelle tentative sur un modèle plus grand coûte plus cher que d'y être allé directement. Dans les systèmes agentiques, où un seul échec peut faire dérailler de nombreuses étapes ultérieures, c'est encore plus important. Fixer le seuil est un vrai problème de conception.
- Les bibliothèques obsolètes. Les composants ont besoin de responsables, de tests et de mises à jour, sinon la réutilisation propage d'anciennes erreurs.
- Les coûts cachés. Le classificateur, l'index et l'étape de recherche consomment tous de l'énergie. Ils sont en général bien moins coûteux que la génération, mais doivent aussi être mesurés.
- L'effet rebond. Une IA moins chère invite à utiliser davantage d'IA. Voir l'efficacité n'est pas la sobriété.
Que faire ensuite ?
- Avant de générer, cherchez : existe-t-il déjà un composant testé, un modèle de document ou une réponse antérieure ?
- Orientez les requêtes selon leur difficulté ; utilisez un petit modèle par défaut et passez à plus grand si nécessaire. Voir utiliser l'IA efficacement.
- Utilisez la recherche documentaire pour garder des prompts courts, plutôt que de coller des documents entiers.
- Tenez une bibliothèque de résultats éprouvés, avec des tests et un responsable, et enrichissez-la au fil de l'eau.
- Mesurez l'énergie ou les tokens par tâche accomplie, nouvelles tentatives comprises, et non par requête.
- Lisez l'IA agentique et le gaspillage de tokens si vous utilisez des agents à plusieurs étapes.
Questions fréquentes
Qu'est-ce que l'orchestration en IA ?
Coordonner plusieurs modèles, outils et composants stockés pour accomplir une tâche, au lieu de demander à un seul grand modèle de générer toute la réponse. Un planificateur décide de ce qui est nécessaire ; des éléments moins coûteux font l'essentiel du travail.
Qu'est-ce que le routage de modèles ?
Envoyer chaque requête au modèle le mieux adapté, généralement le plus petit et le moins cher susceptible de bien répondre, et ne passer à un modèle plus grand qu'en cas de besoin.
Le routage réduit-il la qualité ?
Les systèmes de routage publiés font état de fortes économies tout en conservant l'essentiel de la qualité du modèle le plus puissant, mais le résultat dépend de la tâche et de la capacité du routeur à juger la difficulté.
Sources
- FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- RouteLLM: learning to route LLMs with preference data, Ong et al., ICLR 2025 (2024)
- Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al., ICLR (2024)
- Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
- Green optimised generative AI, GreenCode (2026)
- Green AI and energy-aware computing, GreenCode (2026)
- Comparative analysis of carbon footprint in manual vs. LLM-assisted code development, Cheung, Kaul, Jahangirova, Mousavi and Zie, ResponsibleSE 2025 (ACM) (2025)
- EnergyBench: holistic benchmark for correct and energy-efficient LLM-generated code, Ionescu, Jensen and Thomsen, FLTA 2025 (2025)
- GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
Voir aussi
Choisir le bon modèle pour la tâche
Dimensionner l'IA au plus juste : petits modèles ou modèles spécialisés, quand un modèle de pointe vaut son coût, le routage, et quand se passer d'IA.
Utiliser l'IA efficacement : les bons réflexes au quotidien
Des réflexes quotidiens qui réduisent l'énergie de l'IA : prompts clairs, moins de régénérations, prudence avec images et vidéos, cache et options désactivées.
L'IA agentique et le gaspillage de tokens
Pourquoi les agents d'IA peuvent consommer bien plus de tokens et d'énergie qu'un chat, comment les boucles les gaspillent, et les garde-fous utiles.
Les mathématiques qui rendent l'IA plus efficace
Élagage, parcimonie, sketching, matrices aléatoires et modèles informés par la physique : comment les maths réduisent le calcul, la mémoire et l'énergie de l'IA.