En bref
Fixez une longueur de sortie maximale dans l'appel d'API, indiquez au modèle dans le prompt le format et la longueur souhaités, et utilisez des séquences d'arrêt ou une sortie structurée pour qu'il s'arrête une fois le travail terminé. L'énergie augmente avec le nombre de tokens qu'un modèle génère : plafonner la sortie est donc l'une des économies les plus simples dans n'importe quelle application.
Étapes
- Déterminez la réponse utile la plus longue pour chaque fonction et réglez en conséquence le nombre maximal de tokens de sortie de l'API.
- Indiquez le format et la longueur dans le prompt, par exemple « trois puces ».
- Utilisez une sortie structurée, comme un schéma JSON, quand votre code n'a besoin que de champs.
- Ajoutez des séquences d'arrêt lorsque la réponse a un marqueur de fin naturel.
- Détectez les réponses tronquées par la limite et traitez-les au lieu de relancer discrètement.
Dites au modèle, et à l'API, quelle longueur vous voulez. Les modèles génèrent un token à la fois, et chacun coûte du calcul.
Pourquoi est-ce important ?
Delavande, Pierrard et Luccioni ont constaté que l'énergie augmente linéairement avec la longueur de la génération, et que les modèles plus grands consomment non seulement plus d'énergie par token, mais ont aussi tendance à écrire des réponses plus longues. L'UNESCO et l'University College London ont constaté que des prompts et des réponses plus courts pouvaient réduire la consommation d'énergie de plus de moitié.
Quels réglages utiliser ?
- Le nombre maximal de tokens de sortie. Toutes les grandes API ont un paramètre pour cela. Réglez-le par fonction, et non avec une valeur globale généreuse.
- Les instructions. « Réponds en une phrase » ou « renvoie uniquement le nom de la catégorie » fonctionnent mieux qu'une limite stricte seule, car le modèle prévoit une réponse courte au lieu d'être interrompu.
- La sortie structurée. Si votre code analyse des champs, demandez du JSON conforme à un schéma et passez-vous de la prose.
- Les séquences d'arrêt. Arrêtez la génération à un marqueur, comme une balise fermante.
- L'effort de raisonnement. Lorsqu'un modèle propose un réglage de réflexion ou de raisonnement, utilisez le niveau le plus bas qui réussit vos tests : consultez quand utiliser les modes de raisonnement.
Erreurs fréquentes
- Des limites si serrées que les réponses sont tronquées, suivies d'une relance automatique avec une limite plus élevée. Cela coûte plus cher que de bien régler la longueur.
- Demander des explications que personne ne lit, comme « explique ton raisonnement » dans une chaîne de classification.
- Ne pas enregistrer les tokens de sortie par fonction, si bien que les fonctions les plus bavardes restent invisibles.
Pour les habitudes côté utilisateurs, lisez utiliser l'IA efficacement.
Sources
- Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- What are tokens and how to count them?, OpenAI Help Center (2025)
Voir aussi
Comment rédiger des prompts qui consomment moins d'énergie ?
Comment rédiger des prompts d'IA qui demandent moins de calcul : être précis, fixer une longueur, ne coller que l'essentiel et viser juste du premier coup.
Comment éviter que mon chatbot renvoie toute la conversation ?
Comment garder un contexte de chatbot réduit : limiter les tours passés, résumer les anciens messages, récupérer l'utile et mettre en cache les prompts fixes.
Quand faut-il utiliser le mode « réflexion » ou de raisonnement d'une IA ?
Quand un mode de raisonnement ou de « réflexion » d'une IA en vaut la peine, quand un modèle standard suffit, et pourquoi le raisonnement peut consommer bien plus d'énergie.
Utiliser l'IA efficacement : les bons réflexes au quotidien
Des réflexes quotidiens qui réduisent l'énergie de l'IA : prompts clairs, moins de régénérations, prudence avec images et vidéos, cache et options désactivées.