# Comment orienter les requêtes vers des modèles plus petits ?

> Comment envoyer les requêtes courantes vers un petit modèle et seulement les difficiles vers un grand, et régler le routeur pour que les relances n'annulent pas l'économie.

Source: https://greenai.guide/fr/comment/comment-orienter-les-requetes-vers-des-modeles-plus-petits/  
Updated: 2026-11-19

## En bref

Placez un routeur devant vos modèles : une règle, un petit classifieur ou une cascade qui essaie d'abord un petit modèle et passe à un plus grand quand la confiance est faible ou qu'une vérification échoue. Des routeurs publiés ont réduit les coûts de plus de moitié dans certains tests sans baisse de qualité. Réglez le seuil sur vos propres données et mesurez le coût par tâche réussie, pas par appel.

## Steps

1. Constituez un jeu d'évaluation de requêtes réelles avec un seuil de réussite pour chacune.
2. Mesurez à quelle fréquence un petit modèle réussit seul.
3. Choisissez une conception de routeur, comme des règles, un classifieur de difficulté ou une cascade avec vérification.
4. Réglez le seuil d'escalade sur votre jeu d'évaluation.
5. Suivez le coût et l'énergie par tâche réussie, escalades et relances comprises.
6. Refaites le réglage quand l'un des modèles change.

**Le routage vous donne l'essentiel de la qualité d'un grand modèle pour une bonne partie du coût d'un petit.** L'idée
est simple : envoyer chaque requête vers le modèle le moins coûteux susceptible de bien la traiter.

## Quelle conception choisir ? {#which-design-should-i-use}

- **Des règles.** Orientez selon le type de requête, sa longueur ou le canal. Facile à comprendre, et souvent
  suffisant.
- **Un classifieur de difficulté.** Un petit modèle prédit la difficulté d'une requête. Les travaux Hybrid LLM de Ding
  et ses collègues orientent ainsi les requêtes entre un petit et un grand modèle, en équilibrant coût et qualité.
- **Une cascade.** Essayez le petit modèle ; si une vérification échoue ou que la confiance est faible, passez à un
  plus grand. FrugalGPT, de Chen, Zaharia et Zou, a étudié ce type de cascades pour réduire les coûts.
- **Un routeur appris.** Entraîné sur les modèles qui ont bien réussi sur chaque requête. L'étude RouteLLM a fait état
  de réductions de coûts de plus de moitié dans certains cas, sans baisse de la qualité des réponses.

## Erreurs fréquentes {#common-mistakes}

- **Mesurer par appel.** Une tentative ratée sur le petit modèle suivie d'une relance sur le grand peut coûter plus
  que d'aller directement au grand. Un « sandpit » britannique sur l'IA verte organisé en 2026, réunissant
  mathématiciens, informaticiens et industriels, a signalé ce risque réel dans les systèmes agentiques. Mesurez par
  tâche réussie.
- **Laisser le choix aux utilisateurs.** Intégrez le routage au système, pas dans une liste déroulante que la plupart
  des gens ignorent.
- **Régler et oublier.** Enregistrez les taux d'escalade et revoyez-les quand les modèles changent.

## Qu'est-ce qui fait la plus grande différence ? {#what-makes-the-biggest-difference}

**Un bon jeu d'évaluation.** Sans exemples réels ni seuil de réussite, vous ne pouvez ni régler le seuil ni prouver
l'économie. Lisez [choisir le bon modèle](/fr/bonnes-pratiques/choisir-le-bon-modele-pour-la-tache/) pour savoir comment en constituer un.

## Sources

- [RouteLLM: learning to route LLMs with preference data](https://arxiv.org/abs/2406.18665), Ong et al., ICLR 2025 (2024)
- [FrugalGPT: how to use large language models while reducing cost and improving performance](https://arxiv.org/abs/2305.05176), Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- [Hybrid LLM: cost-efficient and quality-aware query routing](https://arxiv.org/abs/2404.14618), Ding et al., ICLR (2024)
