En bref
Utilisez la récupération lorsque le modèle a besoin de faits qui changent ou qui vous sont propres : placez-les dans un index consultable et ne récupérez que les passages pertinents. Utilisez le fine-tuning lorsque le modèle a besoin d'une compétence, d'un format ou d'un style qui lui manque. Réentraîner pour garder les faits à jour répète les coûts d'entraînement, tandis que coller des documents entiers dans chaque prompt gaspille de l'inférence : chaque approche a donc sa place.
Étapes
- Listez ce qui manque au modèle: des faits, une compétence, un format ou un ton.
- Placez les faits changeants ou privés dans un index consultable et ne récupérez que les passages pertinents.
- N'affinez un petit adaptateur que pour les compétences, formats ou styles que le prompt ne permet pas d'obtenir.
- Mettez l'index à jour quand le contenu change, en ne traitant que ce qui a changé.
- Mesurez les tokens par requête et la qualité de chaque option avant de décider.
Récupérez les faits ; affinez les compétences. Choisir la mauvaise option, c'est payer encore et encore, soit pour réentraîner, soit pour des prompts surdimensionnés.
Quelle est la différence ?
- La génération augmentée par récupération (RAG) recherche des passages pertinents dans votre propre contenu et les transmet au modèle avec la question. Lewis et ses collègues ont présenté cette approche en 2020 pour les tâches à forte intensité de connaissances. Les poids du modèle ne changent pas : mettre à jour les connaissances revient à mettre à jour un index.
- Le fine-tuning modifie les poids du modèle, ou un petit adaptateur comme LoRA, pour qu'il apprenne un comportement : un format, un schéma de classification, un style maison.
Laquelle consomme le moins d'énergie ?
Cela dépend de la fréquence des changements et de la quantité de texte que porte chaque requête.
| Situation | Généralement préférable |
|---|---|
| Les faits changent chaque semaine ou chaque mois | Récupération |
| Documents privés, politiques internes, données produit | Récupération |
| Un format de sortie ou un schéma d'étiquetage fixe | Fine-tuning d'un petit modèle |
| Très gros volume, tâche ciblée | Fine-tuning, pour que les prompts puissent rester courts |
GreenCode, un projet de recherche ITEA, explique utiliser la récupération pour que sa propre IA ne lise que les données dont elle a besoin, et ne traiter que ce qui a changé entre deux exécutions.
Erreurs fréquentes
- Réentraîner pour ajouter des faits. Chaque mise à jour répète le coût d'entraînement.
- Le RAG « on met tout dans le prompt ». Récupérer vingt longs passages quand deux suffiraient multiplie les tokens d'entrée. Consultez comment rendre la recherche vectorielle et le RAG plus efficaces.
- Affiner un grand modèle alors qu'un petit modèle affiné suffirait.
Pour le principe général, lisez l'orchestration plutôt que la génération.
Sources
- Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
- Green AI and energy-aware computing, GreenCode (2026)
- LoRA: low-rank adaptation of large language models, Hu et al. (2021)
Voir aussi
Comment rendre la recherche vectorielle et le RAG plus efficaces ?
Réduire le calcul du RAG : index approximatifs, passages moins nombreux et plus courts, indexation incrémentale et modèles plus petits.
Comment affiner un modèle sans une énorme puissance de calcul ?
Comment adapter un modèle pré-entraîné avec un fine-tuning économe en paramètres comme LoRA et QLoRA, pour qu'il tienne sur un seul GPU et consomme bien moins d'énergie.
L'orchestration plutôt que la génération
Pourquoi réutiliser des composants éprouvés et orienter les requêtes vers le plus petit modèle capable peut réduire l'énergie de l'IA, et ce qu'en disent les études.
Choisir le bon modèle pour la tâche
Dimensionner l'IA au plus juste : petits modèles ou modèles spécialisés, quand un modèle de pointe vaut son coût, le routage, et quand se passer d'IA.