greenai.guide

Accueil › Comment faire… ? › Comment choisir entre récupération (RAG) et fine-tuning pour économiser de l'énergie ?

Comment faire… ?

Comment choisir entre récupération (RAG) et fine-tuning pour économiser de l'énergie ?

Mis à jour · 1 min de lecture

En bref

Utilisez la récupération lorsque le modèle a besoin de faits qui changent ou qui vous sont propres : placez-les dans un index consultable et ne récupérez que les passages pertinents. Utilisez le fine-tuning lorsque le modèle a besoin d'une compétence, d'un format ou d'un style qui lui manque. Réentraîner pour garder les faits à jour répète les coûts d'entraînement, tandis que coller des documents entiers dans chaque prompt gaspille de l'inférence : chaque approche a donc sa place.

Étapes

  1. Listez ce qui manque au modèle: des faits, une compétence, un format ou un ton.
  2. Placez les faits changeants ou privés dans un index consultable et ne récupérez que les passages pertinents.
  3. N'affinez un petit adaptateur que pour les compétences, formats ou styles que le prompt ne permet pas d'obtenir.
  4. Mettez l'index à jour quand le contenu change, en ne traitant que ce qui a changé.
  5. Mesurez les tokens par requête et la qualité de chaque option avant de décider.

Récupérez les faits ; affinez les compétences. Choisir la mauvaise option, c'est payer encore et encore, soit pour réentraîner, soit pour des prompts surdimensionnés.

Quelle est la différence ?

  • La génération augmentée par récupération (RAG) recherche des passages pertinents dans votre propre contenu et les transmet au modèle avec la question. Lewis et ses collègues ont présenté cette approche en 2020 pour les tâches à forte intensité de connaissances. Les poids du modèle ne changent pas : mettre à jour les connaissances revient à mettre à jour un index.
  • Le fine-tuning modifie les poids du modèle, ou un petit adaptateur comme LoRA, pour qu'il apprenne un comportement : un format, un schéma de classification, un style maison.

Laquelle consomme le moins d'énergie ?

Cela dépend de la fréquence des changements et de la quantité de texte que porte chaque requête.

Situation Généralement préférable
Les faits changent chaque semaine ou chaque mois Récupération
Documents privés, politiques internes, données produit Récupération
Un format de sortie ou un schéma d'étiquetage fixe Fine-tuning d'un petit modèle
Très gros volume, tâche ciblée Fine-tuning, pour que les prompts puissent rester courts

GreenCode, un projet de recherche ITEA, explique utiliser la récupération pour que sa propre IA ne lise que les données dont elle a besoin, et ne traiter que ce qui a changé entre deux exécutions.

Erreurs fréquentes

  • Réentraîner pour ajouter des faits. Chaque mise à jour répète le coût d'entraînement.
  • Le RAG « on met tout dans le prompt ». Récupérer vingt longs passages quand deux suffiraient multiplie les tokens d'entrée. Consultez comment rendre la recherche vectorielle et le RAG plus efficaces.
  • Affiner un grand modèle alors qu'un petit modèle affiné suffirait.

Pour le principe général, lisez l'orchestration plutôt que la génération.

Sources

  1. Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
  2. Green AI and energy-aware computing, GreenCode (2026)
  3. LoRA: low-rank adaptation of large language models, Hu et al. (2021)

Rejoignez-nous

Aidez à réduire l’impact de l’IA sur la planète

Recevez par e-mail, environ une fois par mois, les nouveaux guides, appels à financement et fiches des annuaires. Ou ajoutez votre produit, cours, thèse ou recherche aux annuaires.

Aucun suivi. Désinscription en un clic. Autres façons de participer · Confidentialité