greenai.guide

Accueil › Comment faire… ? › Comment affiner un modèle sans une énorme puissance de calcul ?

Comment faire… ?

Comment affiner un modèle sans une énorme puissance de calcul ?

Mis à jour · 2 min de lecture

En bref

Partez d'un modèle pré-entraîné et entraînez un petit adaptateur plutôt que tous ses poids, avec LoRA, ou QLoRA avec des poids sur 4 bits. LoRA a divisé par 10 000 le nombre de paramètres entraînables et par trois la mémoire GPU par rapport au fine-tuning complet de GPT-3, et QLoRA a permis d'affiner un modèle de 65 milliards de paramètres sur un seul GPU de 48 Go. Comparez le résultat à votre seuil de qualité avant d'envisager quoi que ce soit de plus gros.

Étapes

  1. Vérifiez si le prompt ou la récupération répondent déjà à votre besoin avant même d'envisager le fine-tuning.
  2. Choisissez le plus petit modèle pré-entraîné qui s'approche du résultat sur votre tâche.
  3. Affinez un adaptateur LoRA, ou QLoRA si la mémoire est limitée.
  4. Utilisez un petit jeu de données propre et spécifique à la tâche, et arrêtez tôt quand la validation ne progresse plus.
  5. Suivez l'énergie avec un outil de suivi des émissions et notez-la avec les résultats.

Adaptez une petite partie d'un modèle pré-entraîné plutôt que de le réentraîner entièrement. Le fine-tuning économe en paramètres apporte l'essentiel du bénéfice d'un fine-tuning complet pour une petite fraction du calcul.

Pourquoi est-ce important ?

Le fine-tuning complet met à jour tous les poids, ce qui exige de grands clusters de GPU et de longues exécutions. Hu et ses collègues ont montré que LoRA (adaptation de faible rang), qui entraîne de petites matrices supplémentaires à côté de poids figés, pouvait diviser par 10 000 le nombre de paramètres entraînables et par trois la mémoire GPU par rapport au fine-tuning de GPT-3 175B. QLoRA, de Dettmers et ses collègues, combine cette approche avec des poids sur 4 bits et a permis d'affiner un modèle de 65 milliards de paramètres sur un seul GPU de 48 Go.

Comment faire ?

  1. Interrogez le besoin. Le fine-tuning enseigne des compétences et un style ; c'est un mauvais moyen d'ajouter des faits qui changent. Consultez récupération ou fine-tuning.
  2. Commencez petit. Un petit modèle affiné sur votre tâche peut égaler un modèle généraliste bien plus grand sur cette tâche.
  3. Utilisez une bibliothèque d'adaptateurs. Des bibliothèques open source populaires prennent en charge LoRA et QLoRA en quelques lignes de configuration.
  4. Gardez des données resserrées. Des exemples moins nombreux et plus propres s'entraînent plus vite. Supprimez les doublons.
  5. Mesurez. Encadrez l'exécution avec un outil de suivi comme CodeCarbon et notez l'énergie à côté de la précision.

Erreurs fréquentes

  • Affiner le plus grand modèle disponible avant d'en tester un plus petit.
  • De longues exécutions sans arrêt précoce, qui continuent de consommer une fois la qualité stabilisée.
  • Réentraîner à chaque mise à jour des données au lieu de mettre à jour un index de récupération.

Pour d'autres techniques d'entraînement, lisez un entraînement et une inférence efficaces.

Sources

  1. LoRA: low-rank adaptation of large language models, Hu et al. (2021)
  2. QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
  3. Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
  4. CodeCarbon, CodeCarbon (2026)

Rejoignez-nous

Aidez à réduire l’impact de l’IA sur la planète

Recevez par e-mail, environ une fois par mois, les nouveaux guides, appels à financement et fiches des annuaires. Ou ajoutez votre produit, cours, thèse ou recherche aux annuaires.

Aucun suivi. Désinscription en un clic. Autres façons de participer · Confidentialité