greenai.guide

Accueil › Comment faire… ? › Comment exécuter des tâches d'IA sur la capacité cloud inutilisée ?

Comment faire… ?

Comment exécuter des tâches d'IA sur la capacité cloud inutilisée ?

Mis à jour · 2 min de lecture

En bref

Les fournisseurs de cloud vendent leur capacité inutilisée à bas prix, à condition de pouvoir la reprendre à bref délai, sous forme d'instances spot ou préemptibles. L'entraînement, l'évaluation, l'inférence par lots et le traitement de données peuvent l'utiliser s'ils enregistrent des points de reprise et se relancent proprement. Les recommandations de Microsoft sont de ne l'utiliser que pour du travail tolérant aux interruptions, car celles-ci peuvent ajouter de l'instabilité.

Étapes

  1. Listez les charges de travail d'IA qui peuvent être arrêtées et relancées, comme l'entraînement, l'évaluation et l'inférence par lots.
  2. Ajoutez à ces tâches des points de reprise réguliers et une logique de relance propre.
  3. Exécutez-les sur une capacité spot ou préemptible, sur plusieurs types d'instances.
  4. Gardez le travail interactif ou soumis à une échéance critique sur une capacité standard.
  5. Mesurez la quantité de travail perdue lors des interruptions et ajustez l'intervalle entre points de reprise.

La capacité inutilisée, c'est du matériel déjà construit et alimenté ; l'utiliser pour du travail flexible permet d'en tirer un meilleur parti. Elle est aussi généralement bien moins chère, ce qui renforce l'intérêt de la démarche.

Quelles tâches d'IA s'y prêtent ?

  • les exécutions d'entraînement et de fine-tuning qui enregistrent régulièrement des points de reprise ;
  • les recherches d'hyperparamètres, où chaque essai est indépendant ;
  • les exécutions d'évaluation et de benchmark ;
  • l'inférence par lots sur une file de documents ou d'images ;
  • la préparation des données.

Les recommandations de durabilité d'Azure Well-Architected de Microsoft disent de « n'utiliser les machines virtuelles Spot que pour des charges de travail tolérantes aux interruptions », en notant qu'elles peuvent réduire le gaspillage d'infrastructure mais aussi introduire de l'instabilité.

Comment rendre une tâche résistante aux interruptions ?

  1. Enregistrez des points de reprise, y compris l'état de l'optimiseur, à un intervalle raisonnable.
  2. Faites en sorte que la tâche reprenne automatiquement au dernier point de reprise lorsqu'elle est relancée.
  3. Autorisez plusieurs types d'instances pour que l'ordonnanceur dispose de davantage de capacité inutilisée.
  4. Écrivez les résultats au fur et à mesure, pour que le travail terminé ne soit pas perdu.

Les points de reprise permettent aussi de mettre les tâches en pause quand le réseau est très carboné, comme le suggère le pattern de la Green Software Foundation pour les charges de travail d'IA ; consultez planifier l'entraînement quand le réseau est plus vert.

Erreurs fréquentes

  • Pas de points de reprise, si bien qu'une interruption fait perdre des heures de travail et que l'énergie est gaspillée.
  • Des points de reprise trop fréquents, si bien que les sauvegardes coûtent plus qu'elles ne protègent.
  • Placer des services destinés aux utilisateurs sur une capacité spot.

Consultez l'hébergement et les centres de données.

Sources

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Rejoignez-nous

Aidez à réduire l’impact de l’IA sur la planète

Recevez par e-mail, environ une fois par mois, les nouveaux guides, appels à financement et fiches des annuaires. Ou ajoutez votre produit, cours, thèse ou recherche aux annuaires.

Aucun suivi. Désinscription en un clic. Autres façons de participer · Confidentialité