En bref
Les fournisseurs de cloud vendent leur capacité inutilisée à bas prix, à condition de pouvoir la reprendre à bref délai, sous forme d'instances spot ou préemptibles. L'entraînement, l'évaluation, l'inférence par lots et le traitement de données peuvent l'utiliser s'ils enregistrent des points de reprise et se relancent proprement. Les recommandations de Microsoft sont de ne l'utiliser que pour du travail tolérant aux interruptions, car celles-ci peuvent ajouter de l'instabilité.
Étapes
- Listez les charges de travail d'IA qui peuvent être arrêtées et relancées, comme l'entraînement, l'évaluation et l'inférence par lots.
- Ajoutez à ces tâches des points de reprise réguliers et une logique de relance propre.
- Exécutez-les sur une capacité spot ou préemptible, sur plusieurs types d'instances.
- Gardez le travail interactif ou soumis à une échéance critique sur une capacité standard.
- Mesurez la quantité de travail perdue lors des interruptions et ajustez l'intervalle entre points de reprise.
La capacité inutilisée, c'est du matériel déjà construit et alimenté ; l'utiliser pour du travail flexible permet d'en tirer un meilleur parti. Elle est aussi généralement bien moins chère, ce qui renforce l'intérêt de la démarche.
Quelles tâches d'IA s'y prêtent ?
- les exécutions d'entraînement et de fine-tuning qui enregistrent régulièrement des points de reprise ;
- les recherches d'hyperparamètres, où chaque essai est indépendant ;
- les exécutions d'évaluation et de benchmark ;
- l'inférence par lots sur une file de documents ou d'images ;
- la préparation des données.
Les recommandations de durabilité d'Azure Well-Architected de Microsoft disent de « n'utiliser les machines virtuelles Spot que pour des charges de travail tolérantes aux interruptions », en notant qu'elles peuvent réduire le gaspillage d'infrastructure mais aussi introduire de l'instabilité.
Comment rendre une tâche résistante aux interruptions ?
- Enregistrez des points de reprise, y compris l'état de l'optimiseur, à un intervalle raisonnable.
- Faites en sorte que la tâche reprenne automatiquement au dernier point de reprise lorsqu'elle est relancée.
- Autorisez plusieurs types d'instances pour que l'ordonnanceur dispose de davantage de capacité inutilisée.
- Écrivez les résultats au fur et à mesure, pour que le travail terminé ne soit pas perdu.
Les points de reprise permettent aussi de mettre les tâches en pause quand le réseau est très carboné, comme le suggère le pattern de la Green Software Foundation pour les charges de travail d'IA ; consultez planifier l'entraînement quand le réseau est plus vert.
Erreurs fréquentes
- Pas de points de reprise, si bien qu'une interruption fait perdre des heures de travail et que l'énergie est gaspillée.
- Des points de reprise trop fréquents, si bien que les sauvegardes coûtent plus qu'elles ne protègent.
- Placer des services destinés aux utilisateurs sur une capacité spot.
Consultez l'hébergement et les centres de données.
Sources
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)
Voir aussi
Comment éviter que les GPU et les notebooks restent inactifs ?
Évitez le gaspillage du matériel d'IA inactif : ressources à la demande, arrêt automatique des notebooks, passage à zéro hors heures ouvrées.
Comment planifier l'entraînement quand le réseau électrique est plus vert ?
Lancez l'entraînement et les lots d'IA quand le réseau est peu carboné : prévisions, points de reprise, échéances traitées comme des limites strictes.
Comment regrouper les requêtes d'IA par lots pour économiser de l'énergie ?
Comment le traitement par lots augmente l'utilisation des accélérateurs et réduit l'énergie par réponse : lots continus en direct, lots différés hors ligne.
Hébergement et centres de données pour une IA verte
Choisir où l'IA s'exécute : intensité carbone du réseau, PUE et WUE, allégations d'énergie renouvelable, eau et implantation, questions à poser aux hébergeurs.