greenai.guide

Accueil › Comment faire… ? › Comment éviter que les GPU et les notebooks restent inactifs ?

Comment faire… ?

Comment éviter que les GPU et les notebooks restent inactifs ?

Mis à jour · 1 min de lecture

En bref

Faites du « à la demande » la règle par défaut : les pipelines et les tâches d'entraînement doivent démarrer leurs ressources quand ils sont déclenchés et les libérer une fois terminés. Arrêtez automatiquement les notebooks et les GPU de développement inactifs après un délai fixé, ramenez à zéro les environnements hors production en dehors des heures ouvrées, et indiquez les heures GPU inactives par équipe à côté du coût pour rendre le gaspillage visible.

Étapes

  1. Faites démarrer les ressources des pipelines et des tâches d'entraînement à leur déclenchement, et libérez-les à la fin.
  2. Configurez les notebooks et les GPU de développement pour qu'ils s'arrêtent automatiquement après une période d'inactivité.
  3. Ramenez à zéro les environnements hors production en dehors des heures ouvrées.
  4. Donnez aux environnements temporaires une date de suppression automatique.
  5. Indiquez les heures GPU inactives par équipe à côté du coût.

Un GPU inactif consomme quand même de l'électricité et immobilise un matériel dont la fabrication a demandé de l'énergie. Les notebooks, clusters et environnements de test créés pour une expérience restent facilement allumés entre deux expériences, ou sont oubliés.

Que faut-il exécuter à la demande ?

Les patterns de la Green Software Foundation pour les charges de travail d'IA et d'agents recommandent de ne faire tourner l'infrastructure que pendant qu'elle travaille : une exécution serverless ou à la demande pour le développement de modèles, les pipelines et les agents, afin que les ressources démarrent quand elles sont déclenchées et s'arrêtent une fois le travail terminé.

Et le développement et les tests ?

Le guide Azure Well-Architected de Microsoft recommande d'« arrêter les environnements hors production lorsqu'ils ne sont pas utilisés ». Sur Kubernetes, le cron scaler de KEDA peut augmenter les charges de travail pendant une plage horaire et les ramener à zéro en dehors. N'excluez que les services partagés qui doivent vraiment rester disponibles, et notez pourquoi.

Ce qui fait la plus grande différence

  • L'arrêt automatique des notebooks, qui sont les utilisateurs de GPU le plus souvent oubliés.
  • La visibilité. Faites figurer les heures GPU inactives dans le même rapport que les dépenses ; les équipes agissent sur ce qu'elles voient.
  • Le partage. Un pool ou une file d'attente partagés maintiennent généralement les GPU plus occupés qu'une machine par personne.

Erreurs fréquentes

  • Réserver de gros GPU « au cas où » pour un travail qui s'exécute une fois par semaine.
  • Garder des modèles chargés en mémoire en permanence pour un outil interne utilisé quelques fois par jour.

Consultez l'hébergement et les centres de données et un entraînement et une inférence efficaces.

Sources

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

Rejoignez-nous

Aidez à réduire l’impact de l’IA sur la planète

Recevez par e-mail, environ une fois par mois, les nouveaux guides, appels à financement et fiches des annuaires. Ou ajoutez votre produit, cours, thèse ou recherche aux annuaires.

Aucun suivi. Désinscription en un clic. Autres façons de participer · Confidentialité