En resumen
Haga que lo predeterminado sea bajo demanda: las cadenas de procesamiento y los trabajos de entrenamiento deberían iniciar los recursos al activarse y liberarlos al terminar. Apague automáticamente los notebooks y las GPU de desarrollo inactivos tras un tiempo fijado, escale a cero los entornos que no son de producción fuera del horario laboral e informe de las horas de GPU inactivas por equipo junto al coste para que el desperdicio sea visible.
Pasos
- Haga que las cadenas de procesamiento y los trabajos de entrenamiento inicien los recursos al activarse y los liberen al terminar.
- Configure los notebooks y las GPU de desarrollo para que se apaguen automáticamente tras un periodo de inactividad.
- Escale a cero los entornos que no son de producción fuera del horario laboral.
- Dé a los entornos temporales una fecha de eliminación automática.
- Informe de las horas de GPU inactivas por equipo junto al coste.
Una GPU inactiva sigue consumiendo energía y sigue ocupando un hardware cuya fabricación costó energía. Los notebooks, los clústeres y los entornos de prueba creados para un experimento se quedan fácilmente en marcha entre experimentos, o se olvidan.
¿Qué debería funcionar bajo demanda?
Los patrones de la Green Software Foundation para cargas de trabajo de IA y de agentes recomiendan mantener la infraestructura en marcha solo mientras trabaja: ejecución sin servidor (serverless) o bajo demanda para el desarrollo de modelos, las cadenas de procesamiento y los agentes, de modo que los recursos se inicien al activarse y se detengan al terminar.
¿Y el desarrollo y las pruebas?
La guía Azure Well-Architected de Microsoft indica «apagar los entornos que no son de producción cuando no se usan». En Kubernetes, el escalador cron de KEDA puede escalar las cargas de trabajo durante una franja horaria y llevarlas a cero fuera de ella. Excluya solo los servicios compartidos que realmente deban seguir activos, y anote por qué.
Lo que más marca la diferencia
- Apagado automático de los notebooks, que son los usuarios de GPU que más se olvidan.
- Visibilidad. Ponga las horas de GPU inactivas en el mismo informe que el gasto; los equipos actúan sobre lo que pueden ver.
- Compartir. Un grupo o una cola compartidos suelen mantener las GPU más ocupadas que una máquina por persona.
Errores frecuentes
- Reservar GPU grandes «por si acaso» para un trabajo que se ejecuta una vez por semana.
- Mantener los modelos cargados en memoria permanentemente para una herramienta interna que se usa unas pocas veces al día.
Consulte alojamiento y centros de datos y entrenamiento e inferencia eficientes.
Fuentes
- Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
- Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Cron scaler, KEDA (CNCF) (2025)
Relacionado
¿Cómo ejecuto trabajos de IA con la capacidad sobrante de la nube?
Ejecute trabajo de IA interrumpible en capacidad spot o interrumpible: haga que los trabajos guarden puntos de control y se reintenten bien, y deje el resto en otro sitio.
¿Cómo agrupo las solicitudes de IA en lotes para ahorrar energía?
Cómo el procesamiento por lotes aumenta el uso del acelerador y reduce la energía por respuesta: lotes continuos en directo y lotes en cola para trabajo diferido.
¿Cómo reduzco la huella de los experimentos de IA en un clúster de investigación?
Reduzca la energía de los experimentos de IA en HPC: consulte la energía en Slurm, pida solo lo que usa, haga pilotos, guarde puntos de control y programe trabajos.
Alojamiento y centros de datos para una IA verde
Cómo elegir dónde se ejecuta la IA: intensidad de carbono de la red, PUE y WUE, energía renovable, uso del agua y ubicación, con preguntas para proveedores.