greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo ejecuto trabajos de IA con la capacidad sobrante de la nube?

¿Cómo puedo…?

¿Cómo ejecuto trabajos de IA con la capacidad sobrante de la nube?

Actualizado · 1 min de lectura

En resumen

Los proveedores de nube venden barata su capacidad sobrante a condición de poder recuperarla con poca antelación, como instancias spot o interrumpibles (preemptible). El entrenamiento, la evaluación, la inferencia por lotes y el procesamiento de datos pueden usarla si guardan puntos de control y se reintentan sin problemas. La guía de Microsoft es usarla solo para trabajo tolerante a interrupciones, porque estas pueden añadir inestabilidad.

Pasos

  1. Enumere las cargas de trabajo de IA que pueden detenerse y reiniciarse, como el entrenamiento, la evaluación y la inferencia por lotes.
  2. Añada puntos de control periódicos y una lógica de reintento limpia a esos trabajos.
  3. Ejecútelos en capacidad spot o interrumpible con varios tipos de instancia.
  4. Mantenga el trabajo interactivo o con plazos críticos en capacidad estándar.
  5. Mida cuánto trabajo se pierde por las interrupciones y ajuste el intervalo de los puntos de control.

La capacidad sobrante es hardware que ya está construido y encendido; usarla para trabajo flexible la aprovecha mejor. Además, suele ser mucho más barata, lo que refuerza los argumentos para hacerlo.

¿Qué trabajos de IA son adecuados?

  • las ejecuciones de entrenamiento y ajuste fino que guardan puntos de control con regularidad;
  • las búsquedas de hiperparámetros, en las que cada prueba es independiente;
  • las ejecuciones de evaluación y de pruebas de referencia;
  • la inferencia por lotes sobre una cola de documentos o imágenes;
  • la preparación de datos.

La guía de sostenibilidad Azure Well-Architected de Microsoft indica «usar máquinas virtuales spot solo para cargas de trabajo tolerantes a interrupciones», y señala que pueden reducir el desperdicio de infraestructura pero también introducir inestabilidad.

¿Cómo hago que un trabajo resista las interrupciones?

  1. Guarde puntos de control, incluido el estado del optimizador, a un intervalo razonable.
  2. Haga que el trabajo continúe automáticamente desde el último punto de control al reiniciarse.
  3. Admita varios tipos de instancia para que el planificador tenga más capacidad sobrante a la que recurrir.
  4. Escriba los resultados de forma incremental, para que no se pierda el trabajo terminado.

Los puntos de control también le permiten pausar los trabajos cuando la red está sucia, como sugiere el patrón de la Green Software Foundation para cargas de trabajo de IA; consulte programar el entrenamiento cuando la red está más limpia.

Errores frecuentes

  • No guardar puntos de control, de modo que una interrupción tira horas de trabajo y la energía se desperdicia.
  • Guardar puntos de control con demasiada frecuencia, de modo que guardar cuesta más de lo que protege.
  • Poner servicios de cara al usuario en capacidad spot.

Consulte alojamiento y centros de datos.

Fuentes

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad