Em resumo
Os provedores de nuvem vendem barato a capacidade ociosa, com a condição de poderem retomá-la com pouco aviso, na forma de instâncias spot ou preemptíveis. O treinamento, a avaliação, a inferência em lote e o processamento de dados podem usá-la se salvarem checkpoints e repetirem de forma limpa. A orientação da Microsoft é usá-la apenas para trabalhos que toleram interrupções, porque as interrupções podem trazer instabilidade.
Passos
- Liste as cargas de trabalho de IA que podem ser paradas e reiniciadas, como treinamento, avaliação e inferência em lote.
- Acrescente checkpoints regulares e uma lógica de nova tentativa limpa a esses trabalhos.
- Rode-os em capacidade spot ou preemptível, em vários tipos de instância.
- Mantenha o trabalho interativo ou com prazo crítico na capacidade padrão.
- Meça quanto trabalho se perde com as interrupções e ajuste o intervalo dos checkpoints.
A capacidade ociosa é hardware que já foi construído e está ligado; usá-la para trabalho flexível aproveita-o melhor. Ela também costuma ser muito mais barata, o que reforça o argumento para usá-la.
Que trabalhos de IA se encaixam nela?
- execuções de treinamento e ajuste fino que salvam checkpoints com regularidade;
- buscas de hiperparâmetros, em que cada tentativa é independente;
- execuções de avaliação e de benchmark;
- inferência em lote sobre uma fila de documentos ou imagens;
- preparação de dados.
As orientações de sustentabilidade do Azure Well-Architected, da Microsoft, dizem para "usar Spot VMs apenas para cargas de trabalho que toleram interrupções", observando que elas podem reduzir o desperdício de infraestrutura, mas também podem trazer instabilidade.
Como torno um trabalho à prova de interrupções?
- Salve checkpoints, incluindo o estado do otimizador, num intervalo sensato.
- Faça o trabalho retomar automaticamente a partir do último checkpoint quando for reiniciado.
- Permita vários tipos de instância para que o agendador tenha mais capacidade ociosa à disposição.
- Grave os resultados aos poucos, para que o trabalho concluído não se perca.
Os checkpoints também permitem pausar os trabalhos quando a rede está suja, como sugere o padrão da Green Software Foundation para cargas de IA; veja agendar o treinamento quando a rede está mais verde.
Erros comuns
- Não ter checkpoints, de modo que uma interrupção joga fora horas de trabalho e a energia é desperdiçada.
- Salvar checkpoints com frequência demais, de modo que salvar custa mais do que protege.
- Colocar serviços voltados para usuários em capacidade spot.
Veja hospedagem e data centers.
Fontes
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)
Relacionados
Como evito que GPUs e notebooks fiquem ociosos?
Evite que hardware de IA ocioso gaste energia: recursos sob demanda, notebooks que param sozinhos, escala a zero fora do expediente e horas de GPU ociosas visíveis.
Como agendo o treinamento para quando a rede elétrica estiver mais verde?
Rode treinamentos e trabalhos de IA em lote quando a intensidade de carbono da rede estiver baixa: use previsões, checkpoints para pausar e prazos como limite firme.
Como agrupo pedidos de IA em lotes para economizar energia?
Como o processamento em lotes aumenta o uso dos aceleradores e reduz a energia por resposta: lotes contínuos para tráfego ao vivo e lotes em fila para o resto.
Hospedagem e data centers para IA verde
Como escolher onde a IA roda: intensidade de carbono da rede, PUE e WUE, alegações de energia renovável, consumo de água e localização, com perguntas para hosts.