greenai.guide

Início › Como faço para…? › Como rodo trabalhos de IA na capacidade ociosa da nuvem?

Como faço para…?

Como rodo trabalhos de IA na capacidade ociosa da nuvem?

Atualizado · 1 min de leitura

Em resumo

Os provedores de nuvem vendem barato a capacidade ociosa, com a condição de poderem retomá-la com pouco aviso, na forma de instâncias spot ou preemptíveis. O treinamento, a avaliação, a inferência em lote e o processamento de dados podem usá-la se salvarem checkpoints e repetirem de forma limpa. A orientação da Microsoft é usá-la apenas para trabalhos que toleram interrupções, porque as interrupções podem trazer instabilidade.

Passos

  1. Liste as cargas de trabalho de IA que podem ser paradas e reiniciadas, como treinamento, avaliação e inferência em lote.
  2. Acrescente checkpoints regulares e uma lógica de nova tentativa limpa a esses trabalhos.
  3. Rode-os em capacidade spot ou preemptível, em vários tipos de instância.
  4. Mantenha o trabalho interativo ou com prazo crítico na capacidade padrão.
  5. Meça quanto trabalho se perde com as interrupções e ajuste o intervalo dos checkpoints.

A capacidade ociosa é hardware que já foi construído e está ligado; usá-la para trabalho flexível aproveita-o melhor. Ela também costuma ser muito mais barata, o que reforça o argumento para usá-la.

Que trabalhos de IA se encaixam nela?

  • execuções de treinamento e ajuste fino que salvam checkpoints com regularidade;
  • buscas de hiperparâmetros, em que cada tentativa é independente;
  • execuções de avaliação e de benchmark;
  • inferência em lote sobre uma fila de documentos ou imagens;
  • preparação de dados.

As orientações de sustentabilidade do Azure Well-Architected, da Microsoft, dizem para "usar Spot VMs apenas para cargas de trabalho que toleram interrupções", observando que elas podem reduzir o desperdício de infraestrutura, mas também podem trazer instabilidade.

Como torno um trabalho à prova de interrupções?

  1. Salve checkpoints, incluindo o estado do otimizador, num intervalo sensato.
  2. Faça o trabalho retomar automaticamente a partir do último checkpoint quando for reiniciado.
  3. Permita vários tipos de instância para que o agendador tenha mais capacidade ociosa à disposição.
  4. Grave os resultados aos poucos, para que o trabalho concluído não se perca.

Os checkpoints também permitem pausar os trabalhos quando a rede está suja, como sugere o padrão da Green Software Foundation para cargas de IA; veja agendar o treinamento quando a rede está mais verde.

Erros comuns

  • Não ter checkpoints, de modo que uma interrupção joga fora horas de trabalho e a energia é desperdiçada.
  • Salvar checkpoints com frequência demais, de modo que salvar custa mais do que protege.
  • Colocar serviços voltados para usuários em capacidade spot.

Veja hospedagem e data centers.

Fontes

  1. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  2. Use carbon-aware scheduling and region selection for AI workloads, Green Software Foundation, Green Software Patterns (2025)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade