Em resumo
Torne o uso sob demanda o padrão: pipelines e treinos devem iniciar os recursos quando acionados e liberá-los ao terminar. Desligue automaticamente notebooks e GPUs de desenvolvimento ociosos após um tempo definido, reduza a zero os ambientes que não são de produção fora do expediente e informe as horas de GPU ociosas por equipe ao lado do custo, para que o desperdício fique visível.
Passos
- Faça com que pipelines e treinos iniciem os recursos quando acionados e os liberem ao terminar.
- Configure notebooks e GPUs de desenvolvimento para desligarem automaticamente após um período de inatividade.
- Reduza a zero os ambientes que não são de produção fora do horário de trabalho.
- Dê aos ambientes temporários uma data automática de destruição.
- Informe as horas de GPU ociosas por equipe junto com o custo.
Uma GPU ociosa continua consumindo energia e continua ocupando hardware cuja fabricação gastou energia. Notebooks, clusters e ambientes de teste criados para uma experiência ficam facilmente ligados entre experiências, ou são esquecidos.
O que deve funcionar sob demanda?
Os padrões da Green Software Foundation para cargas de trabalho de IA e de agentes recomendam manter a infraestrutura ligada apenas enquanto ela trabalha: execução serverless ou sob demanda para o desenvolvimento de modelos, pipelines e agentes, para que os recursos iniciem quando acionados e parem ao terminar.
E o desenvolvimento e os testes?
As orientações Azure Well-Architected da Microsoft dizem para "desligar os ambientes que não são de produção quando não estão em uso". No Kubernetes, o cron scaler do KEDA pode aumentar as cargas de trabalho durante uma janela de tempo e reduzi-las a zero fora dela. Exclua apenas os serviços compartilhados que realmente precisam ficar ligados, e registre por escrito o motivo.
O que faz a maior diferença
- Desligamento automático nos notebooks, que são os usuários de GPU mais frequentemente esquecidos.
- Visibilidade. Coloque as horas de GPU ociosas no mesmo relatório que os gastos; as equipes agem sobre o que conseguem ver.
- Compartilhamento. Um conjunto ou fila compartilhada costuma manter as GPUs mais ocupadas do que uma máquina por pessoa.
Erros comuns
- Reservar GPUs grandes "por via das dúvidas" para trabalho que roda uma vez por semana.
- Manter modelos permanentemente carregados na memória para uma ferramenta interna usada poucas vezes por dia.
Veja hospedagem e data centers e treino e inferência eficientes.
Fontes
- Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
- Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
- Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
- Cron scaler, KEDA (CNCF) (2025)
Relacionados
Como rodo trabalhos de IA na capacidade ociosa da nuvem?
Rode trabalhos de IA interrompíveis em capacidade spot ou preemptível: use checkpoints e novas tentativas limpas e deixe em outro lugar o que não pode parar.
Como agrupo pedidos de IA em lotes para economizar energia?
Como o processamento em lotes aumenta o uso dos aceleradores e reduz a energia por resposta: lotes contínuos para tráfego ao vivo e lotes em fila para o resto.
Como reduzo a pegada dos experimentos de IA num cluster de pesquisa?
Corte a energia de experimentos de IA em HPC: leia a contabilidade de energia do Slurm, peça só o que usa, faça pilotos, use checkpoints e agende trabalhos.
Hospedagem e data centers para IA verde
Como escolher onde a IA roda: intensidade de carbono da rede, PUE e WUE, alegações de energia renovável, consumo de água e localização, com perguntas para hosts.