greenai.guide

Início › Como faço para…? › Como evito que GPUs e notebooks fiquem ociosos?

Como faço para…?

Como evito que GPUs e notebooks fiquem ociosos?

Atualizado · 1 min de leitura

Em resumo

Torne o uso sob demanda o padrão: pipelines e treinos devem iniciar os recursos quando acionados e liberá-los ao terminar. Desligue automaticamente notebooks e GPUs de desenvolvimento ociosos após um tempo definido, reduza a zero os ambientes que não são de produção fora do expediente e informe as horas de GPU ociosas por equipe ao lado do custo, para que o desperdício fique visível.

Passos

  1. Faça com que pipelines e treinos iniciem os recursos quando acionados e os liberem ao terminar.
  2. Configure notebooks e GPUs de desenvolvimento para desligarem automaticamente após um período de inatividade.
  3. Reduza a zero os ambientes que não são de produção fora do horário de trabalho.
  4. Dê aos ambientes temporários uma data automática de destruição.
  5. Informe as horas de GPU ociosas por equipe junto com o custo.

Uma GPU ociosa continua consumindo energia e continua ocupando hardware cuja fabricação gastou energia. Notebooks, clusters e ambientes de teste criados para uma experiência ficam facilmente ligados entre experiências, ou são esquecidos.

O que deve funcionar sob demanda?

Os padrões da Green Software Foundation para cargas de trabalho de IA e de agentes recomendam manter a infraestrutura ligada apenas enquanto ela trabalha: execução serverless ou sob demanda para o desenvolvimento de modelos, pipelines e agentes, para que os recursos iniciem quando acionados e parem ao terminar.

E o desenvolvimento e os testes?

As orientações Azure Well-Architected da Microsoft dizem para "desligar os ambientes que não são de produção quando não estão em uso". No Kubernetes, o cron scaler do KEDA pode aumentar as cargas de trabalho durante uma janela de tempo e reduzi-las a zero fora dela. Exclua apenas os serviços compartilhados que realmente precisam ficar ligados, e registre por escrito o motivo.

O que faz a maior diferença

  • Desligamento automático nos notebooks, que são os usuários de GPU mais frequentemente esquecidos.
  • Visibilidade. Coloque as horas de GPU ociosas no mesmo relatório que os gastos; as equipes agem sobre o que conseguem ver.
  • Compartilhamento. Um conjunto ou fila compartilhada costuma manter as GPUs mais ocupadas do que uma máquina por pessoa.

Erros comuns

  • Reservar GPUs grandes "por via das dúvidas" para trabalho que roda uma vez por semana.
  • Manter modelos permanentemente carregados na memória para uma ferramenta interna usada poucas vezes por dia.

Veja hospedagem e data centers e treino e inferência eficientes.

Fontes

  1. Serverless architecture for AI/ML workload processes, Green Software Foundation, Green Software Patterns (2025)
  2. Use on-demand execution for AI and agent workloads, Green Software Foundation, Green Software Patterns (2025)
  3. Reliability recommendations for sustainable workloads on Azure, Microsoft Azure Well-Architected Framework (2026)
  4. Cron scaler, KEDA (CNCF) (2025)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade