# Treinamento e inferência de IA eficientes

> Técnicas para desenvolvedores e pesquisadores reduzirem a energia da IA: poda, esparsidade, quantização, destilação, KV cache, batching, precisão mista e agendamento.

Source: https://greenai.guide/pt/boas-praticas/treinamento-e-inferencia-de-ia-eficientes/  
Updated: 2026-11-19

## Em resumo

A maior parte da energia da IA pode ser reduzida sem perder qualidade: reutilizando modelos em vez de treinar do zero, diminuindo-os com poda, quantização e destilação, servindo-os com batching e cache, e executando tarefas flexíveis quando e onde a eletricidade é mais limpa. Meça a energia antes e depois de cada mudança, porque mais rápido nem sempre é mais verde.

## Pontos-chave

- Reutilize antes de treinar: o ajuste fino de um pequeno adaptador com LoRA reduziu os parâmetros treináveis em 10.000 vezes e a memória de GPU em três vezes, em comparação com o ajuste fino completo do GPT-3 175B.
- Modelos de linguagem de grande porte podem ser podados até pelo menos 50% de esparsidade de uma só vez, sem retreinamento, com perda mínima de precisão (SparseGPT).
- A inferência em 8 bits pode reduzir pela metade a necessidade de memória sem perda de qualidade (LLM.int8()); teste também 4 bits.
- A forma de servir importa: batching e gestão paginada do KV cache deram de 2 a 4 vezes mais throughput no vLLM, com a mesma latência.
- O agendamento consciente do carbono reduz emissões, não energia; faça-o além do trabalho de eficiência, nunca no lugar dele.

## Por onde começar? {#where-should-i-start}

**Comece medindo; depois reutilize, reduza, sirva bem e agende, nessa ordem.** As primeiras etapas em geral são as
que mais economizam e as de menor risco.

Patterson e colegas do Google estimaram em 2021 que a escolha do modelo, do data center e do processador pode mudar
a pegada de carbono do treinamento em até cerca de 100 a 1.000 vezes. A maior parte dessa margem está nas suas mãos.
Antes de mudar qualquer coisa, configure a [medição de energia](/pt/boas-praticas/como-medir-a-energia-e-o-carbono-da-ia/) no mesmo hardware e com
a mesma carga, para manter só as mudanças que economizam energia sem prejudicar a qualidade. A velocidade não é um
indicador confiável: uma mudança pode ser mais rápida e mais gulosa, ou mais lenta e mais econômica.

## Posso evitar treinar do zero? {#can-i-avoid-training-from-scratch}

**Em geral, sim: comece de um modelo pré-treinado e adapte só o que for necessário.**

- **Ajuste fino (fine-tuning) eficiente em parâmetros.** O LoRA treina pequenas matrizes adaptadoras de baixo posto
  em vez do modelo inteiro. Em comparação com o ajuste fino completo do GPT-3 175B, os autores relataram 10.000 vezes
  menos parâmetros treináveis e três vezes menos memória de GPU. O QLoRA combina isso com pesos de 4 bits e fez o
  ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB.
- **Recuperação em vez de retreinamento.** Coloque os fatos que mudam num índice pesquisável e recupere-os no momento
  da consulta. Faça ajuste fino para habilidades e estilo, não para fatos.
- **Fusão de modelos ("souping").** Tirar a média dos pesos de modelos ajustados a partir da mesma base pode superar
  o melhor modelo individual sem custo extra de inferência, segundo Wortsman e colegas. Fundir ajustes finos
  especializados é uma forma de reaproveitar trabalho já pago.
- **Aprendizado contínuo.** Atualize um modelo de forma incremental em vez de retreiná-lo do zero quando os dados
  mudarem.

## Como a poda e a esparsidade ajudam? {#how-do-pruning-and-sparsity-help}

**A maioria dos pesos de uma rede treinada pode ser removida ou deixada inativa com pouca perda, o que significa
menos computação e memória por resposta.**

- **A poda não estruturada** remove pesos individuais. O SparseGPT podou modelos da família GPT até pelo menos 50% de
  esparsidade de uma só vez, sem retreinamento, com perda mínima de precisão, e chegou a 60% nos maiores modelos
  abertos da época com aumento desprezível da perplexidade.
- **A poda estruturada** remove neurônios, cabeças ou camadas inteiras, o que o hardware comum consegue aproveitar
  com mais facilidade.
- **A esparsidade de ativação** deixa a maioria dos neurônios inativa para uma dada entrada.
- **Os modelos mixture-of-experts** (mistura de especialistas) enviam cada token a algumas sub-redes especializadas.
  Patterson e colegas constataram que modelos grandes de ativação esparsa podem usar menos de um décimo da energia de
  modelos grandes densos. Todos os especialistas ainda precisam ficar na memória.

Uma ressalva de um sandpit de IA verde realizado no Reino Unido em 2026, com matemáticos, cientistas da computação e
representantes da indústria: a esparsidade é pouco usada em parte porque o hardware e as bibliotecas são feitos para
cálculos densos. Verifique se o seu ambiente de execução realmente transforma esparsidade em energia economizada. O
sandpit também discutiu o uso da teoria de matrizes aleatórias para escolher níveis de esparsidade antes do
treinamento, e aproximações esparsas da atenção que podem ser inseridas em modelos pré-treinados. Veja
[matemática para uma IA eficiente](/pt/artigos/a-matematica-que-torna-a-ia-mais-eficiente/).

## E a quantização, a destilação e a precisão mista? {#what-about-quantisation-distillation-and-mixed-precision}

**Use menos bits e modelos menores sempre que o padrão de qualidade permitir.**

| Técnica | O que faz | Resultado publicado |
|---|---|---|
| [Quantização](/pt/glossario/#quantisation) | Armazena e calcula os pesos em 8 ou 4 bits em vez de 16 ou 32 | O LLM.int8() reduziu pela metade a memória de inferência sem perda de qualidade até 175 bilhões de parâmetros; a UNESCO e a UCL relatam que a compressão de modelos, como a quantização, economiza até 44% de energia |
| [Destilação](/pt/glossario/#distillation) | Treina um "aluno" pequeno para imitar um "professor" grande | O DistilBERT era 40% menor e 60% mais rápido que o BERT, mantendo 97% da sua compreensão de linguagem |
| Precisão mista | Treina em meia precisão com uma cópia mestra em precisão total | Quase reduziu pela metade o uso de memória no treinamento (Micikevicius et al.) |

Teste cada uma no seu próprio conjunto de avaliação. A Hugging Face observa que a quantização pode aumentar a
latência quando a carga de trabalho não é limitada pela memória, então meça a energia e a latência por pedido antes
e depois.

## Como servir modelos de forma eficiente? {#how-do-i-serve-models-efficiently}

**Mantenha o acelerador ocupado com trabalho útil e evite recalcular qualquer coisa.** Uma GPU subutilizada ainda
consome bastante energia.

1. **Agrupe os pedidos (batching).** Motores de serviço com batching contínuo agrupam pedidos simultâneos. O
   PagedAttention do vLLM, que gerencia o [KV cache](/pt/glossario/#kv-cache) como memória virtual, deu de 2 a 4 vezes o
   throughput dos sistemas anteriores, com a mesma latência.
2. **Use bem o KV cache.** Guarde em cache as chaves e os valores dos tokens anteriores; use um cache estático com um
   forward pass compilado quando a sua biblioteca permitir.
3. **Ative os caminhos otimizados.** Pesos em meia precisão, kernels de atenção eficientes (como SDPA ou
   FlashAttention) e compilação muitas vezes estão disponíveis, mas desativados por padrão.
4. **Decodificação especulativa.** Um pequeno modelo de rascunho propõe tokens que o modelo grande verifica.
   Leviathan e colegas relataram geração de 2 a 3 vezes mais rápida no T5-XXL, com saídas idênticas.
5. **Limite o tamanho da saída** ao que a tarefa precisa e guarde em cache as respostas a pedidos idênticos.
6. **Compare ambientes de execução e hardware.** Faça benchmark de duas ou três pilhas de serviço com os seus
   tamanhos reais de lote.

## Quando e onde as tarefas devem rodar? {#when-and-where-should-jobs-run}

**Execute o trabalho flexível quando e onde a eletricidade for mais limpa, mas trate isso como um bônus além da
eficiência, não como um substituto dela.**

- **Desloque no tempo.** Treinamentos, avaliações e inferência em lote muitas vezes podem esperar horas. Agende-os
  com base numa previsão de intensidade de carbono; ferramentas como o CATS envolvem tarefas de cluster para fazer
  isso. Na Grã-Bretanha, a Carbon Intensity API publica previsões regionais.
- **Torne as tarefas longas pausáveis.** Salve checkpoints com regularidade, incluindo o estado do otimizador, para
  que uma tarefa possa pausar quando a rede elétrica estiver suja e retomar depois sem perder trabalho.
- **Escolha a região e o hardware.** Onde a latência não importa, prefira uma região de baixo carbono e aceleradores
  eficientes, levando em conta o custo de mover dados. Veja [hospedagem e data centers](/pt/boas-praticas/hospedagem-e-data-centers-para-ia-verde/).
- **Acompanhe a energia absoluta.** O agendamento consciente do carbono muda quando o trabalho roda, não quanto ele
  consome. Acompanhe a energia por unidade de trabalho junto com o carbono.

## Checklist {#checklist}

- [ ] Energia medida antes e depois de cada mudança, com a mesma configuração e várias execuções
- [ ] Modelo pré-treinado e adaptadores considerados antes de treinar do zero
- [ ] Recuperação usada para fatos que mudam, em vez de retreinamento
- [ ] Poda, quantização ou destilação testadas contra o padrão de qualidade
- [ ] Precisão mista usada no treinamento
- [ ] Batching, otimização do KV cache e atenção eficiente ativados ao servir
- [ ] Tamanho da saída limitado; pedidos idênticos em cache
- [ ] Tarefas flexíveis com checkpoints e agendadas para horários mais limpos
- [ ] Energia de treinamento e hardware registrados no model card

## O que fazer a seguir {#what-to-do-next}

1. Adicione um rastreador de emissões, como o CodeCarbon, aos seus scripts de treinamento e avaliação, e coloque a
   energia ao lado da precisão na sua tabela de resultados.
2. Experimente LoRA ou QLoRA no seu próximo ajuste fino e compare com o ajuste fino completo.
3. Teste uma versão em 8 bits e outra em 4 bits do seu modelo implantado no seu conjunto de avaliação.
4. Faça benchmark da sua pilha de serviço com o batching e o caminho de atenção otimizado ativados.
5. Coloque uma tarefa de cluster recorrente sob um agendador consciente do carbono.
6. Procure formação no [diretório de cursos](/pt/cursos/) e trabalhos relacionados em [pesquisa](/pt/pesquisa/) e
   [doutorados](/pt/doutorados/).

## Perguntas frequentes

### A quantização reduz a precisão?

Às vezes, um pouco; em 8 bits, muitas vezes de forma imperceptível. Teste sempre o modelo quantizado no seu próprio conjunto de avaliação, e saiba que a quantização pode aumentar a latência quando a carga de trabalho não é limitada pela memória.

### O que é um KV cache?

Quando um transformer gera texto, ele armazena as matrizes de chaves e valores dos tokens anteriores para não recalculá-las a cada passo. Gerenciar bem esse cache é uma das maiores fontes de eficiência ao servir modelos.

### O que gasta mais energia, o treinamento ou a inferência?

Depende de quanto o modelo é usado. O treinamento é um grande custo único; a inferência é paga a cada pedido, então, para modelos populares, ela costuma predominar ao longo da vida do modelo.

### O que é fusão de modelos, ou souping?

Tirar a média dos pesos de vários modelos que passaram por ajuste fino a partir do mesmo ponto de partida. O resultado roda como um único modelo, sem custo extra de inferência, e pode superar o melhor modelo individual.

## Fontes

- [LoRA: Low-Rank Adaptation of Large Language Models](https://arxiv.org/abs/2106.09685), Hu et al. (arXiv 2106.09685) (2021)
- [QLoRA: Efficient Finetuning of Quantized LLMs](https://arxiv.org/abs/2305.14314), Dettmers et al. (arXiv 2305.14314) (2023)
- [SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot](https://arxiv.org/abs/2301.00774), Frantar and Alistarh (arXiv 2301.00774) (2023)
- [LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale](https://arxiv.org/abs/2208.07339), Dettmers et al. (arXiv 2208.07339) (2022)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al. (arXiv 1910.01108) (2019)
- [Mixed Precision Training](https://arxiv.org/abs/1710.03740), Micikevicius et al. (arXiv 1710.03740) (2017)
- [Efficient Memory Management for Large Language Model Serving with PagedAttention](https://arxiv.org/abs/2309.06180), Kwon et al. (arXiv 2309.06180) (2023)
- [Fast Inference from Transformers via Speculative Decoding](https://arxiv.org/abs/2211.17192), Leviathan et al. (arXiv 2211.17192) (2022)
- [Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time](https://arxiv.org/abs/2203.05482), Wortsman et al. (arXiv 2203.05482) (2022)
- [Carbon Emissions and Large Neural Network Training](https://arxiv.org/abs/2104.10350), Patterson et al. (arXiv 2104.10350) (2021)
- [AI large language models: new report shows small changes can reduce energy use by 90%](https://www.unesco.org/en/articles/ai-large-language-models-new-report-shows-small-changes-can-reduce-energy-use-90), UNESCO (2025)
- [Optimizing inference](https://huggingface.co/docs/transformers/main/en/llm_optims), Hugging Face Transformers documentation (2025)
- [Green Software Patterns: carbon-aware scheduling and region selection for AI workloads](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/operations/carbon-aware-ai-scheduling.md), Green Software Foundation (2025)
- [CATS: Climate-Aware Task Scheduler](https://github.com/GreenScheduler/cats), GreenScheduler (2025)
