# Como faço o ajuste fino de um modelo sem precisar de muita computação?

> Como adaptar um modelo pré-treinado com ajuste fino eficiente em parâmetros, como LoRA e QLoRA, para caber numa só GPU e gastar muito menos energia.

Source: https://greenai.guide/pt/como/como-faco-o-ajuste-fino-de-um-modelo-sem-precisar-de-muita-computacao/  
Updated: 2026-11-19

## Em resumo

Parta de um modelo pré-treinado e treine um pequeno adaptador em vez de todos os seus pesos, usando LoRA, ou QLoRA com pesos de 4 bits. O LoRA reduziu os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste fino completo do GPT-3, e o QLoRA fez o ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB. Compare o resultado com o seu padrão de qualidade antes de pensar em algo maior.

## Steps

1. Verifique se prompts ou recuperação de informação já atendem à sua necessidade antes de fazer qualquer ajuste fino.
2. Escolha o menor modelo pré-treinado que chegue perto do resultado na sua tarefa.
3. Faça o ajuste fino de um adaptador LoRA, ou QLoRA se a memória for limitada.
4. Use um conjunto de dados pequeno, limpo e específico da tarefa e pare cedo quando a validação deixar de melhorar.
5. Acompanhe a energia com um rastreador de emissões e registre-a junto com os resultados.

**Adapte uma pequena parte de um modelo pré-treinado em vez de treinar tudo de novo.** O ajuste fino eficiente em
parâmetros obtém a maior parte do benefício do ajuste fino completo com uma pequena fração da computação.

## Por que isso importa? {#why-does-it-matter}

O ajuste fino completo atualiza todos os pesos, o que exige grandes clusters de GPUs e execuções longas. Hu e colegas
mostraram que o LoRA (adaptação de baixo posto), que treina pequenas matrizes extras ao lado dos pesos congelados,
podia reduzir os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste
fino do GPT-3 175B. O QLoRA, de Dettmers e colegas, combina isso com pesos de 4 bits e fez o ajuste fino de um modelo
de 65 bilhões de parâmetros numa única GPU de 48 GB.

## Como faço isso? {#how-do-i-do-it}

1. **Questione a necessidade.** O ajuste fino ensina habilidades e estilo; é uma forma ruim de acrescentar fatos que
   mudam. Veja [recuperação de informação ou ajuste fino](/pt/como/como-escolho-entre-recuperacao-e-fine-tuning-para-economizar-energia/).
2. **Comece pequeno.** Um modelo pequeno ajustado para a sua tarefa pode igualar um modelo geral muito maior nessa
   tarefa.
3. **Use uma biblioteca de adaptadores.** Bibliotecas de código aberto populares oferecem LoRA e QLoRA com poucas
   linhas de configuração.
4. **Mantenha os dados enxutos.** Menos exemplos, e mais limpos, treinam mais rápido. Remova duplicatas.
5. **Meça.** Envolva a execução num rastreador como o CodeCarbon e registre a energia ao lado da precisão.

## Erros comuns {#common-mistakes}

- **Fazer o ajuste fino do maior modelo disponível** antes de testar um menor.
- **Execuções longas sem parada antecipada**, que continuam gastando depois que a qualidade estabilizou.
- **Treinar de novo a cada atualização dos dados** em vez de atualizar um índice de recuperação.

Para mais técnicas de treino, leia [treino e inferência eficientes](/pt/boas-praticas/treinamento-e-inferencia-de-ia-eficientes/).

## Fontes

- [LoRA: low-rank adaptation of large language models](https://arxiv.org/abs/2106.09685), Hu et al. (2021)
- [QLoRA: efficient finetuning of quantized LLMs](https://arxiv.org/abs/2305.14314), Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
- [Green Software Patterns: leverage pre-trained models and transfer learning](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/pre-trained-transfer-learning.md), Green Software Foundation (2025)
- [CodeCarbon](https://codecarbon.io/), CodeCarbon (2026)
