Em resumo
Parta de um modelo pré-treinado e treine um pequeno adaptador em vez de todos os seus pesos, usando LoRA, ou QLoRA com pesos de 4 bits. O LoRA reduziu os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste fino completo do GPT-3, e o QLoRA fez o ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB. Compare o resultado com o seu padrão de qualidade antes de pensar em algo maior.
Passos
- Verifique se prompts ou recuperação de informação já atendem à sua necessidade antes de fazer qualquer ajuste fino.
- Escolha o menor modelo pré-treinado que chegue perto do resultado na sua tarefa.
- Faça o ajuste fino de um adaptador LoRA, ou QLoRA se a memória for limitada.
- Use um conjunto de dados pequeno, limpo e específico da tarefa e pare cedo quando a validação deixar de melhorar.
- Acompanhe a energia com um rastreador de emissões e registre-a junto com os resultados.
Adapte uma pequena parte de um modelo pré-treinado em vez de treinar tudo de novo. O ajuste fino eficiente em parâmetros obtém a maior parte do benefício do ajuste fino completo com uma pequena fração da computação.
Por que isso importa?
O ajuste fino completo atualiza todos os pesos, o que exige grandes clusters de GPUs e execuções longas. Hu e colegas mostraram que o LoRA (adaptação de baixo posto), que treina pequenas matrizes extras ao lado dos pesos congelados, podia reduzir os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste fino do GPT-3 175B. O QLoRA, de Dettmers e colegas, combina isso com pesos de 4 bits e fez o ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB.
Como faço isso?
- Questione a necessidade. O ajuste fino ensina habilidades e estilo; é uma forma ruim de acrescentar fatos que mudam. Veja recuperação de informação ou ajuste fino.
- Comece pequeno. Um modelo pequeno ajustado para a sua tarefa pode igualar um modelo geral muito maior nessa tarefa.
- Use uma biblioteca de adaptadores. Bibliotecas de código aberto populares oferecem LoRA e QLoRA com poucas linhas de configuração.
- Mantenha os dados enxutos. Menos exemplos, e mais limpos, treinam mais rápido. Remova duplicatas.
- Meça. Envolva a execução num rastreador como o CodeCarbon e registre a energia ao lado da precisão.
Erros comuns
- Fazer o ajuste fino do maior modelo disponível antes de testar um menor.
- Execuções longas sem parada antecipada, que continuam gastando depois que a qualidade estabilizou.
- Treinar de novo a cada atualização dos dados em vez de atualizar um índice de recuperação.
Para mais técnicas de treino, leia treino e inferência eficientes.
Fontes
- LoRA: low-rank adaptation of large language models, Hu et al. (2021)
- QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
- Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
- CodeCarbon, CodeCarbon (2026)
Relacionados
Como evito treinar um modelo do zero?
Como reutilizar modelos existentes em vez de pré-treinar o seu: faça fine-tuning, adapte com LoRA, combine modelos ajustados ou recupere conhecimento.
Como escolho entre recuperação e fine-tuning para economizar energia?
Quando usar recuperação (RAG) e quando fazer fine-tuning: recuperação para fatos que mudam, fine-tuning para habilidades e estilo, e por que confundi-los gasta energia.
Como meço a pegada de carbono do treinamento de um modelo?
Acompanhe a energia de um treinamento com uma ferramenta como o CodeCarbon, multiplique pela intensidade de carbono da rede local e informe hardware, tempo e local.
Treinamento e inferência de IA eficientes
Técnicas para desenvolvedores e pesquisadores reduzirem a energia da IA: poda, esparsidade, quantização, destilação, KV cache, batching, precisão mista e agendamento.