greenai.guide

Início › Como faço para…? › Como faço o ajuste fino de um modelo sem precisar de muita computação?

Como faço para…?

Como faço o ajuste fino de um modelo sem precisar de muita computação?

Atualizado · 1 min de leitura

Em resumo

Parta de um modelo pré-treinado e treine um pequeno adaptador em vez de todos os seus pesos, usando LoRA, ou QLoRA com pesos de 4 bits. O LoRA reduziu os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste fino completo do GPT-3, e o QLoRA fez o ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB. Compare o resultado com o seu padrão de qualidade antes de pensar em algo maior.

Passos

  1. Verifique se prompts ou recuperação de informação já atendem à sua necessidade antes de fazer qualquer ajuste fino.
  2. Escolha o menor modelo pré-treinado que chegue perto do resultado na sua tarefa.
  3. Faça o ajuste fino de um adaptador LoRA, ou QLoRA se a memória for limitada.
  4. Use um conjunto de dados pequeno, limpo e específico da tarefa e pare cedo quando a validação deixar de melhorar.
  5. Acompanhe a energia com um rastreador de emissões e registre-a junto com os resultados.

Adapte uma pequena parte de um modelo pré-treinado em vez de treinar tudo de novo. O ajuste fino eficiente em parâmetros obtém a maior parte do benefício do ajuste fino completo com uma pequena fração da computação.

Por que isso importa?

O ajuste fino completo atualiza todos os pesos, o que exige grandes clusters de GPUs e execuções longas. Hu e colegas mostraram que o LoRA (adaptação de baixo posto), que treina pequenas matrizes extras ao lado dos pesos congelados, podia reduzir os parâmetros treináveis em 10.000 vezes e a memória da GPU em três vezes, em comparação com o ajuste fino do GPT-3 175B. O QLoRA, de Dettmers e colegas, combina isso com pesos de 4 bits e fez o ajuste fino de um modelo de 65 bilhões de parâmetros numa única GPU de 48 GB.

Como faço isso?

  1. Questione a necessidade. O ajuste fino ensina habilidades e estilo; é uma forma ruim de acrescentar fatos que mudam. Veja recuperação de informação ou ajuste fino.
  2. Comece pequeno. Um modelo pequeno ajustado para a sua tarefa pode igualar um modelo geral muito maior nessa tarefa.
  3. Use uma biblioteca de adaptadores. Bibliotecas de código aberto populares oferecem LoRA e QLoRA com poucas linhas de configuração.
  4. Mantenha os dados enxutos. Menos exemplos, e mais limpos, treinam mais rápido. Remova duplicatas.
  5. Meça. Envolva a execução num rastreador como o CodeCarbon e registre a energia ao lado da precisão.

Erros comuns

  • Fazer o ajuste fino do maior modelo disponível antes de testar um menor.
  • Execuções longas sem parada antecipada, que continuam gastando depois que a qualidade estabilizou.
  • Treinar de novo a cada atualização dos dados em vez de atualizar um índice de recuperação.

Para mais técnicas de treino, leia treino e inferência eficientes.

Fontes

  1. LoRA: low-rank adaptation of large language models, Hu et al. (2021)
  2. QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
  3. Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
  4. CodeCarbon, CodeCarbon (2026)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade