greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo hago el ajuste fino de un modelo sin una enorme capacidad de cómputo?

¿Cómo puedo…?

¿Cómo hago el ajuste fino de un modelo sin una enorme capacidad de cómputo?

Actualizado · 1 min de lectura

En resumen

Parta de un modelo preentrenado y entrene un pequeño adaptador en lugar de todos sus pesos, con LoRA, o con QLoRA y pesos de 4 bits. LoRA redujo 10.000 veces los parámetros entrenables y a un tercio la memoria de GPU en comparación con el ajuste fino completo de GPT-3, y QLoRA hizo el ajuste fino de un modelo de 65.000 millones de parámetros en una sola GPU de 48 GB. Compare el resultado con su nivel de calidad antes de plantearse algo más grande.

Pasos

  1. Compruebe si el prompt o la recuperación ya cubren su necesidad antes de hacer cualquier ajuste fino.
  2. Elija el modelo preentrenado más pequeño que se acerque en su tarea.
  3. Haga el ajuste fino de un adaptador LoRA, o QLoRA si la memoria es escasa.
  4. Use un conjunto de datos pequeño, limpio y específico de la tarea, y pare pronto cuando la validación deje de mejorar.
  5. Mida la energía con un medidor de emisiones y regístrela junto con los resultados.

Adapte una pequeña parte de un modelo preentrenado en lugar de reentrenarlo entero. El ajuste fino eficiente en parámetros obtiene la mayor parte del beneficio del ajuste fino completo con una pequeña fracción del cómputo.

¿Por qué importa?

El ajuste fino completo actualiza todos los pesos, lo que requiere grandes clústeres de GPU y ejecuciones largas. Hu y sus colegas demostraron que LoRA (adaptación de bajo rango), que entrena pequeñas matrices adicionales junto a pesos congelados, podía reducir 10.000 veces los parámetros entrenables y a un tercio la memoria de GPU en comparación con el ajuste fino de GPT-3 175B. QLoRA, de Dettmers y sus colegas, combina esto con pesos de 4 bits e hizo el ajuste fino de un modelo de 65.000 millones de parámetros en una sola GPU de 48 GB.

¿Cómo lo hago?

  1. Cuestione la necesidad. El ajuste fino enseña habilidades y estilo; es una mala forma de añadir datos que cambian. Consulte recuperación o ajuste fino.
  2. Empiece por lo pequeño. Un modelo pequeño ajustado para su tarea puede igualar en ella a uno general mucho más grande.
  3. Use una biblioteca de adaptadores. Las bibliotecas de código abierto más populares admiten LoRA y QLoRA con unas pocas líneas de configuración.
  4. Mantenga los datos ajustados. Menos ejemplos, y más limpios, entrenan más rápido. Elimine los duplicados.
  5. Mida. Envuelva la ejecución en un medidor como CodeCarbon y registre la energía junto a la precisión.

Errores frecuentes

  • Hacer el ajuste fino del modelo más grande disponible antes de probar uno más pequeño.
  • Ejecuciones largas sin parada temprana, que siguen gastando cuando la calidad ya se ha estabilizado.
  • Reentrenar con cada actualización de datos en lugar de actualizar un índice de recuperación.

Para más técnicas de entrenamiento, lea entrenamiento e inferencia eficientes.

Fuentes

  1. LoRA: low-rank adaptation of large language models, Hu et al. (2021)
  2. QLoRA: efficient finetuning of quantized LLMs, Dettmers, Pagnoni, Holtzman and Zettlemoyer (2023)
  3. Green Software Patterns: leverage pre-trained models and transfer learning, Green Software Foundation (2025)
  4. CodeCarbon, CodeCarbon (2026)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad