greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo elijo entre recuperación y ajuste fino para ahorrar energía?

¿Cómo puedo…?

¿Cómo elijo entre recuperación y ajuste fino para ahorrar energía?

Actualizado · 1 min de lectura

En resumen

Use la recuperación cuando el modelo necesite datos que cambian o que son específicos de usted: póngalos en un índice con búsqueda y recupere solo los fragmentos pertinentes. Use el ajuste fino cuando el modelo necesite una habilidad, un formato o un estilo que no tiene. Reentrenar para mantener los datos al día repite los costes de entrenamiento, mientras que pegar documentos enteros en cada prompt desperdicia inferencia, así que cada enfoque tiene su lugar.

Pasos

  1. Enumere lo que le falta al modelo: datos, una habilidad, un formato o un tono.
  2. Ponga los datos cambiantes o privados en un índice con búsqueda y recupere solo los fragmentos pertinentes.
  3. Haga el ajuste fino de un pequeño adaptador solo para habilidades, formatos o estilos que no se consiguen con el prompt.
  4. Actualice el índice cuando cambie el contenido, procesando solo lo que ha cambiado.
  5. Mida los tokens por solicitud y la calidad de cada opción antes de decidir.

Recupere los datos; ajuste las habilidades. Elegir mal significa pagar una y otra vez, ya sea por reentrenar o por prompts sobredimensionados.

¿Cuál es la diferencia?

  • La generación aumentada por recuperación (RAG) busca fragmentos pertinentes en su propio contenido y se los entrega al modelo junto con la pregunta. Lewis y sus colegas presentaron este enfoque en 2020 para tareas intensivas en conocimiento. Los pesos del modelo no cambian, así que actualizar el conocimiento significa actualizar un índice.
  • El ajuste fino cambia los pesos del modelo, o un pequeño adaptador como LoRA, para que aprenda un comportamiento: un formato, un esquema de clasificación, un estilo de la casa.

¿Cuál consume menos energía?

Depende de la frecuencia con que cambian las cosas y de cuánto texto lleva cada solicitud.

Situación Normalmente mejor
Los datos cambian cada semana o cada mes Recuperación
Documentos privados, políticas, datos de productos Recuperación
Un formato de salida o un esquema de etiquetado fijo Ajuste fino de un modelo pequeño
Volumen muy alto, tarea acotada Ajuste fino, para que los prompts puedan ser cortos

GreenCode, un proyecto de investigación de ITEA, describe cómo usa la recuperación para que su propia IA lea solo los datos que necesita, y procesa solo lo que cambió entre ejecuciones.

Errores frecuentes

  • Reentrenar para añadir datos. Cada actualización repite el coste del entrenamiento.
  • RAG de «meterlo todo en el prompt». Recuperar veinte fragmentos largos cuando bastarían dos multiplica los tokens de entrada. Consulte cómo hacer más eficientes la búsqueda vectorial y RAG.
  • Hacer el ajuste fino de un modelo grande cuando bastaría con uno pequeño ajustado.

Para el principio más amplio, lea orquestación antes que generación.

Fuentes

  1. Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
  2. Green AI and energy-aware computing, GreenCode (2026)
  3. LoRA: low-rank adaptation of large language models, Hu et al. (2021)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad