En resumen
Use la recuperación cuando el modelo necesite datos que cambian o que son específicos de usted: póngalos en un índice con búsqueda y recupere solo los fragmentos pertinentes. Use el ajuste fino cuando el modelo necesite una habilidad, un formato o un estilo que no tiene. Reentrenar para mantener los datos al día repite los costes de entrenamiento, mientras que pegar documentos enteros en cada prompt desperdicia inferencia, así que cada enfoque tiene su lugar.
Pasos
- Enumere lo que le falta al modelo: datos, una habilidad, un formato o un tono.
- Ponga los datos cambiantes o privados en un índice con búsqueda y recupere solo los fragmentos pertinentes.
- Haga el ajuste fino de un pequeño adaptador solo para habilidades, formatos o estilos que no se consiguen con el prompt.
- Actualice el índice cuando cambie el contenido, procesando solo lo que ha cambiado.
- Mida los tokens por solicitud y la calidad de cada opción antes de decidir.
Recupere los datos; ajuste las habilidades. Elegir mal significa pagar una y otra vez, ya sea por reentrenar o por prompts sobredimensionados.
¿Cuál es la diferencia?
- La generación aumentada por recuperación (RAG) busca fragmentos pertinentes en su propio contenido y se los entrega al modelo junto con la pregunta. Lewis y sus colegas presentaron este enfoque en 2020 para tareas intensivas en conocimiento. Los pesos del modelo no cambian, así que actualizar el conocimiento significa actualizar un índice.
- El ajuste fino cambia los pesos del modelo, o un pequeño adaptador como LoRA, para que aprenda un comportamiento: un formato, un esquema de clasificación, un estilo de la casa.
¿Cuál consume menos energía?
Depende de la frecuencia con que cambian las cosas y de cuánto texto lleva cada solicitud.
| Situación | Normalmente mejor |
|---|---|
| Los datos cambian cada semana o cada mes | Recuperación |
| Documentos privados, políticas, datos de productos | Recuperación |
| Un formato de salida o un esquema de etiquetado fijo | Ajuste fino de un modelo pequeño |
| Volumen muy alto, tarea acotada | Ajuste fino, para que los prompts puedan ser cortos |
GreenCode, un proyecto de investigación de ITEA, describe cómo usa la recuperación para que su propia IA lea solo los datos que necesita, y procesa solo lo que cambió entre ejecuciones.
Errores frecuentes
- Reentrenar para añadir datos. Cada actualización repite el coste del entrenamiento.
- RAG de «meterlo todo en el prompt». Recuperar veinte fragmentos largos cuando bastarían dos multiplica los tokens de entrada. Consulte cómo hacer más eficientes la búsqueda vectorial y RAG.
- Hacer el ajuste fino de un modelo grande cuando bastaría con uno pequeño ajustado.
Para el principio más amplio, lea orquestación antes que generación.
Fuentes
- Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
- Green AI and energy-aware computing, GreenCode (2026)
- LoRA: low-rank adaptation of large language models, Hu et al. (2021)
Relacionado
¿Cómo hago más eficientes la búsqueda vectorial y RAG?
Formas de reducir el cómputo de la generación aumentada por recuperación: índices aproximados, menos fragmentos y más cortos, indexación incremental y modelos más pequeños.
¿Cómo hago el ajuste fino de un modelo sin una enorme capacidad de cómputo?
Cómo adaptar un modelo preentrenado con ajuste fino eficiente en parámetros, como LoRA y QLoRA, para que quepa en una GPU y consuma mucha menos energía.
Orquestar antes que generar
Por qué reutilizar componentes verificados y dirigir cada solicitud al modelo más pequeño capaz puede reducir la energía de la IA, y qué dicen los datos.
Elija el modelo adecuado para cada tarea
Cómo dimensionar bien la IA: cuándo usar modelos pequeños o especializados, cuándo compensa un modelo de frontera, cómo funciona el enrutamiento y cuándo no usar IA.