RAG o fine-tuning: cómo elegir

Empieza por la necesidad

RAG (generación aumentada por recuperación) busca información en fuentes seleccionadas y la proporciona como contexto al modelo para responder. Fine-tuning adapta un modelo con ejemplos de entrada y salida para mejorar un comportamiento específico. No son opciones equivalentes: una suele resolver acceso a conocimiento externo cambiante; la otra puede ayudar a reproducir un formato, estilo o patrón de tarea.

La documentación de OpenAI sobre recuperación de información describe cómo buscar contexto en archivos, mientras que su guía de fine-tuning cubre la adaptación con ejemplos. Las capacidades y requisitos dependen del proveedor y pueden cambiar; valida la documentación de la plataforma concreta.

Compara por objetivo

Necesidad	Empezar por	Motivo y condición
Responder según políticas que cambian	RAG	Las fuentes se actualizan fuera del modelo y pueden mostrarse como referencia
Citar el documento de origen	RAG	La aplicación puede asociar fragmentos recuperados a citas comprobables
Mantener un tono o estructura constante	Evaluar fine-tuning o instrucciones	Hace falta un conjunto de ejemplos y una métrica que mida el comportamiento
Aplicar un flujo con reglas exactas	Código y reglas; IA si hay ambigüedad	El resultado determinista no debería depender de una generación probabilística
Resolver respuestas que requieren hechos y formato específico	Probar una combinación	Solo si la evaluación demuestra que cada parte aporta valor

Cuándo empezar por RAG

RAG encaja cuando la respuesta depende de documentación interna, catálogos o políticas que se actualizan con frecuencia. Diseña permisos para que la recuperación respete quién puede consultar cada fuente. Define cómo se procesan versiones, documentos retirados, metadatos y citas. Si la búsqueda recupera contenido incorrecto, el modelo puede producir una respuesta convincente basada en ese contexto; evalúa recuperación y generación por separado.

Un asistente de políticas, por ejemplo, puede recuperar la versión vigente de un procedimiento y mostrar el enlace. Si no encuentra una fuente suficiente, debería reconocerlo o derivar la consulta. No prometas que las citas garantizan exactitud: una persona debe poder abrirlas y comprobar que respaldan la respuesta.

Cuándo explorar fine-tuning

Considera ajuste fino cuando tengas ejemplos de calidad, un patrón repetido y un criterio medible que no se resuelva con instrucciones o configuración más sencilla. Puede ser útil para formatos estructurados o tareas consistentes. No lo uses como primer recurso para «cargar» conocimiento cambiante: sustituir o actualizar esos hechos puede ser difícil de controlar y verificar.

Antes de entrenar, comprueba que los ejemplos representen casos reales, que puedas utilizarlos legalmente y que exista un conjunto independiente de evaluación. Compara el resultado con el modelo base y una línea de referencia simple. No asumas que más datos o entrenamiento mejoran el resultado sin medirlo.

Árbol de decisión

1. ¿El problema puede resolverse con una regla clara y auditable? Si sí, empieza con esa regla.
2. ¿La respuesta depende de información actualizada o privada? Evalúa RAG con control de acceso y citas.
3. ¿El principal problema es la forma de responder y tienes ejemplos revisados? Compara instrucciones y fine-tuning en una evaluación.
4. ¿Se necesitan ambas cosas? Mide primero cada técnica por separado y combina solo si la mejora justifica su operación.

En todos los casos mide errores críticos, abstenciones correctas, latencia, coste y comportamiento con entradas no previstas. La decisión se revisa cuando cambian los datos, el proceso o el riesgo.