Resumen rápido
Prompting
Instrucciones, ejemplos y contexto en cada llamada al modelo. El modelo no cambia: cambia lo que le envías.
Tareas acotadas, prototipos y bases de conocimiento que caben enteras en el prompt.
RAG
Generación aumentada por recuperación: antes de responder, el sistema busca en tus documentos y pasa al modelo los fragmentos relevantes.
Responder con documentación, normativa interna o catálogo que cambia, citando de dónde sale cada respuesta.
Fine-tuning
Reentrenar un modelo con ejemplos de entrada y respuesta correcta para fijar un comportamiento: formato, estilo o una tarea concreta.
Comportamiento muy consistente a gran volumen, o pasar una tarea a un modelo más pequeño y barato.
Comparativa detallada
| Aspecto | Prompting | RAG | Fine-tuning |
|---|---|---|---|
| Qué cambia | Solo el texto que envías: instrucciones, ejemplos y contexto | El contexto de cada llamada: se añaden fragmentos recuperados de tus documentos | El propio modelo: se entrena con tus ejemplos |
| Actualizar la información | Editas el prompt | Cambias los documentos del índice, sin reentrenar (el artículo original lo demuestra sustituyendo el índice) | Hay que volver a entrenar. Para información que el modelo no tiene, OpenAI indica incluirla en el contexto |
| Cuánta información admite | Lo que quepa en el contexto. Anthropic: con menos de 200.000 tokens (unas 500 páginas) puede ir la base entera | Más de lo que cabe en el contexto: en cada llamada solo entran los fragmentos recuperados | Más ejemplos de los que caben en una sola petición (OpenAI) |
| Citar la fuente de cada respuesta | Sí, si el texto citado va en el prompt | Sí: se sabe qué fragmentos se recuperaron | No: lo aprendido queda en el modelo, sin referencia a un documento (el artículo de RAG lo señala como problema abierto) |
| Qué necesitas para empezar | Criterios de éxito y casos para evaluar (Anthropic lo pide antes de ajustar prompts) | Tus documentos, limpios y al día, y casos para evaluar | Un conjunto de ejemplos con la respuesta correcta (o una correcta y otra incorrecta, en DPO) |
| Esfuerzo inicial (nuestra valoración) | Bajo | Medio: preparar e indexar documentos, montar la búsqueda y evaluarla | Alto: reunir ejemplos de calidad, entrenar y volver a evaluar |
| Coste por llamada | Crece con la longitud del prompt; la caché de prompts permite reutilizar la parte fija (Anthropic) | Pagas los fragmentos recuperados, no la base entera | Prompts más cortos y posibilidad de usar un modelo más pequeño (OpenAI) |
| Disponibilidad (consultado el 10/11/2026) | Cualquier modelo por API | Cualquier modelo: la búsqueda es una pieza aparte, tuya | Depende del proveedor: OpenAI está cerrando su plataforma de fine-tuning y ya no admite usuarios nuevos |
| Cambiar de proveedor de modelo (nuestra valoración) | Sencillo: se repite la evaluación con el mismo prompt en otro modelo | Sencillo: documentos e índice siguen siendo tuyos; cambias el modelo que redacta | Costoso: el ajuste va ligado a un modelo base y a un proveedor. En OpenAI, el modelo ajustado sigue disponible hasta que se retira su modelo base |
| Ideal para | Tareas acotadas y prototipos | Asistentes que responden con tus documentos | Formato o estilo fijo a gran volumen |
marca la opción que consideramos mejor en cada criterio. En los que no se miden con un número (por ejemplo, potencia o facilidad de uso) es nuestra valoración.
Fuentes: Lewis et al. (2020): artículo original de RAG · OpenAI: guía de optimización de modelos y fine-tuning (10/11/2026) · Anthropic: Contextual Retrieval (200.000 tokens, caché de prompts) · Anthropic: guía de prompt engineering
Nuestra recomendación
Antes de elegir técnica, define qué es acertar y reúne casos reales para medirlo: tanto Anthropic como OpenAI lo plantean como primer paso. Empieza por prompting. Si la información no cabe en el prompt o cambia a menudo, añade RAG. Deja el fine-tuning para cuando la evaluación demuestre que lo anterior no llega y tu proveedor lo ofrezca. No se excluyen: RAG siempre lleva un prompt, y OpenAI documenta el fine-tuning combinado con prompting.
Preguntas frecuentes
¿El fine-tuning sirve para que la IA se aprenda mis documentos?
No es la vía habitual. La guía de OpenAI presenta el fine-tuning para fijar formato o comportamiento y, para la información que el modelo no tiene, indica incluirla en el contexto de la petición. Si tus documentos cambian, RAG permite actualizarlos sin reentrenar nada.
¿Cuándo no hace falta RAG?
Cuando la información cabe en el prompt. Anthropic indica que, si tu base de conocimiento ocupa menos de 200.000 tokens (unas 500 páginas), puedes incluirla entera, y la caché de prompts permite reutilizarla entre llamadas. El límite exacto depende del modelo que uses.
¿Qué hacéis en ROXEX?
En las apps con IA trabajamos con modelos de OpenAI y de Anthropic (Claude) y, cuando la aplicación tiene que responder con tus documentos, con búsqueda semántica sobre ellos (RAG). Lo primero que construimos es el conjunto de evaluación con tus casos reales, y cada cambio de prompt, modelo o datos se valida contra él.
¿Mis documentos se usan para entrenar los modelos del proveedor?
Depende del proveedor y del tipo de cuenta. Antes de empezar revisamos sus condiciones, elegimos la configuración que evita ese uso cuando el proveedor la ofrece y lo dejamos por escrito. Si los datos no pueden salir de tu infraestructura, valoramos modelos que se ejecuten en ella.