RAG (generación aumentada por recuperación) es hoy la forma más habitual de que un modelo de lenguaje responda con la documentación de una empresa: manuales, normativa interna, contratos, fichas de producto. También es una de las piezas que más se construyen mal. Un prototipo con veinte PDF funciona en una tarde; el mismo sistema con diez mil documentos, permisos por departamento y datos personales es otro proyecto. Esta guía explica cuándo merece la pena, cuándo no, cómo se construye cada pieza y cómo se mide, con las fuentes primarias que hemos leído para escribirla.
Qué es RAG, sin adornos
El término viene de un artículo de 2020 de Patrick Lewis y otros autores, presentado en NeurIPS (Lewis et al., 2020). Su idea: combinar la "memoria paramétrica" de un modelo (lo que aprendió al entrenarse) con una "memoria no paramétrica" externa, un índice de documentos que se consulta en cada pregunta. En la práctica empresarial, el flujo es este:
- 1.El usuario pregunta.
- 2.El sistema busca en tus documentos los fragmentos más relevantes para esa pregunta.
- 3.Se los pasa al modelo junto con la pregunta y unas instrucciones.
- 4.El modelo responde a partir de esos fragmentos y dice de cuál ha sacado cada afirmación.
El modelo no se reentrena. Si mañana cambia una política interna, cambias el documento y se vuelve a indexar. Si dudas entre RAG, ajuste fino (fine-tuning) o simples instrucciones, la comparación con fuentes está en RAG vs fine-tuning vs prompting; aquí no la repetimos. Y si buscas la visión general de cómo adaptar una IA a tu empresa, empieza por cómo entrenar una IA con los datos de tu empresa.
Casos de uso donde RAG encaja
Hay una prueba sencilla: ¿la respuesta correcta está escrita, hoy, en algún documento tuyo? Si sí, RAG es candidato. Algunos casos típicos:
- •Atención al cliente con documentación: condiciones de envío, garantías, preguntas frecuentes, fichas técnicas. El asistente responde y enlaza la fuente. Lo desarrollamos desde el lado del canal en chatbot para empresas.
- •Normativa y procedimientos internos: el convenio, el manual de prevención, el protocolo de vacaciones. Empleados que preguntan en lenguaje natural en lugar de buscar en una carpeta compartida.
- •Soporte técnico con manuales: un técnico en campo que pregunta por un código de error y recibe el párrafo exacto del manual del fabricante.
- •Consulta de expedientes y contratos en despachos y asesorías: localizar cláusulas, plazos o condiciones en un volumen de documentos que nadie puede releer entero.
- •Catálogo y especificaciones en empresas industriales o de distribución, donde el detalle técnico cambia con cada referencia.
Lo que tienen en común: un corpus que cambia, preguntas que se repiten con variantes y la necesidad de poder comprobar la respuesta.
Cuándo no usar RAG
Tan importante como lo anterior. Estos son los casos en los que RAG es la herramienta equivocada:
- •Todo cabe en el prompt. Anthropic recomienda que, si la base de conocimiento ocupa menos de unos 200.000 tokens (unas 500 páginas), se valore incluirla entera en el prompt en lugar de montar un sistema de recuperación, apoyándose en la caché de prompts para abaratarlo (Anthropic, Contextual Retrieval, 2024). Menos piezas, menos fallos.
- •La pregunta es un cálculo. "¿Cuántos pedidos tuvo este cliente en marzo?" no se responde recuperando fragmentos de texto: se responde con una consulta a la base de datos. Ahí encaja una herramienta que ejecute SQL controlado, no un índice de documentos.
- •La pregunta abarca todo el corpus. "Resume todos los contratos firmados este año" o "¿qué proveedores tienen penalización por retraso?" exigen recorrer todos los documentos. Un RAG recupera los veinte fragmentos más parecidos, no todos los pertinentes.
- •Quieres cambiar el comportamiento, no el conocimiento. Tono, formato fijo o una tarea de clasificación muy repetitiva son terreno de instrucciones o de ajuste fino. Lo comparamos en la comparativa.
- •Los documentos son malos. Versiones contradictorias, PDF escaneados sin texto, información que solo está en la cabeza de alguien. RAG no arregla eso; lo amplifica con mucha seguridad.
La arquitectura, pieza a pieza
Un RAG de producción tiene seis piezas. Cada una tiene decisiones que afectan a la calidad, y casi todas se pueden medir.
1. Ingesta: convertir documentos en texto con contexto
Es la fase menos vistosa y la que más condiciona el resultado. Incluye extraer el texto de PDF, Word, correos o páginas web; detectar tablas y encabezados; descartar duplicados, y guardar con cada documento sus metadatos: origen, fecha, versión, departamento y, sobre todo, quién tiene permiso para verlo.
Dos detalles que se olvidan a menudo. Primero, los PDF escaneados sin capa de texto necesitan reconocimiento óptico (OCR) antes de nada; la propia documentación de citas de Anthropic advierte de que un PDF escaneado sin texto extraíble no se puede citar (Anthropic, Citations). Segundo, la ingesta no es un proceso de una sola vez: hay que prever altas, cambios y bajas. Un documento retirado que sigue en el índice seguirá respondiendo.
2. Troceado (chunking): el tamaño importa
Los documentos se dividen en fragmentos porque el buscador compara la pregunta con fragmentos, no con documentos enteros. Fragmentos demasiado pequeños pierden contexto ("el plazo será de 30 días": ¿qué plazo?); demasiado grandes diluyen el significado y gastan tokens.
Reglas prácticas: respetar la estructura del documento (secciones, artículos, filas de una tabla) en lugar de cortar cada N caracteres; añadir un pequeño solapamiento entre fragmentos; y llevar al fragmento el título del documento y de la sección. Anthropic llevó esta última idea más lejos con lo que llama contextual retrieval: un modelo genera, para cada fragmento, una o dos frases que lo sitúan dentro del documento antes de indexarlo. En sus pruebas, eso redujo la tasa de recuperaciones fallidas un 35 % solo con embeddings contextuales y un 49 % combinándolos con búsqueda léxica, medido como 1 − recall@20 (Anthropic, 2024). Son resultados en sus conjuntos de datos, no una garantía para el tuyo: por eso se mide (ver la sección de evals).
3. Embeddings: elegir el modelo con tus datos
Un modelo de embeddings convierte cada fragmento en un vector, una lista de números que representa su significado; preguntas y fragmentos con significado parecido quedan cerca. No hay un modelo que gane en todo: el benchmark MTEB, que cubre 8 tipos de tarea, 58 conjuntos de datos y 112 idiomas, concluye que ningún método de embeddings domina en todas las tareas (Muennighoff et al., 2022). Para una empresa española esto significa probar con preguntas reales en español y con tu vocabulario, no elegir por la tabla general.
Una consecuencia operativa: si cambias de modelo de embeddings, hay que recalcular todo el índice, porque los vectores de modelos distintos no son comparables. Guarda con cada vector qué modelo y qué versión lo generó.
4. Recuperación: vectorial, léxica o, mejor, híbrida
La búsqueda vectorial encuentra fragmentos con significado parecido aunque no compartan palabras. Falla con lo literal: referencias de producto, números de expediente, artículos de una ley, siglas internas. Para eso está la búsqueda léxica clásica (BM25 y similares). Lo razonable en empresa es combinarlas: el experimento de Anthropic citado arriba es precisamente una combinación de ambas.
No hace falta una base de datos nueva para empezar. pgvector añade búsqueda vectorial a PostgreSQL, con búsqueda exacta por defecto e índices aproximados HNSW o IVFFlat cuando el volumen lo pide, y se puede combinar con la búsqueda de texto completo de Postgres fusionando los resultados con Reciprocal Rank Fusion o un reranker (pgvector). Tener vectores y datos de negocio en la misma base simplifica algo crítico: filtrar por permisos antes de recuperar, con la misma lógica que el resto de la aplicación.
5. Reordenación (reranking): pocos fragmentos y buenos
La recuperación inicial es rápida pero tosca. Un reranker (un modelo que puntúa cada par pregunta-fragmento) reordena los candidatos y se queda con los más relevantes. En el experimento de Anthropic se recuperaban 150 fragmentos, el reranker dejaba 20, y la reducción de fallos de recuperación subía al 67 % (Anthropic, 2024).
¿Por qué no pasar al modelo los 150? Coste y latencia, y algo más: los modelos usan peor la información situada en mitad de un contexto largo que la que está al principio o al final (Liu et al., 2023, "Lost in the Middle"). Pasar menos fragmentos, y los más relevantes primero, no es solo ahorro.
6. Generación con citas
La última pieza es el prompt y la llamada al modelo. Tres reglas:
- •Responder solo con el contexto y poder decir "no lo sé". Un asistente que reconoce que la respuesta no está en los documentos es más útil que uno que improvisa.
- •Citar. Cada afirmación, con el documento y la página o el apartado de donde sale. Algunos proveedores lo ofrecen de forma nativa: la API de Claude devuelve, con cada cita, el texto citado y su posición (página en PDF, rango de caracteres en texto plano), y ese texto citado no cuenta como tokens de salida (Anthropic, Citations). Si el proveedor no lo hace, se pide un formato estructurado y se comprueba en el código que cada cita apunta a un fragmento que de verdad se recuperó.
- •Tratar los documentos como datos, no como órdenes. Un texto recuperado puede contener instrucciones ocultas. Greshake y otros mostraron que se puede atacar una aplicación con LLM dejando instrucciones en contenido que el sistema probablemente recuperará (Greshake et al., 2023). Si indexas correos, webs o documentos de terceros, este riesgo es real; cómo mitigarlo está en nuestro pilar sobre cómo evaluar y operar una app con LLM en producción.
Evals: medir la recuperación y la respuesta por separado
El error más común es evaluar un RAG mirando si "las respuestas suenan bien". Hay que separar dos preguntas, porque se arreglan de forma distinta:
- 1.¿Encontró el fragmento correcto? (recuperación)
- 2.Con ese fragmento delante, ¿respondió bien y sin inventar? (generación)
El marco Ragas, publicado en 2023, propone justo esa separación: valorar si el sistema identifica pasajes relevantes y centrados, si el modelo los usa con fidelidad y la calidad de la respuesta, en parte sin necesidad de anotaciones humanas (Es et al., 2023). Nuestra recomendación es combinar esas métricas automáticas con un conjunto de evaluación propio:
- •Preguntas reales (de tickets, correos o del propio equipo), con el documento o fragmento donde está la respuesta y la respuesta esperada.
- •Preguntas sin respuesta en el corpus, para comprobar que el sistema dice que no lo sabe.
- •Preguntas con permisos: un usuario de un departamento no debe recibir fragmentos de otro.
Ejemplo hipotético de cómo se ve ese conjunto (casos inventados para ilustrar el formato):
| Pregunta | Dónde está la respuesta | Qué se comprueba |
|---|---|---|
| ¿Cuántos días tengo para devolver un pedido? | Condiciones de venta, apartado 4 | Recuperación + respuesta correcta + cita |
| ¿Qué significa el error E-17 de la máquina X? | Manual técnico, página 112 | Búsqueda léxica de un código literal |
| ¿Cuál es el salario del director financiero? | No debe responderse | Filtro de permisos y "no lo sé" |
| ¿Hay descuento para pedidos de 500 unidades? | No está en ningún documento | Que no invente una política |
Para la recuperación, la métrica básica es el recall@k: en qué porcentaje de preguntas el fragmento correcto aparece entre los k primeros (Anthropic usa su complemento, 1 − recall@20). Para la respuesta: fidelidad al contexto, corrección frente a la respuesta esperada y validez de las citas. La fidelidad se puede puntuar con otro modelo como juez, con los sesgos que eso tiene; lo explicamos en el pilar de LLM en producción.
La regla de oro: el conjunto de evaluación se ejecuta antes de cada cambio de troceado, de modelo de embeddings, de reranker, de prompt o de modelo de generación. Si empeora, el cambio no se despliega.
Protección de datos: dónde viven tus documentos
Un RAG copia tu información en varios sitios, y cada copia cuenta para el RGPD. Conviene dibujar el mapa antes de escribir código:
| Dónde | Qué hay | Pregunta que hacerse |
|---|---|---|
| Repositorio original | Los documentos | ¿Quién es el responsable y qué base legal tiene el tratamiento? |
| Índice de fragmentos | Copias del texto | ¿Se borra cuando se borra el original? |
| Base vectorial | Embeddings | ¿Dónde está alojada y quién accede? |
| Proveedor del modelo | Pregunta y fragmentos enviados en cada llamada | ¿Qué contrato hay, en qué región se procesa y se conserva o no? |
| Registros (logs) | Preguntas y respuestas | ¿Cuánto tiempo se guardan y con qué datos personales? |
Los puntos del Reglamento General de Protección de Datos que más tocan a un RAG (RGPD, texto en EUR-Lex):
- •Minimización y plazo de conservación (art. 5.1.c y 5.1.e). Indexa solo lo que el caso de uso necesita y fija cuánto tiempo viven fragmentos y registros.
- •Derecho de supresión (art. 17). Si una persona pide que se borren sus datos, el borrado tiene que llegar también a los fragmentos, a los embeddings y a los registros. Diséñalo desde el principio: cada fragmento debe saber de qué documento viene.
- •Encargados del tratamiento (art. 28). El proveedor del modelo, el de la base vectorial y el del alojamiento tratan datos por tu cuenta: hace falta elegir proveedores con garantías suficientes y un contrato que fije objeto, duración, finalidad y obligaciones.
- •Seguridad (art. 32) y evaluación de impacto (art. 35) cuando el tratamiento, por su naturaleza o por usar tecnologías nuevas, pueda suponer un alto riesgo.
- •Transferencias internacionales (cap. V, art. 44 y siguientes) si algún proveedor procesa fuera del Espacio Económico Europeo.
Sobre la región: varios proveedores ofrecen hoy procesamiento en Europa. Por ejemplo, OpenAI lanzó en febrero de 2025 la residencia de datos en Europa para los endpoints elegibles de su API, con las peticiones procesadas en la región y sin retención de datos, configurable solo en proyectos nuevos según la información de su lanzamiento (TechCrunch, 2025). Comprueba las condiciones vigentes de tu proveedor antes de decidir; cambian.
Dos riesgos específicos de RAG que conviene conocer:
- •Los embeddings no son anónimos. Morris y otros reconstruyeron exactamente el 92 % de textos de 32 tokens a partir de sus embeddings, y recuperaron nombres completos de un conjunto de notas clínicas (Morris et al., 2023). Trata la base vectorial con el mismo nivel de protección que los documentos.
- •Fugas entre usuarios. OWASP incluye las debilidades de vectores y embeddings en su lista de riesgos de aplicaciones con LLM de 2025: accesos no autorizados, fugas entre clientes que comparten base vectorial, inversión de embeddings y envenenamiento de datos. Recomienda bases vectoriales con control de acceso fino, validación de las fuentes y registros de las recuperaciones (OWASP LLM08:2025).
Para el resto de obligaciones (transparencia, decisiones automatizadas, Reglamento europeo de IA), tenemos una guía específica de seguridad y privacidad de la IA en empresas. Y si los datos no pueden salir de tu infraestructura, la alternativa es un modelo abierto autoalojado; lo comparamos en API comercial vs modelo abierto.
De qué depende el coste
No damos un precio "por RAG" porque no lo hay: depende de estas palancas, y conviene conocerlas antes de pedir presupuesto.
Coste de construcción. Lo que más horas consume no suele ser el código del buscador, sino la ingesta (formatos raros, escaneados, tablas), los permisos y el conjunto de evaluación. Un corpus limpio y homogéneo cuesta mucho menos que diez años de carpetas compartidas.
Coste de indexación. Calcular los embeddings de todo el corpus es un gasto de una vez, que se repite cada vez que cambias de modelo de embeddings o de estrategia de troceado. Si usas fragmentos contextualizados, añade la generación de ese contexto: Anthropic lo estimó en 1,02 dólares por millón de tokens de documento, usando caché de prompts y con sus supuestos de tamaño (Anthropic, 2024).
Coste por pregunta. Aquí manda el número y el tamaño de los fragmentos que pasas al modelo. Ejemplo hipotético, solo para ver la aritmética: si cada pregunta lleva 20 fragmentos de unos 400 tokens, son unos 8.000 tokens de entrada antes de contar instrucciones, pregunta y respuesta. Multiplica por las preguntas al mes y por la tarifa del modelo elegido. Bajar a 10 fragmentos buenos (gracias al reranker) puede reducir esa parte a la mitad; usar un modelo más pequeño para preguntas sencillas, todavía más. A eso se suman las llamadas al reranker, si es un servicio de pago.
Coste de operación. Alojamiento de la base vectorial (si reutilizas tu PostgreSQL con pgvector, casi nulo; si contratas un servicio gestionado, una cuota), la reindexación periódica, la ejecución del conjunto de evaluación y la revisión de los casos que el sistema no supo responder.
En ROXEX, una aplicación con IA se presupuesta como una web app: en nuestra página de precios, entre 8.000 y 30.000 € con un plazo de 2 a 6 meses, más el coste de uso de los modelos, que estimamos en la propuesta según el volumen previsto. Dónde cae un RAG concreto dentro de ese rango depende sobre todo de la ingesta y de los permisos.
Cómo lo trabajamos en ROXEX
Construimos RAG dentro de nuestro servicio de desarrollo de apps con IA, con el mismo método que cualquier otra función con IA:
- 1.Discovery. Una llamada de 30 minutos, sin coste, para definir qué preguntas debe responder el sistema, con ejemplos reales, y qué significa acertar. Si el caso no necesita RAG (porque todo cabe en el prompt o porque es una consulta a base de datos), te lo decimos.
- 2.Primero el conjunto de evaluación, después el sistema. Sin casos de prueba no hay forma de saber si un cambio mejora o empeora.
- 3.Prompts y configuración versionados en el repositorio, junto al código, y registro de cada llamada al modelo con su coste y tiempo de respuesta.
- 4.Documentación de datos y proveedores: qué se envía, a quién, en qué región y con qué condiciones, por escrito.
- 5.Integración con el modelo aislada, para poder cambiar de proveedor y comprobar con la misma evaluación si el resultado se mantiene.
Lista de comprobación antes de dar un RAG por terminado
- •Los documentos tienen metadatos de origen, fecha, versión y permisos.
- •Borrar un documento lo borra del índice, de los embeddings y, según tu política, de los registros.
- •La búsqueda combina recuperación vectorial y léxica, y filtra por permisos antes de recuperar.
- •Hay un reranker o una justificación medida de por qué no hace falta.
- •Cada respuesta cita su fuente y el código comprueba que la cita existe.
- •El sistema dice "no lo sé" cuando la respuesta no está en los documentos.
- •Existe un conjunto de evaluación con preguntas reales, sin respuesta y de permisos, y se ejecuta antes de cada cambio.
- •Están documentados los encargados del tratamiento, la región de procesamiento y los plazos de conservación.
- •Hay límites de gasto y un registro del coste por pregunta.
Preguntas frecuentes
¿Qué es RAG en palabras sencillas? Es un sistema que, antes de que la IA responda, busca en tus documentos los fragmentos relacionados con la pregunta y se los da al modelo para que responda a partir de ellos y cite la fuente. El modelo no se reentrena: si cambia un documento, se vuelve a indexar y la respuesta cambia.
¿RAG elimina las alucinaciones? No las elimina, las reduce y las hace comprobables. El modelo puede seguir interpretando mal un fragmento o mezclando dos. Por eso se exigen citas, se comprueba en el código que existen y se mide la fidelidad de las respuestas con un conjunto de evaluación.
¿Necesito una base de datos vectorial especializada? No necesariamente. Si ya usas PostgreSQL, la extensión pgvector permite guardar los vectores junto al resto de tus datos, con índices aproximados cuando el volumen lo pide y búsqueda de texto completo para la parte léxica. Una base especializada tiene sentido con volúmenes muy grandes o requisitos concretos, y se decide midiendo.
¿Mis documentos se usan para entrenar el modelo del proveedor? Depende del proveedor y del tipo de cuenta. Antes de empezar hay que revisar sus condiciones, elegir la configuración que evita ese uso cuando existe y dejarlo por escrito en el contrato de encargado del tratamiento. Si los documentos no pueden salir de tu infraestructura, la alternativa es un modelo abierto autoalojado.
¿Cuánto tarda en estar listo un RAG? No publicamos un plazo específico para RAG. Una aplicación con IA se planifica como una web app, con el rango de 2 a 6 meses de nuestra página de precios, y la fase que más varía es la ingesta: documentos limpios y homogéneos acortan el proyecto; escaneados, versiones contradictorias y permisos complejos lo alargan.
Fuentes
- •Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020.
- •Anthropic (19 de septiembre de 2024). Introducing Contextual Retrieval.
- •Anthropic. Citations, documentación de la API de Claude.
- •Muennighoff, N. et al. (2022). MTEB: Massive Text Embedding Benchmark.
- •pgvector. Repositorio y documentación.
- •Liu, N. F. et al. (2023). Lost in the Middle: How Language Models Use Long Contexts. TACL.
- •Greshake, K. et al. (2023). Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection.
- •Es, S. et al. (2023). Ragas: Automated Evaluation of Retrieval Augmented Generation.
- •Morris, J. X. et al. (2023). Text Embeddings Reveal (Almost) As Much As Text. EMNLP 2023.
- •OWASP GenAI Security Project. LLM08:2025 Vector and Embedding Weaknesses.
- •Reglamento (UE) 2016/679 (RGPD). Texto consolidado en EUR-Lex.
- •TechCrunch (6 de febrero de 2025). OpenAI launches data residency in Europe.