Qué es RAG y por qué evita que la IA invente

Quien ha usado ChatGPT o cualquier otro asistente de IA lo ha visto alguna vez. Le preguntas algo concreto y contesta con total seguridad un dato que no existe: un precio, una fecha, una ley o una cita. Para un uso personal es una anécdota. Para un negocio que quiere que la IA atienda a sus clientes o responda dudas internas es un problema serio, y RAG es la técnica más usada para resolverlo.

Por qué la IA inventa

Un modelo de lenguaje no consulta una base de datos cuando le preguntas algo. Genera la respuesta que le parece más probable según todo lo que leyó durante su entrenamiento. Si la información no estaba ahí, o estaba pero era escasa, el modelo no se queda en blanco. Escribe algo que suena bien.

En septiembre de 2025, OpenAI publicó un estudio sobre este fenómeno, que en inglés se llama hallucination. Su conclusión es que los modelos inventan como lo haría un estudiante ante una pregunta difícil de examen, porque la forma en que se entrenan y se evalúan premia adivinar antes que reconocer la duda. Responder algo puntúa mejor que decir «no lo sé».

Además, el modelo no conoce tu negocio. No sabe tus precios de este año, tus horarios, tus condiciones ni lo que pone en tu manual interno. Si le preguntas por ellos sin darle esa información, va a rellenar los huecos.

Qué es RAG

La idea se presentó en 2020 en un artículo de investigadores de Facebook AI Research, University College London y la Universidad de Nueva York, que la bautizaron como retrieval-augmented generation. Combina dos memorias: la que el modelo tiene aprendida y una memoria externa, un índice de documentos que se consulta en el momento de responder. Los autores señalaban que así se resuelven dos problemas que los modelos tenían por sí solos, que eran indicar de dónde sale cada dato y actualizar su conocimiento.

Dicho de forma sencilla, RAG convierte el examen de memoria en un examen con el libro abierto. Antes de responder, el sistema busca en tus documentos los fragmentos que tienen que ver con la pregunta, se los pasa al modelo y le pide que conteste a partir de ellos. El modelo sigue redactando con naturalidad, pero ya no tiene que recordar ni adivinar el dato, porque lo tiene delante.

Cómo funciona paso a paso

1. Se reúnen los documentos. Catálogos, tarifas, preguntas frecuentes, manuales, contratos tipo, políticas o la propia web.
2. Se dividen en fragmentos de unos pocos párrafos, para que cada uno trate un solo tema.
3. Se indexan por su significado. Cada fragmento se convierte en una representación numérica (lo que en inglés se llama embedding) que permite encontrarlo aunque la pregunta use otras palabras. Así, «¿cuánto cuesta?» encuentra el fragmento que habla de «tarifas».
4. Se busca al recibir una pregunta. El sistema localiza los fragmentos más relacionados.
5. El modelo redacta la respuesta con esos fragmentos delante y, si está bien configurado, indica de qué documento sale cada dato.

Lo importante es lo que no hace falta hacer. No hay que entrenar un modelo nuevo ni pagar a nadie para que lo reentrene cada vez que cambias un precio. Basta con actualizar el documento y volver a indexarlo.

Lo que RAG no resuelve

RAG reduce los errores, pero no los elimina, y conviene desconfiar de quien diga lo contrario. En 2024, investigadores de las universidades de Stanford y Yale pusieron a prueba herramientas de investigación jurídica de grandes editoriales que se anunciaban como libres de alucinaciones gracias a RAG. Fallaban menos que un asistente general, pero aun así se equivocaban entre el 17 % y el 33 % de las veces. El derecho es un terreno especialmente difícil, y en una consulta de horarios o tarifas el margen de error es mucho menor, pero la lección sirve para cualquier sector.

Los errores de un sistema RAG suelen venir de tres sitios:

• La búsqueda trae el fragmento equivocado, por ejemplo la tarifa del año pasado porque el documento viejo sigue indexado.
• La respuesta no está en los documentos y el modelo rellena el hueco igualmente.
• El modelo interpreta mal un fragmento que sí era el correcto.

Por eso un buen sistema RAG se diseña con tres reglas: muestra la fuente de cada respuesta para que se pueda comprobar, dice «no lo sé» y deriva a una persona cuando no encuentra nada, y tiene a alguien encargado de mantener los documentos al día y retirar los antiguos.

RAG o entrenar un modelo propio

Cuando una empresa quiere una IA que «sepa» de su negocio, la primera idea suele ser entrenar un modelo propio con sus datos (en inglés, fine-tuning). Para casi todos los casos de uso de una pyme, RAG es mejor opción:

Para qué lo usa una empresa

• Atención al cliente. Un chatbot o un agente de WhatsApp que responde con tus tarifas y condiciones reales. Es la pieza que evita los problemas que contamos en chatbot con reglas o con IA.
• Correo. Borradores de respuesta que citan la información correcta, como explicamos en responder correos con IA.
• Consultas internas. Un asistente que responde al equipo sobre procedimientos, manuales o normativa sin tener que buscar en carpetas.
• Propuestas y presupuestos. Primeros borradores que reúnen la información de servicios y casos anteriores.

En todos los casos el trabajo de verdad está en preparar bien los documentos y en decidir qué puede consultar cada persona. En Appketing montamos sistemas RAG sobre la documentación de cada negocio, y si todavía no tienes claro por dónde empezar con la IA, la consultoría en inteligencia artificial sirve justo para eso.