≡En resumen
- RAG busca en tu base de conocimiento los fragmentos relevantes y se los da al modelo antes de responder.
- Permite usar información propia y actualizada sin reentrenar el modelo, y facilita citar fuentes.
- La calidad depende sobre todo de la recuperación: cómo troceas, cómo indexas y cómo ordenas los resultados.
- Si tu base de conocimiento es pequeña, a veces basta con meterla entera en el prompt.
- La búsqueda híbrida y el reordenado mejoran mucho los resultados frente a una búsqueda vectorial simple.
01 ¿Qué es RAG?
Un modelo de lenguaje sabe mucho, pero no conoce tu catálogo, tus contratos ni el protocolo interno que aprobasteis la semana pasada. RAG resuelve eso sin reentrenar el modelo: cuando llega una pregunta, primero busca en tus documentos los fragmentos que pueden contener la respuesta y luego se los entrega al modelo junto con la pregunta.
El resultado es un asistente que responde con tu información, puede indicar de qué documento sale cada dato y se actualiza en cuanto cambias los documentos, sin tocar el modelo.
02 Cómo funciona RAG paso a paso
Un sistema RAG tiene dos momentos: la preparación de los documentos, que se hace una vez y se actualiza cuando cambian, y la consulta, que ocurre con cada pregunta.
-
1
Trocear los documentos
Los PDF, páginas o fichas se dividen en fragmentos manejables, normalmente de unos cientos de tokens.
-
2
Generar embeddings
Cada fragmento se convierte en un vector que representa su significado.
-
3
Guardar en un índice
Los vectores se almacenan en una base de datos vectorial, a menudo junto a un índice de palabras clave.
-
4
Buscar al preguntar
La pregunta también se convierte en vector y se recuperan los fragmentos más parecidos.
-
5
Reordenar
Opcionalmente, un modelo de reordenado puntúa los candidatos y se quedan solo los mejores.
-
6
Generar la respuesta
El modelo recibe la pregunta y los fragmentos elegidos y redacta la respuesta, idealmente citando la fuente.
La pieza que hace posible buscar por significado son los embeddings: gracias a ellos, una pregunta sobre «devoluciones» encuentra un párrafo que habla de «cambios y reembolsos» aunque no comparta palabras.
03 RAG, fine-tuning o contexto largo: cuándo usar cada uno
RAG no es la única forma de darle conocimiento a un modelo. Antes de montarlo, merece la pena comparar las alternativas.
| Enfoque | Cómo funciona | Cuándo encaja |
|---|---|---|
| Todo en el prompt | Se incluye la base de conocimiento completa en cada petición | Bases pequeñas y estables; Anthropic sitúa el umbral orientativo en unos 200.000 tokens (unas 500 páginas) |
| RAG | Se recuperan solo los fragmentos relevantes en cada pregunta | Bases grandes, que cambian a menudo o donde necesitas citar fuentes |
| Fine-tuning | Se ajusta el propio modelo con ejemplos | Cambiar estilo o formato de forma muy específica; no es la vía ideal para añadir datos cambiantes |
04 Mejorar la recuperación: búsqueda híbrida y recuperación contextual
El punto débil clásico de RAG es que, al trocear, cada fragmento pierde su contexto. Una frase como «los ingresos crecieron un 3 %» no dice de qué empresa ni de qué trimestre. En septiembre de 2024 Anthropic publicó la técnica de recuperación contextual: antes de indexar, un modelo añade a cada fragmento una breve explicación de dónde encaja en el documento. Combinada con búsqueda por palabras clave (BM25) y reordenado, los resultados mejoran de forma notable.
-35 %
fallos de recuperación con embeddings contextuales
Fuente: Anthropic, Contextual Retrieval (2024)
-49 %
fallos al combinar embeddings contextuales y BM25 contextual
Fuente: Anthropic, Contextual Retrieval (2024)
-67 %
fallos al añadir además un paso de reordenado
Fuente: Anthropic, Contextual Retrieval (2024)
Búsqueda vectorial
Encuentra fragmentos por significado, aunque usen otras palabras.
Búsqueda por palabras clave
Acierta con códigos, referencias y nombres exactos que el vector puede pasar por alto.
Búsqueda híbrida
Combina ambas y fusiona los resultados.
Reordenado
Un modelo especializado vuelve a puntuar los candidatos y se queda con los más útiles.
05 RAG agéntico: cuando el modelo decide qué buscar
En el RAG clásico, la búsqueda se hace siempre igual antes de responder. En el RAG agéntico, el modelo dispone de herramientas de búsqueda y decide cuándo usarlas, qué consultar y si necesita una segunda búsqueda para completar la respuesta. Es lo que hacen los agentes de programación cuando exploran un repositorio con búsquedas de archivos y texto en lugar de depender de un índice vectorial.
| Aspecto | RAG clásico | RAG agéntico |
|---|---|---|
| Quién decide la búsqueda | El código, siempre antes de responder | El modelo, cuando lo necesita |
| Número de búsquedas | Una por pregunta | Las que hagan falta |
| Coste y latencia | Bajos y previsibles | Más altos y variables |
| Ideal para | Preguntas frecuentes sobre una base estable | Preguntas complejas que cruzan varias fuentes |
06 Casos de uso de RAG en empresas
Un comercio conecta su asistente a las fichas de producto, la política de envíos y las preguntas frecuentes. El cliente pregunta si un producto es compatible con otro y el asistente responde citando la ficha técnica. Es la base de cualquier chatbot de IA para atención al cliente que no se invente las respuestas.
Una asesoría indexa sus procedimientos, plantillas y criterios internos. Cualquier persona del equipo pregunta en lenguaje natural y recibe la respuesta con enlace al documento original.
Si quieres montar algo así por tu cuenta, tenemos una guía para crear un chatbot con IA paso a paso. Y si prefieres que lo diseñemos e integremos con tus sistemas, forma parte de nuestras soluciones de inteligencia artificial para empresas.
07 Errores frecuentes al montar un sistema RAG
Cuando un asistente con RAG responde mal, casi nunca es culpa del modelo generador. En la mayoría de casos el problema está en qué se recuperó, o en que no se recuperó nada útil. Revisa primero estos puntos.
| Problema | Síntoma | Solución |
|---|---|---|
| Fragmentos demasiado pequeños | Respuestas incompletas o sin contexto | Fragmentos más grandes, solapamiento o recuperación contextual |
| Fragmentos demasiado grandes | Mucho ruido y coste alto por pregunta | Trocear por secciones y reordenar resultados |
| Documentos obsoletos | Respuestas con precios o normas antiguas | Proceso de actualización y fechas en los metadatos |
| Solo búsqueda vectorial | Falla con referencias, códigos o nombres exactos | Añadir búsqueda por palabras clave (híbrida) |
| Sin evaluación | Nadie sabe si los cambios mejoran o empeoran | Conjunto fijo de preguntas con respuestas correctas |
08 RAG con Claude y buenas prácticas
Anthropic no ofrece un modelo propio de embeddings y en su documentación remite a proveedores especializados como Voyage AI. En las aplicaciones de Claude, los proyectos cambian de forma automática a un modo basado en RAG cuando el conocimiento cargado crece, para mantener respuestas rápidas. En nuestro directorio de herramientas para Claude encontrarás bases vectoriales, conectores y proyectos open source para montar tu propio sistema.
- ✓Limpia los documentos antes de indexarlos: elimina duplicados y versiones antiguas.
- ✓Trocea respetando la estructura (secciones, apartados) en lugar de cortar a ciegas.
- ✓Añade metadatos útiles: fecha, tipo de documento, departamento o producto.
- ✓Combina búsqueda semántica y por palabras clave, y prueba un reordenado.
- ✓Pide al modelo que cite la fuente y que diga «no lo sé» si no la encuentra.
- ✓Mide con un conjunto de preguntas reales y sus respuestas correctas.
Preguntas frecuentes sobre RAG (generación aumentada por recuperación)
RAG significa Retrieval-Augmented Generation, generación aumentada por recuperación: el sistema busca información relevante en tus documentos y se la da al modelo para que responda con ella.
Para que un modelo responda con información propia, actualizada y verificable, como tu catálogo, tus políticas o tu documentación interna, sin reentrenarlo.
Las reduce mucho, pero no las elimina. Si la recuperación falla o el documento es ambiguo, el modelo puede equivocarse; por eso conviene pedir citas y medir.
RAG aporta información en el momento de responder, sin cambiar el modelo. El fine-tuning modifica el modelo con ejemplos y sirve más para ajustar estilo o formato que para añadir datos cambiantes.
Es lo más habitual, pero no imprescindible. Para volúmenes pequeños puede bastar con búsqueda por palabras clave o con incluir los documentos en el prompt.
Depende del volumen de documentos, del número de consultas y de si usas servicios gestionados o infraestructura propia. Los costes principales son los embeddings, la base vectorial y las llamadas al modelo.
Las aplicaciones de Claude activan un modo basado en RAG en los proyectos cuando el conocimiento cargado es grande. A través de la API, puedes construir tu propio RAG y pasar a Claude los fragmentos recuperados.
Fuentes consultadas
Sobre el autor
Germán Gutiérrez
Development Manager en appyweb
Dirige el equipo de desarrollo de appyweb: aplicaciones web y móviles, SaaS, integraciones y arquitectura de software.
Ver perfil en LinkedIn ↗