Chatbot con documentos de tu empresa: qué es RAG y cómo funciona

Un chatbot con los documentos de tu empresa funciona gracias a RAG (generación aumentada por recuperación): antes de responder, el sistema busca los fragmentos relevantes en tus manuales, políticas o bases de conocimiento, y el modelo de IA redacta la respuesta a partir de ellos, citando la fuente. Así podés tener un asistente que conoce tu negocio sin reentrenar ningún modelo, y que se actualiza con solo cambiar los documentos.

En esta guía lo explicamos sin tecnicismos: cómo funciona, para qué sirve, en qué se diferencia del fine-tuning, cuánto se equivoca y cómo proteger tus datos.

¿Qué es RAG, en palabras simples?

RAG es como un examen a libro abierto para la IA. Un modelo de lenguaje sabe redactar y razonar, pero no conoce tu lista de precios, tu política de devoluciones ni el manual de tu producto. Con RAG, en lugar de responder de memoria, primero busca en tus documentos y después contesta con lo que encontró.

La técnica se presentó en un trabajo de investigación de 2020 de Patrick Lewis y otros autores, aceptado en la conferencia NeurIPS. Hoy es la forma más común de conectar modelos de IA con información propia de una empresa.

Sus tres ventajas principales:

• Información actualizada: cambiás un documento y el chatbot ya responde con la versión nueva.
• Respuestas verificables: puede mostrar de qué documento sacó cada dato.
• Sin reentrenamiento: no hace falta modificar el modelo.

¿Cómo funciona un chatbot con RAG paso a paso?

El proceso tiene una etapa de preparación, que se hace una vez y se actualiza, y una etapa de respuesta, que ocurre en cada pregunta:

1. Recopilar y limpiar: se juntan los documentos (PDFs, Word, páginas web, planillas, tickets resueltos) y se eliminan duplicados y versiones viejas.
2. Dividir en fragmentos: cada documento se corta en partes manejables, por ejemplo por sección, conservando el título y el contexto.
3. Crear embeddings: cada fragmento se convierte en un embedding, una lista de números que representa su significado. Textos con significados parecidos quedan «cerca» entre sí, aunque usen palabras distintas: «devolución» y «cambiar un producto» terminan próximos.
4. Indexar: los embeddings se guardan en una base de datos vectorial, junto con datos como la fecha, el área y quién puede verlos.
5. Recuperar: cuando llega una pregunta, se convierte también en embedding y se buscan los fragmentos más cercanos. Los mejores sistemas combinan búsqueda por significado con búsqueda por palabras exactas, útil para códigos de producto o nombres propios.
6. Generar con citas: el modelo recibe la pregunta, los fragmentos encontrados y una instrucción clara: responder solo con esa información, decir que no sabe si no está y citar la fuente.

La calidad de la recuperación es decisiva. Anthropic publicó que agregar contexto a cada fragmento antes de indexarlo y combinar búsqueda semántica con búsqueda por palabras redujo un 49% las búsquedas fallidas en sus pruebas, y un 67% al sumar un paso de reordenamiento de resultados.

¿Cuánto cuesta indexar los documentos?

Generar los embeddings suele ser lo más barato del proyecto. El modelo text-embedding-3-small de OpenAI cuesta USD 0,02 por millón de tokens. A modo ilustrativo, 1.000 páginas de unas 500 palabras rondan, según el idioma y el formato, entre medio millón y un millón de tokens: indexarlas cuesta centavos de dólar. Lo que lleva trabajo es ordenar los documentos, diseñar la búsqueda y evaluar la calidad.

¿Y si tengo pocos documentos?

Puede que no necesites RAG. Anthropic señala que si tu base de conocimiento tiene menos de unos 200.000 tokens (alrededor de 500 páginas), podés incluirla completa en las instrucciones del modelo y usar la caché de prompt para bajar costo y latencia.

¿Para qué casos de uso sirve?

Sirve en cualquier situación donde alguien pregunta algo que ya está escrito en algún documento. Los más comunes:

• Manuales técnicos y de producto: el equipo de soporte o los clientes consultan especificaciones, instalación o fallas frecuentes.
• Políticas y procedimientos internos: licencias, viáticos, compras, seguridad.
• Soporte interno: preguntas de sistemas, accesos o procesos que hoy interrumpen a las mismas personas.
• Atención al cliente: preguntas frecuentes, condiciones comerciales, garantías y envíos. Lo combinamos con derivación a personas en atención al cliente con IA.
• Ventas: fichas técnicas, comparativas y condiciones para que los vendedores respondan rápido y sin errores.

Por ejemplo, una distribuidora con cientos de productos podría darle a sus vendedores un asistente que responde «qué diferencia hay entre estos dos modelos» citando la ficha técnica de cada uno.

Si además de responder necesitás que el asistente ejecute acciones, como cargar un pedido o agendar una visita, ya hablamos de un agente; la diferencia está explicada en agentes de IA vs. chatbots.

¿RAG o fine-tuning: cuál conviene?

Para que un chatbot conozca los documentos de tu empresa, RAG es casi siempre la mejor opción; el fine-tuning sirve para cambiar cómo se comporta el modelo, no qué sabe.

No son excluyentes: hay casos en que se combinan. Pero si estás empezando, RAG resuelve la gran mayoría de las necesidades.

¿Un chatbot con RAG puede inventar respuestas?

Sí. RAG reduce las alucinaciones, pero no las elimina. Un estudio de Stanford publicado en el Journal of Empirical Legal Studies evaluó herramientas comerciales de investigación legal que usan RAG y encontró que se equivocaban entre el 17% y el 33% de las veces, aunque menos que un chatbot general. Las pruebas se hicieron en 2024 y las versiones actuales pueden haber mejorado, pero la lección sigue vigente.

Los errores suelen venir de tres lugares: la búsqueda trae el fragmento equivocado, los documentos se contradicen o el modelo completa por su cuenta lo que no encontró. Para reducirlos:

1. Mejorá la recuperación con búsqueda híbrida, contexto por fragmento y reordenamiento.
2. Pedile que diga «no lo sé» cuando la respuesta no está en los documentos, y derivá a una persona.
3. Mostrá las citas para que el usuario pueda verificar.
4. Armá un set de evaluación con preguntas reales y sus respuestas correctas, y correlo ante cada cambio.
5. Mantené una sola fuente de verdad: documentos viejos o duplicados son la causa más común de respuestas contradictorias.

¿Cómo se protegen los datos y los permisos?

La regla central es que el chatbot solo recupere lo que cada usuario tiene permiso de ver. OWASP, la organización de referencia en seguridad de aplicaciones, incluye en su Top 10 para aplicaciones con modelos de lenguaje el riesgo LLM08:2025, que advierte que controles de acceso inadecuados sobre los embeddings pueden exponer información sensible, y recomienda bases vectoriales que respeten permisos.

En la práctica:

• Permisos en la búsqueda: si un vendedor pregunta por sueldos, el sistema no debe siquiera encontrar la política salarial.
• Datos personales al mínimo: no indexes lo que no hace falta y anonimizá cuando se pueda.
• Documentos como posible ataque: un archivo puede contener instrucciones ocultas para manipular al modelo; el contenido recuperado se trata como dato, no como orden.
• Proveedor del modelo: revisá qué hace con tus datos, dónde los procesa y cuánto tiempo los guarda.
• Normativa local: en Uruguay, la Ley 18.331 exige medidas de seguridad y confidencialidad (artículo 10) y regula las transferencias internacionales de datos (artículo 23). Lo desarrollamos en IA y protección de datos en Uruguay.

¿Cómo empezar con un chatbot sobre tus documentos?

Empezá chico, con un caso y un grupo de usuarios acotado:

1. Elegí un caso: preguntas frecuentes de clientes o soporte interno suelen ser buenos primeros pasos.
2. Juntá los documentos clave de ese caso y limpialos: una versión vigente por tema.
3. Escribí 50 preguntas reales con su respuesta correcta para evaluar.
4. Probalo primero con tu equipo y medí cuántas respuestas son correctas, cuántas dicen «no sé» y cuántas fallan.
5. Abrilo a clientes cuando la precisión sea consistente, con derivación a personas.

En eglows construimos asistentes y agentes sobre los documentos de cada empresa, con permisos, citas y derivación a personas, también sobre WhatsApp. Si tenés manuales o políticas que hoy nadie encuentra, escribinos y vemos cómo aprovecharlos.

Fuentes

• Lewis et al. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
• Anthropic: Introducing Contextual Retrieval (2024)
• OpenAI: precios de la API, incluidos los modelos de embeddings
• Stanford Law School: Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools
• OWASP: LLM08:2025 Vector and Embedding Weaknesses
• IMPO: Ley N° 18.331 de Protección de Datos Personales