Qué es RAG

RAG son las siglas de retrieval-augmented generation, en español generación aumentada por recuperación. Antes de que el modelo responda, el sistema busca en los documentos de la empresa los fragmentos relacionados con la pregunta y se los entrega junto a ella. Así, el modelo responde a partir de esa información y no solo de lo que aprendió durante su entrenamiento.

No consiste en entrenar el modelo con todos tus archivos, que es lo que muchas personas suponen. La calidad depende sobre todo de qué fragmentos se recuperan y de cómo se valida la respuesta. Por eso empiezo siempre con un conjunto de preguntas reales y los documentos que deberían responderlas.

El procesamiento de los documentos

Primero hay que extraer correctamente el contenido, y requiere más trabajo del que parece. Un PDF escaneado necesita reconocimiento óptico de caracteres y una tabla pierde su sentido si se separa de sus encabezados. Reviso esta fase antes de evaluar las respuestas, porque muchos errores que parecen del modelo se originan aquí.

Después, los documentos se dividen en fragmentos que conservan la referencia a su origen. La búsqueda puede combinar coincidencia exacta de términos con similitud semántica. En una empresa, con códigos de producto y referencias internas, la coincidencia exacta suele ser determinante, y hay que probarla con el vocabulario propio de la organización.

Permisos y referencias desde el diseño

El asistente solo debe recuperar lo que la persona que pregunta tiene derecho a ver. Ocultar un enlace después de que el modelo haya leído información restringida no sirve, porque el contenido ya puede estar en la respuesta. Los permisos se aplican antes de construir el contexto que recibe el modelo.

Cada respuesta debe incluir sus referencias y reconocer cuándo la documentación no permite responder. Una cita facilita la verificación, pero no garantiza por sí sola que la conclusión sea correcta.

Arquitectura y mantenimiento

Existen librerías que resuelven buena parte del trabajo y, en ocasiones, compensa desarrollar algún componente a medida. La decisión depende sobre todo de dónde debe alojarse el sistema y de quién lo mantendrá. Una interfaz conversacional es adecuada para consultas puntuales; si la respuesta debe integrarse en otra aplicación, la expongo como una API.

Antes de la entrega pruebo los puntos más frágiles: documentos que se actualizan o se retiran y permisos que cambian. También dejo definido quién revisa los errores y qué se registra, sin conservar datos innecesarios.

Fuentes para ampliar

Si estás valorando un asistente sobre el conocimiento de tu empresa, aquí explico cómo trabajo o agendamos una reunión y lo analizamos con tu caso.