La generación aumentada por recuperación (RAG) permite que un asistente de IA responda preguntas con sus propios documentos: políticas, procedimientos, información de productos, contratos o historial de soporte. Es uno de los usos más prácticos de la IA en las empresas. También es una de las formas más fáciles de exponer información a las personas equivocadas, porque un asistente que puede buscar en todo resumirá cualquier cosa sin reparo. Los límites de datos, definidos antes de comenzar la indexación, son lo que hace que un asistente RAG sea útil y seguro. Esta guía explica cómo definirlos.
Lo que es
Un sistema RAG tiene tres etapas principales. La ingesta recopila documentos de fuentes aprobadas, los divide en fragmentos (chunks) y los almacena en un índice de búsqueda, a menudo una base de datos vectorial. La recuperación encuentra los fragmentos más relevantes para la pregunta de un usuario. La generación pasa esos fragmentos a un modelo de lenguaje, que redacta una respuesta, idealmente citando sus fuentes. Los límites de datos se aplican en cada etapa. En la ingesta, usted decide qué fuentes y tipos de documentos se permiten y cuáles se excluyen. En la recuperación, el sistema debe respetar los mismos permisos que tienen los usuarios en los sistemas de origen; si un usuario no puede abrir un documento en el repositorio de archivos, el asistente no debería recuperarlo para él. En la generación, usted decide qué puede hacer el modelo con el contenido recuperado y qué debe rechazar. En torno a todo esto se sitúan las reglas de retención de índices, prompts y registros, así como las políticas de cualquier proveedor externo de modelos sobre el tratamiento de los datos enviados.
Para quién es
Esta guía está dirigida a:
- Organizaciones que planifican un asistente interno para el conocimiento del personal, RR. HH., TI u operaciones
- Equipos que construyen un asistente para clientes basado en contenido de productos o de soporte
- Responsables de protección de datos y de seguridad que revisan un proyecto RAG propuesto
- Gerentes que deciden qué contenido debe y no debe poder buscarse mediante IA
Qué ayuda a aclarar
Definir límites ayuda a aclarar:
- Qué fuentes de conocimiento están aprobadas, tienen un responsable y están lo bastante actualizadas para ser confiables
- Si la recuperación respeta los permisos de cada usuario
- Por dónde podrían entrar en el índice datos personales, confidenciales o regulados
- Durante cuánto tiempo y dónde se conservan los datos indexados, los prompts y las respuestas
Qué se incluye
- Enumere las fuentes candidatas y asigne a cada una un responsable que apruebe su inclusión
- Excluya por defecto: expedientes de RR. HH., asuntos legales, nóminas, datos de salud, credenciales y documentos de la junta directiva, salvo que exista una necesidad específica y aprobada
- Elimine o archive los documentos obsoletos para que el asistente no cite políticas reemplazadas
- Traslade los permisos de los documentos al índice y filtre la recuperación según los accesos del usuario actual
- Realice pruebas con usuarios de distintos roles para confirmar que solo ven lo que les corresponde
- Detecte y gestione los datos personales y los secretos durante la ingesta
- Exija que las respuestas citen fuentes y permita a los usuarios abrir el documento original
- Indique al asistente que diga cuando no sabe algo, en lugar de adivinar
- Defina la retención del índice, los prompts y los registros, y cómo se propagan las eliminaciones realizadas en los sistemas de origen
- Revise las condiciones de tratamiento y retención de datos del proveedor del modelo
- Recopile comentarios sobre respuestas erróneas o poco útiles y asigne a alguien para actuar en consecuencia
Qué no se incluye
- Afirmar que las respuestas del asistente serán siempre exactas
- Asesoramiento legal sobre obligaciones de protección de datos
- Indexación de fuentes que no hayan sido aprobadas por sus responsables
- Certificación o aprobación regulatoria
Cuándo elegirlo
Defina los límites desde el principio, durante la selección de fuentes, y no después de la primera demostración. Añadir un filtrado por permisos más adelante es más difícil que diseñarlo desde el inicio, y una sola respuesta errónea que revele información confidencial puede dañar la confianza en todo el proyecto. Revise los límites cuando se añadan nuevas fuentes, grupos de usuarios o proveedores de modelos.
Nuestro enfoque
Empiece con algo pequeño y bien gobernado. Elija un conjunto limitado de fuentes aprobadas y actualizadas, con un responsable y un público claros, como una biblioteca de ayuda de TI o una base de conocimiento de productos. Construya desde el principio una recuperación que respete los permisos, aunque el primer público sea amplio. Realice pruebas con preguntas realistas de distintos roles e incluya preguntas que el asistente debería rechazar. Nuestro servicio Internal Knowledge Assistant prepara un asistente en torno a fuentes de conocimiento aprobadas, límites de acceso, fiabilidad de la recuperación y un uso controlado por parte del personal. El servicio AI Governance, Policy & Data Safety puede definir las reglas de uso y los límites de datos a su alrededor, y una LLM & AI Agent Security Review puede examinar los riesgos de recuperación y la exposición de datos en un asistente existente. Mida el éxito por las respuestas confiables y con fuentes citadas a las preguntas habituales, no por la cantidad de documentos indexados.
Preguntas frecuentes
Artículos relacionados
Empezar
¿Planifica un asistente de conocimiento basado en su propio contenido?
Comparta las fuentes que tiene en mente, los usuarios previstos y cualquier inquietud sobre datos sensibles. Le propondremos un primer paso con alcance definido.
Solicitar un alcance por escrito