Assistant RAG : fixer des limites de données sûres

Définition

Un système RAG comporte trois étapes principales. L'ingestion collecte les documents provenant de sources approuvées, les découpe en fragments (chunks) et les stocke dans un index de recherche, souvent une base de données vectorielle. La récupération trouve les fragments les plus pertinents pour la question d'un utilisateur. La génération transmet ces fragments à un modèle de langage, qui rédige une réponse, idéalement en citant ses sources. Les limites de données s'appliquent à chaque étape. Lors de l'ingestion, vous décidez quelles sources et quels types de documents sont autorisés, et lesquels sont exclus. Lors de la récupération, le système doit respecter les mêmes droits d'accès que ceux des utilisateurs dans les systèmes d'origine ; si un utilisateur ne peut pas ouvrir un document sur le partage de fichiers, l'assistant ne doit pas le récupérer pour lui. Lors de la génération, vous décidez ce que le modèle peut faire du contenu récupéré et ce qu'il doit refuser. Autour de tout cela s'appliquent des règles de conservation pour les index, les prompts et les journaux, ainsi que les politiques de tout fournisseur de modèle externe concernant le traitement des données soumises.

Public concerné

Ce guide s'adresse :

• Aux organisations qui prévoient un assistant interne pour les connaissances des collaborateurs, les RH, l'informatique ou les opérations
• Aux équipes qui construisent un assistant destiné aux clients à partir de contenus produit ou support
• Aux responsables de la protection des données et de la sécurité qui examinent un projet RAG
• Aux managers qui décident quels contenus doivent, ou non, être consultables par l'IA

Ce qu'il aide à clarifier

Fixer des limites aide à clarifier :

• Quelles sources de connaissances sont approuvées, ont un responsable et sont suffisamment à jour pour être fiables
• Si la récupération respecte les droits d'accès de chaque utilisateur
• Où des données personnelles, confidentielles ou réglementées pourraient entrer dans l'index
• Combien de temps les données indexées, les prompts et les réponses sont conservés, et où

Ce qui est inclus

• Listez les sources candidates et attribuez à chacune un responsable qui approuve son inclusion
• Excluez par défaut les dossiers RH individuels, les affaires juridiques, la paie, les données de santé, les identifiants et les documents du conseil d'administration, sauf besoin spécifique et approuvé
• Supprimez ou archivez les documents obsolètes afin que l'assistant ne cite pas de politiques remplacées
• Reportez les droits d'accès des documents dans l'index et filtrez la récupération selon les accès de l'utilisateur courant
• Testez avec des utilisateurs de différents rôles pour confirmer qu'ils ne voient que ce qu'ils doivent voir
• Détectez et traitez les données personnelles et les secrets lors de l'ingestion
• Exigez que les réponses citent leurs sources et permettez aux utilisateurs d'ouvrir le document d'origine
• Demandez à l'assistant d'indiquer quand il ne sait pas, plutôt que de deviner
• Définissez la conservation de l'index, des prompts et des journaux, ainsi que la manière dont les suppressions dans les systèmes sources se répercutent
• Examinez les conditions de traitement et de conservation des données du fournisseur de modèle
• Recueillez les retours sur les réponses erronées ou inutiles et désignez une personne chargée d'y donner suite

Ce qui n'est pas inclus

• L'affirmation que les réponses de l'assistant seront toujours exactes
• Un conseil juridique sur les obligations en matière de protection des données
• L'indexation de sources qui n'ont pas été approuvées par leurs responsables
• Une certification ou une approbation réglementaire

Quand le choisir

Fixez les limites dès le tout début, lors de la sélection des sources, et non après la première démonstration. Ajouter un filtrage par droits d'accès après coup est plus difficile que de le prévoir dès la conception, et une seule réponse erronée révélant des informations confidentielles peut entamer la confiance dans l'ensemble du projet. Réexaminez les limites lorsque de nouvelles sources, de nouveaux groupes d'utilisateurs ou de nouveaux fournisseurs de modèles sont ajoutés.

Notre approche

Commencez petit, avec une gouvernance solide. Choisissez un ensemble limité de sources approuvées et à jour, avec un responsable et un public clairement identifiés, comme une bibliothèque d'aide informatique ou une base de connaissances produit. Mettez en place dès le départ une récupération respectant les droits d'accès, même si le premier public est large. Testez avec des questions réalistes posées par différents rôles et incluez des questions que l'assistant doit refuser. Notre service Internal Knowledge Assistant prépare un assistant autour de sources de connaissances approuvées, de limites d'accès, de la fiabilité de la récupération et d'un usage maîtrisé par les collaborateurs. AI Governance, Policy & Data Safety peut définir les règles d'usage et les limites de données qui l'encadrent, et une LLM & AI Agent Security Review peut examiner les risques liés à la récupération et l'exposition des données dans un assistant existant. Mesurez le succès à l'aune de réponses fiables et sourcées aux questions courantes, et non au nombre de documents indexés.

service Internal Knowledge Assistant

Foire aux questions

Articles connexes