RAG-vidensassistent: sådan sætter I sikre datagrænser

Hvad det er

Et RAG-system har tre hovedtrin. Indlæsning samler dokumenter fra godkendte kilder, opdeler dem i bidder og gemmer dem i et søgeindeks, ofte en vektordatabase. Hentning finder de bidder, der er mest relevante for en brugers spørgsmål. Generering sender disse bidder til en sprogmodel, som skriver et svar, ideelt set med kildehenvisninger. Datagrænser gælder på hvert trin. Ved indlæsning beslutter I, hvilke kilder og dokumenttyper der er tilladt, og hvilke der udelukkes. Ved hentning skal systemet respektere de samme rettigheder, som brugerne har i de oprindelige systemer; hvis en bruger ikke kan åbne et dokument på fildrevet, bør assistenten ikke hente det til vedkommende. Ved generering beslutter I, hvad modellen må gøre med hentet indhold, og hvad den bør afvise. Rundt om alt dette ligger regler for opbevaring af indekser, prompts og logs samt politikkerne hos eventuelle eksterne modeludbydere for, hvordan indsendte data håndteres.

Hvem er det for?

Denne guide er til:

• Organisationer, der planlægger en intern assistent til medarbejderviden, HR, IT eller drift
• Teams, der bygger en kundevendt assistent på produkt- eller supportindhold
• Ansvarlige for databeskyttelse og sikkerhed, der gennemgår et foreslået RAG-projekt
• Ledere, der skal beslutte, hvilket indhold der skal og ikke skal kunne søges i af AI

Hvad det hjælper med at afklare

At sætte grænser hjælper med at afklare:

• Hvilke videnskilder der er godkendte, har en ejer og er tilstrækkeligt aktuelle til at kunne stoles på
• Om hentningen respekterer hver enkelt brugers rettigheder
• Hvor personoplysninger, fortrolige eller regulerede data kan komme ind i indekset
• Hvor længe indekserede data, prompts og svar opbevares, og hvor

Hvad er inkluderet

• Oplist mulige kilder, og giv hver en ejer, der godkender, at den medtages
• Udelad som standard: HR-sager, juridiske sager, lønoplysninger, helbredsdata, legitimationsoplysninger og bestyrelsesmateriale, medmindre der er et specifikt, godkendt behov
• Fjern eller arkivér forældede dokumenter, så assistenten ikke henviser til politikker, der er afløst
• Overfør dokumentrettigheder til indekset, og filtrér hentningen efter den aktuelle brugers adgang
• Test med brugere i forskellige roller for at bekræfte, at de kun ser det, de bør
• Opdag og håndtér personoplysninger og hemmeligheder under indlæsningen
• Kræv, at svar henviser til kilder, og lad brugerne åbne det oprindelige dokument
• Instruér assistenten i at sige, når den ikke ved det, i stedet for at gætte
• Definér opbevaring for indekset, prompts og logs, og hvordan sletninger i kildesystemerne slår igennem
• Gennemgå modeludbyderens vilkår for datahåndtering og opbevaring
• Indsaml feedback om forkerte eller uhjælpsomme svar, og udpeg en person til at følge op på den

Hvad er ikke inkluderet?

• En påstand om, at assistentens svar altid vil være korrekte
• Juridisk rådgivning om forpligtelser inden for databeskyttelse
• Indeksering af kilder, der ikke er godkendt af deres ejere
• Certificering eller regulatorisk godkendelse

Hvornår du skal vælge det

Sæt grænser helt fra begyndelsen, under udvælgelsen af kilder, ikke efter den første demo. Det er sværere at tilføje filtrering efter rettigheder senere end at designe den ind fra start, og et enkelt fejlagtigt svar, der afslører fortrolige oplysninger, kan skade tilliden til hele projektet. Gennemgå grænserne igen, når nye kilder, brugergrupper eller modeludbydere tilføjes.

Vores tilgang

Start i det små og med god styring. Vælg et begrænset sæt godkendte, aktuelle kilder med en klar ejer og målgruppe, såsom et IT-hjælpebibliotek eller en produktvidensbase. Byg hentning, der respekterer rettigheder, fra starten, selv hvis den første målgruppe er bred. Test med realistiske spørgsmål fra forskellige roller, og medtag spørgsmål, som assistenten bør afvise. Vores tjeneste Internal Knowledge Assistant forbereder en assistent omkring godkendte videnskilder, adgangsgrænser, pålidelig hentning og kontrolleret brug blandt medarbejderne. AI Governance, Policy & Data Safety kan definere brugsreglerne og datagrænserne omkring den, og en LLM & AI Agent Security Review kan undersøge risici ved hentning og eksponering af data i en eksisterende assistent. Mål succes ud fra troværdige svar med kildehenvisninger på almindelige spørgsmål, ikke ud fra hvor mange dokumenter der er indekseret.

Internal Knowledge Assistant

Ofte stillede spørgsmål

Relaterede artikler