RAG-kunnskapsassistent: slik setter dere trygge datagrenser

Hva det er

Et RAG-system har tre hovedtrinn. Innlesing samler dokumenter fra godkjente kilder, deler dem opp i biter og lagrer dem i en søkeindeks, ofte en vektordatabase. Gjenfinning finner bitene som er mest relevante for brukerens spørsmål. Generering sender disse bitene til en språkmodell, som skriver et svar, helst med kildehenvisninger. Datagrenser gjelder på hvert trinn. Ved innlesing avgjør dere hvilke kilder og dokumenttyper som er tillatt, og hvilke som er utelatt. Ved gjenfinning må systemet respektere de samme tillatelsene brukerne har i de opprinnelige systemene; hvis en bruker ikke kan åpne et dokument på filområdet, skal assistenten ikke hente det for dem. Ved generering avgjør dere hva modellen kan gjøre med hentet innhold, og hva den skal avslå. Rundt alt dette ligger regler for lagringstid for indekser, prompter og logger, og retningslinjene til en eventuell ekstern modelleverandør for hvordan innsendte data håndteres.

Hvem det er for

Denne guiden er for:

• Organisasjoner som planlegger en intern assistent for kunnskap blant ansatte, HR, IT eller drift
• Team som bygger en kunderettet assistent basert på produkt- eller supportinnhold
• Personvern- og sikkerhetsansvarlige som gjennomgår et foreslått RAG-prosjekt
• Ledere som avgjør hvilket innhold som skal og ikke skal være søkbart for AI

Hva det hjelper med å klarlegge

Å sette grenser bidrar til å avklare:

• Hvilke kunnskapskilder som er godkjente, har en eier og er oppdaterte nok til å være pålitelige
• Om gjenfinningen respekterer tillatelsene til hver bruker
• Hvor personopplysninger, konfidensielle eller regulerte data kan komme inn i indeksen
• Hvor lenge indekserte data, prompter og svar oppbevares, og hvor

Hva er inkludert

• List opp kandidatkilder og gi hver en eier som godkjenner at den tas med
• Utelat som standard: HR-saker, juridiske saker, lønn, helsedata, innloggingsdetaljer og styredokumenter, med mindre det finnes et konkret, godkjent behov
• Fjern eller arkiver utdaterte dokumenter slik at assistenten ikke viser til erstattede retningslinjer
• Før dokumenttillatelser over i indeksen, og filtrer gjenfinningen etter gjeldende brukers tilgang
• Test med brukere i ulike roller for å bekrefte at de bare ser det de skal
• Oppdag og håndter personopplysninger og hemmeligheter under innlesingen
• Krev at svar oppgir kilder, og la brukerne åpne originaldokumentet
• Instruer assistenten om å si fra når den ikke vet, i stedet for å gjette
• Definer lagringstid for indeksen, prompter og logger, og hvordan slettinger i kildesystemene videreføres
• Gjennomgå modelleverandørens vilkår for datahåndtering og lagringstid
• Samle inn tilbakemeldinger på feil eller lite nyttige svar, og utpek noen som følger dem opp

Hva er ikke inkludert

• En påstand om at assistentens svar alltid vil være korrekte
• Juridisk rådgivning om personvernforpliktelser
• Indeksering av kilder som ikke er godkjent av eierne
• Sertifisering eller regulatorisk godkjenning

Når skal den velges

Sett grensene helt i starten, under valget av kilder, ikke etter den første demonstrasjonen. Det er vanskeligere å legge til tilgangsfiltrering senere enn å bygge den inn fra begynnelsen, og ett enkelt feilaktig svar som avslører konfidensiell informasjon, kan skade tilliten til hele prosjektet. Gå gjennom grensene på nytt når nye kilder, brukergrupper eller modelleverandører legges til.

Vår tilnærming

Start i det små og med god styring. Velg et begrenset sett godkjente, oppdaterte kilder med en tydelig eier og målgruppe, for eksempel et IT-hjelpebibliotek eller en kunnskapsbase for produkter. Bygg tilgangsstyrt gjenfinning fra starten, selv om den første målgruppen er bred. Test med realistiske spørsmål fra ulike roller, og ta med spørsmål assistenten skal avslå. Tjenesten vår Internal Knowledge Assistant forbereder en assistent rundt godkjente kunnskapskilder, tilgangsgrenser, pålitelig gjenfinning og kontrollert bruk blant ansatte. AI Governance, Policy & Data Safety kan definere bruksreglene og datagrensene rundt den, og en LLM & AI Agent Security Review kan undersøke risiko ved gjenfinning og eksponering av data i en eksisterende assistent. Mål suksess i pålitelige svar med kildehenvisninger på vanlige spørsmål, ikke i hvor mange dokumenter som er indeksert.

Internal Knowledge Assistant

Ofte stilte spørsmål

Beslektede artikler