RAG-baserad kunskapsassistent: sätt säkra datagränser

Hämtningsförstärkt generering (RAG) låter en AI-assistent besvara frågor med hjälp av era egna dokument: policyer, rutiner, produktinformation, avtal eller supporthistorik. Det är en av de mest praktiska användningarna av AI i företag. Det är också ett av de enklaste sätten att exponera information för fel personer, eftersom en assistent som kan söka i allt gärna sammanfattar vad som helst. Datagränser, som bestäms innan indexeringen börjar, är det som gör en RAG-assistent användbar och säker. Den här guiden förklarar hur de sätts.

Vad det är

Ett RAG-system har tre huvudsteg. Inläsning samlar in dokument från godkända källor, delar upp dem i stycken och lagrar dem i ett sökindex, ofta en vektordatabas. Hämtning hittar de stycken som är mest relevanta för användarens fråga. Generering skickar dessa stycken till en språkmodell som skriver ett svar, helst med källhänvisningar. Datagränser gäller i varje steg. Vid inläsning avgör ni vilka källor och dokumenttyper som är tillåtna och vilka som är undantagna. Vid hämtning måste systemet respektera samma behörigheter som användarna har i de ursprungliga systemen; om en användare inte kan öppna ett dokument på filservern ska assistenten inte hämta det åt dem. Vid generering avgör ni vad modellen får göra med hämtat innehåll och vad den ska avböja. Runt allt detta finns regler för lagringstid för index, prompter och loggar, samt villkoren hos en eventuell extern modelleverantör för hur inskickade data hanteras.

Vem det är för

Guiden är till för:

Organisationer som planerar en intern assistent för personalens kunskap, HR, IT eller drift
Team som bygger en kundinriktad assistent på produkt- eller supportinnehåll
Dataskydds- och säkerhetsansvariga som granskar ett föreslaget RAG-projekt
Chefer som avgör vilket innehåll som ska och inte ska vara sökbart för AI

Vad det hjälper till att klargöra

Att sätta gränser hjälper till att klargöra:

Vilka kunskapskällor som är godkända, har en ägare och är tillräckligt aktuella för att vara tillförlitliga
Om hämtningen respekterar varje användares behörigheter
Var personuppgifter, konfidentiella eller reglerade data kan komma in i indexet
Hur länge indexerade data, prompter och svar sparas, och var

Vad ingår

Lista tänkbara källor och ge var och en en ägare som godkänner att den tas med
Undanta som standard: HR-ärenden, juridiska ärenden, lön, hälsodata, inloggningsuppgifter och styrelsehandlingar, om det inte finns ett specifikt, godkänt behov
Ta bort eller arkivera inaktuella dokument så att assistenten inte hänvisar till ersatta policyer
För över dokumentbehörigheter till indexet och filtrera hämtningen efter den aktuella användarens åtkomst
Testa med användare i olika roller för att bekräfta att de bara ser det de ska
Upptäck och hantera personuppgifter och hemligheter vid inläsningen
Kräv att svar anger källor och låt användarna öppna originaldokumentet
Instruera assistenten att säga när den inte vet, i stället för att gissa
Definiera lagringstid för index, prompter och loggar och hur raderingar i källsystemen förs vidare
Granska modelleverantörens villkor för datahantering och lagringstid
Samla in synpunkter på felaktiga eller oanvändbara svar och utse någon som agerar på dem

Vad som inte ingår

Ett påstående om att assistentens svar alltid kommer att vara korrekta
Juridisk rådgivning om dataskyddsskyldigheter
Indexering av källor som inte har godkänts av sina ägare
Certifiering eller regulatoriskt godkännande

När det passar att välja den

Sätt gränserna redan från början, vid valet av källor, inte efter den första demonstrationen. Det är svårare att lägga till behörighetsfiltrering i efterhand än att bygga in den från början, och ett enda felaktigt svar som avslöjar konfidentiell information kan skada förtroendet för hela projektet. Se över gränserna när nya källor, användargrupper eller modelleverantörer läggs till.

Vår strategi

Börja i liten skala och med god styrning. Välj ett begränsat antal godkända, aktuella källor med en tydlig ägare och målgrupp, till exempel ett IT-hjälpbibliotek eller en kunskapsbas för produkter. Bygg behörighetsstyrd hämtning från början, även om den första målgruppen är bred. Testa med realistiska frågor från olika roller och ta med frågor som assistenten ska avböja. Vår tjänst Internal Knowledge Assistant förbereder en assistent kring godkända kunskapskällor, åtkomstgränser, tillförlitlig hämtning och kontrollerad användning bland personalen. AI Governance, Policy & Data Safety kan definiera användningsreglerna och datagränserna runt den, och en LLM & AI Agent Security Review kan undersöka risker vid hämtning och exponering av data i en befintlig assistent. Mät framgång i tillförlitliga svar med källhänvisningar på vanliga frågor, inte i hur många dokument som har indexerats.

Internal Knowledge Assistant

Visa tjänstesidan för Internal Knowledge Assistant