Znalostní asistent s RAG: jak nastavit bezpečné hranice dat

Retrieval-augmented generation (RAG) umožňuje AI asistentovi odpovídat na otázky s využitím vašich vlastních dokumentů: politik, postupů, informací o produktech, smluv nebo historie podpory. Patří k nejpraktičtějším využitím AI ve firmách. Zároveň je to jeden z nejsnazších způsobů, jak zpřístupnit informace nesprávným lidem, protože asistent, který může prohledávat vše, ochotně shrne cokoli. Hranice dat stanovené před zahájením indexace jsou tím, co činí asistenta s RAG užitečným a bezpečným. Tento průvodce vysvětluje, jak je nastavit.

Co to je?

Systém RAG má tři hlavní fáze. Ingestace shromažďuje dokumenty ze schválených zdrojů, rozděluje je na části (chunky) a ukládá je do vyhledávacího indexu, často do vektorové databáze. Vyhledávání nachází části nejrelevantnější k otázce uživatele. Generování předává tyto části jazykovému modelu, který napíše odpověď, ideálně s uvedením zdrojů. Hranice dat platí v každé fázi. Při ingestaci rozhodujete, které zdroje a typy dokumentů jsou povoleny a které jsou vyloučeny. Při vyhledávání musí systém respektovat stejná oprávnění, jaká mají uživatelé v původních systémech; pokud uživatel nemůže otevřít dokument ve sdíleném úložišti, asistent by mu jej neměl vyhledat. Při generování rozhodujete, co smí model s načteným obsahem dělat a co by měl odmítnout. Kolem toho všeho stojí pravidla uchovávání pro indexy, prompty a logy a zásady externího poskytovatele modelu ohledně nakládání s odeslanými daty.

Pro koho to je?

Tento průvodce je určen pro:

Organizace, které plánují interního asistenta pro znalosti zaměstnanců, HR, IT nebo provoz
Týmy, které vytvářejí asistenta pro zákazníky nad produktovým obsahem nebo obsahem podpory
Vedoucí ochrany dat a bezpečnosti, kteří posuzují navrhovaný projekt RAG
Manažery, kteří rozhodují, jaký obsah by měl a neměl být prohledávatelný pomocí AI

Co to pomůže objasnit

Stanovení hranic pomáhá ujasnit:

Které znalostní zdroje jsou schválené, mají vlastníka a jsou dostatečně aktuální, aby jim bylo možné důvěřovat
Zda vyhledávání respektuje oprávnění každého uživatele
Kde by se do indexu mohly dostat osobní, důvěrné nebo regulované údaje
Jak dlouho a kde se uchovávají indexovaná data, prompty a odpovědi

Co je zahrnuto

Sepište kandidátské zdroje a každému přidělte vlastníka, který schvaluje jeho zařazení
Ve výchozím stavu vylučte: personální spisy, právní záležitosti, mzdy, zdravotní údaje, přístupové údaje a materiály představenstva, pokud neexistuje konkrétní schválená potřeba
Odstraňte nebo archivujte zastaralé dokumenty, aby asistent necitoval nahrazené politiky
Přeneste oprávnění dokumentů do indexu a filtrujte vyhledávání podle přístupu aktuálního uživatele
Testujte s uživateli v různých rolích, abyste potvrdili, že vidí jen to, co mají
Během ingestace detekujte a ošetřete osobní údaje a tajné údaje
Vyžadujte, aby odpovědi uváděly zdroje, a umožněte uživatelům otevřít původní dokument
Instruujte asistenta, aby řekl, když něco neví, místo aby hádal
Definujte uchovávání pro index, prompty a logy a způsob, jak se promítá mazání ve zdrojových systémech
Prověřte podmínky poskytovatele modelu týkající se nakládání s daty a jejich uchovávání
Sbírejte zpětnou vazbu na chybné nebo neužitečné odpovědi a určete někoho, kdo na ni bude reagovat

Co není součástí

Tvrzení, že odpovědi asistenta budou vždy přesné
Právní poradenství k povinnostem v oblasti ochrany údajů
Indexace zdrojů, které jejich vlastníci neschválili
Certifikace nebo regulatorní schválení

Kdy si ji vybrat

Hranice nastavte hned na začátku, při výběru zdrojů, nikoli až po první ukázce. Dodatečné přidání filtrování podle oprávnění je obtížnější než jeho zahrnutí do návrhu a jediná chybná odpověď, která odhalí důvěrné informace, může poškodit důvěru v celý projekt. K hranicím se vraťte, když přibudou nové zdroje, skupiny uživatelů nebo poskytovatelé modelů.

Náš přístup

Začněte v malém a s dobrým řízením. Zvolte omezenou sadu schválených a aktuálních zdrojů s jasným vlastníkem a publikem, například knihovnu nápovědy IT nebo produktovou znalostní bázi. Vyhledávání respektující oprávnění zabudujte od začátku, i když je první publikum široké. Testujte realistickými otázkami z různých rolí a zahrňte i otázky, které by měl asistent odmítnout. Naše služba Internal Knowledge Assistant připravuje asistenta kolem schválených znalostních zdrojů, hranic přístupu, spolehlivosti vyhledávání a řízeného používání zaměstnanci. Služba AI Governance, Policy & Data Safety může definovat pravidla používání a hranice dat kolem něj a LLM & AI Agent Security Review může prověřit rizika vyhledávání a vystavení dat u stávajícího asistenta. Úspěch měřte důvěryhodnými odpověďmi se zdroji na běžné otázky, nikoli počtem indexovaných dokumentů.

Internal Knowledge Assistant

Zobrazit stránku služby Internal Knowledge Assistant