RAGナレッジアシスタントの安全なデータ境界

検索拡張生成（RAG）を使うと、AIアシスタントは自社の文書を使って質問に答えられるようになります。ポリシー、手順書、製品情報、契約書、サポート履歴などです。ビジネスにおけるAIの最も実用的な活用法の一つです。同時に、情報を誤った相手に露出させてしまう最も簡単な方法の一つでもあります。すべてを検索できるアシスタントは、何でも喜んで要約してしまうからです。インデックス作成を始める前に決めるデータ境界こそが、RAGアシスタントを有用かつ安全なものにします。本ガイドでは、その設定方法を説明します。

何であるのか

RAGシステムには3つの主な段階があります。取り込みでは、承認されたソースから文書を収集し、チャンクに分割し、検索インデックス（多くの場合はベクトルデータベース）に保存します。検索では、ユーザーの質問に最も関連するチャンクを見つけます。生成では、それらのチャンクを言語モデルに渡し、モデルが回答を作成します。理想的には出典を示します。データ境界はすべての段階に適用されます。取り込みでは、どのソースと文書の種類を許可し、どれを除外するかを決めます。検索では、システムは元のシステムでユーザーが持つのと同じ権限を尊重しなければなりません。ユーザーがファイル共有で開けない文書は、アシスタントもそのユーザーのために取得すべきではありません。生成では、取得したコンテンツでモデルが何をしてよいか、何を断るべきかを決めます。これらすべてを取り巻くのが、インデックス、プロンプト、ログの保持ルールと、外部のモデル事業者が送信データをどう扱うかに関するポリシーです。

誰のために

本ガイドは次のような方のためのものです。

社内ナレッジ、人事、IT、業務向けの社内アシスタントを計画している組織
製品やサポートのコンテンツをもとに顧客向けアシスタントを構築しているチーム
提案されたRAGプロジェクトをレビューするデータ保護およびセキュリティの責任者
どのコンテンツをAIで検索可能にすべきか、すべきでないかを判断するマネージャー

明確にするのに役立つこと

境界を設定することで、次の点が明確になります。

どのナレッジソースが承認され、管理者がいて、信頼できるほど最新であるか
検索が各ユーザーの権限を尊重しているか
個人データ、機密データ、規制対象データがどこでインデックスに入り込む可能性があるか
インデックス化されたデータ、プロンプト、回答がどのくらいの期間、どこに保持されるか

含まれる内容

候補となるソースを一覧化し、それぞれに取り込みを承認する管理者を置く
原則として除外する：人事の個別案件ファイル、法務案件、給与、健康データ、認証情報、取締役会資料（具体的で承認されたニーズがある場合を除く）
アシスタントが廃止されたポリシーを引用しないよう、古い文書を削除またはアーカイブする
文書の権限をインデックスに引き継ぎ、現在のユーザーのアクセス権で検索結果を絞り込む
異なるロールのユーザーでテストし、閲覧すべきものだけが見えることを確認する
取り込み時に個人データとシークレットを検出し、適切に処理する
回答に出典の明示を必須とし、ユーザーが元の文書を開けるようにする
分からない場合は推測せず、分からないと答えるようアシスタントに指示する
インデックス、プロンプト、ログの保持期間と、元のシステムでの削除がどう反映されるかを定める
モデル事業者のデータの取り扱いと保持に関する規約を確認する
誤った回答や役に立たない回答へのフィードバックを集め、対応する担当者を割り当てる

含まれていないもの

アシスタントの回答が常に正確であるという主張
データ保護上の義務に関する法的助言
管理者によって承認されていないソースのインデックス化
認証や規制上の承認

それを選ぶべきとき

境界は、最初のデモの後ではなく、ソースを選定する最初の段階で設定してください。権限による絞り込みを後から追加するのは、最初から設計に組み込むよりも難しく、機密情報を明かしてしまう誤った回答が1つあるだけで、プロジェクト全体への信頼が損なわれかねません。新しいソース、ユーザー層、モデル事業者を追加する際には、境界を見直してください。

私たちのアプローチ

小さく、適切に管理された形で始めてください。ITヘルプのライブラリや製品のナレッジベースなど、管理者と対象者が明確な、承認済みで最新の限られたソースを選びます。最初の対象者が広い場合でも、権限を考慮した検索を最初から構築してください。異なるロールからの現実的な質問でテストし、アシスタントが断るべき質問も含めてください。当社のInternal Knowledge Assistant サービスは、承認されたナレッジソース、アクセスの境界、検索の信頼性、管理されたスタッフの利用を軸にアシスタントを整備します。AI Governance, Policy & Data Safetyにより、その利用ルールとデータ境界を定めることができ、LLM & AI Agent Security Reviewにより、既存のアシスタントにおける検索のリスクとデータの露出を検証できます。成功は、インデックス化した文書の数ではなく、よくある質問に対して信頼でき、出典が示された回答が得られるかで測ってください。

Internal Knowledge Assistant

Internal Knowledge Assistantのサービスページを見る