RAG 知識助理：設定安全的資料邊界

檢索增強生成（RAG）讓 AI 助理能運用您自己的文件回答問題，例如政策、流程、產品資訊、合約或支援紀錄。這是 AI 在企業中最實用的應用之一。但它也是最容易讓資訊落入不該看到的人手中的方式之一，因為一個可以搜尋一切的助理，會毫無保留地摘要任何內容。在開始建立索引之前確定的資料邊界，正是讓 RAG 助理既實用又安全的關鍵。本指南說明如何設定這些邊界。

服務簡介

RAG 系統主要分為三個階段。資料擷取階段從經核准的來源蒐集文件，將其切分為片段，並儲存到搜尋索引中（通常是向量資料庫）。檢索階段找出與使用者問題最相關的片段。生成階段將這些片段交給語言模型，由模型撰寫回答，並在理想情況下註明來源。資料邊界適用於每一個階段。在擷取階段，您需要決定允許哪些來源與文件類型，排除哪些。在檢索階段，系統必須依循使用者在原始系統中擁有的相同權限；如果某位使用者無法在檔案共用中開啟某份文件，助理也不應為其檢索該文件。在生成階段，您需要決定模型可以如何運用檢索到的內容，以及應拒絕哪些請求。除此之外，還需要制定索引、提示與日誌的保存規則，並了解任何外部模型服務商關於如何處理所提交資料的政策。

適用對象

本指南適用於：

計畫為員工知識、人資、IT 或營運打造內部助理的組織
以產品或支援內容打造面向客戶助理的團隊
正在審查擬議 RAG 專案的個資保護與資安負責人
需要決定哪些內容應該或不應該被 AI 搜尋的管理者

有助釐清的問題

設定邊界有助於釐清：

哪些知識來源經過核准、有明確負責人，且夠新、值得信賴
檢索是否依循每位使用者的權限
個人資料、機密資料或受規範資料可能在何處進入索引
已建立索引的資料、提示與回答會保存多久，存放在何處

包含內容

列出候選來源，並為每個來源指定一名負責核准納入的負責人
預設排除：人事案件檔案、法律事務、薪資、健康資料、憑證與董事會文件，除非有具體且經核准的需求
刪除或封存過時文件，以免助理引用已被取代的政策
將文件權限帶入索引，並依目前使用者的存取權限篩選檢索結果
讓不同角色的使用者進行測試，確認他們只能看到應看到的內容
在擷取過程中偵測並處理個人資料與機密資訊
要求回答註明來源，並允許使用者開啟原始文件
指示助理在不知道答案時如實說明，而不是猜測
明確索引、提示與日誌的保存期限，以及來源系統中的刪除動作如何同步
審查模型服務商的資料處理與保存條款
蒐集關於錯誤或無用回答的回饋，並指定專人追蹤處理

不包含內容

宣稱助理的回答始終正確
關於個資保護義務的法律建議
為未經擁有者核准的來源建立索引
認證或監管核准

適用時機

請在專案一開始、選擇來源時就設定邊界，而不是在首次展示之後。事後再加入權限篩選，比從設計之初就納入要困難得多；而一次洩露機密資訊的錯誤回答，就可能損害各方對整個專案的信任。在新增來源、使用者群體或模型服務商時，請重新檢視邊界。

我們的方法

從小規模、治理良好的範圍起步。選擇一組有限的、經過核准且內容最新的來源，並明確其負責人與受眾，例如 IT 說明文件庫或產品知識庫。從一開始就建立依循權限的檢索機制，即使首批受眾範圍較廣。使用來自不同角色的真實問題進行測試，並包括助理應當拒絕回答的問題。我們的 Internal Knowledge Assistant 服務圍繞經核准的知識來源、存取邊界、檢索可靠性與受控的員工使用來打造助理。AI Governance, Policy & Data Safety 服務可以為其制定使用規則與資料邊界，LLM & AI Agent Security Review 則可以檢查現有助理中的檢索風險與資料暴露情況。衡量成功的標準，應是針對常見問題提供可信且註明出處的回答，而不是建立了多少份文件的索引。

Internal Knowledge Assistant

查看 Internal Knowledge Assistant 服務頁面