RAG 知识助手：设定安全的数据边界

检索增强生成（RAG）使 AI 助手能够利用您自己的文档回答问题，例如政策、流程、产品信息、合同或支持记录。这是 AI 在企业中最实用的应用之一。但它也是最容易让信息落入不该看到的人手中的方式之一，因为一个可以搜索一切的助手，会毫无保留地总结任何内容。在开始建立索引之前确定的数据边界，正是让 RAG 助手既有用又安全的关键。本指南说明如何设定这些边界。

服务简介

RAG 系统主要分为三个阶段。数据摄取阶段从经批准的来源收集文档，将其拆分为片段，并存储到搜索索引中（通常是向量数据库）。检索阶段找出与用户问题最相关的片段。生成阶段将这些片段传给语言模型，由模型撰写回答，并在理想情况下注明来源。数据边界适用于每一个阶段。在摄取阶段，您需要决定允许哪些来源和文档类型，排除哪些。在检索阶段，系统必须遵循用户在原始系统中拥有的相同权限；如果某位用户无法在文件共享中打开某份文档，助手也不应为其检索该文档。在生成阶段，您需要决定模型可以如何使用检索到的内容，以及应拒绝哪些请求。在此之外，还需要制定索引、提示和日志的保留规则，并了解任何外部模型服务商关于如何处理所提交数据的政策。

适用对象

本指南适用于：

计划为员工知识、人力资源、IT 或运营构建内部助手的组织
基于产品或支持内容构建面向客户助手的团队
正在审查拟议 RAG 项目的数据保护与安全负责人
需要决定哪些内容应当或不应当被 AI 搜索的管理者

帮助厘清的问题

设定边界有助于厘清：

哪些知识来源经过批准、有明确负责人，且足够新、值得信赖
检索是否遵循每位用户的权限
个人数据、机密数据或受监管数据可能在何处进入索引
已索引的数据、提示和回答会保留多久，保存在何处

包含内容

列出候选来源，并为每个来源指定一名负责批准纳入的负责人
默认排除：人事案件档案、法律事务、薪资、健康数据、凭据和董事会文件，除非存在具体且经批准的需求
删除或归档过时文档，以免助手引用已被取代的政策
将文档权限带入索引，并按当前用户的访问权限过滤检索结果
让不同角色的用户进行测试，确认他们只能看到应看到的内容
在摄取过程中检测并处理个人数据和密钥
要求回答注明来源，并允许用户打开原始文档
指示助手在不知道答案时如实说明，而不是猜测
明确索引、提示和日志的保留期限，以及源系统中的删除操作如何同步
审查模型服务商的数据处理和保留条款
收集关于错误或无用回答的反馈，并指定专人跟进处理

不包含内容

声称助手的回答始终准确
关于数据保护义务的法律建议
为未经所有者批准的来源建立索引
认证或监管批准

适用时机

请在项目一开始、选择来源时就设定边界，而不是在首次演示之后。事后再添加权限过滤，比从设计之初就纳入要困难得多；而一次泄露机密信息的错误回答，就可能损害人们对整个项目的信任。在新增来源、用户群体或模型服务商时，请重新审视边界。

我们的方法

从小规模、治理良好的范围起步。选择一组有限的、经过批准且内容最新的来源，并明确其负责人和受众，例如 IT 帮助文档库或产品知识库。从一开始就构建遵循权限的检索机制，即使首批受众范围较广。使用来自不同角色的真实问题进行测试，并包括助手应当拒绝回答的问题。我们的 Internal Knowledge Assistant 服务围绕经批准的知识来源、访问边界、检索可靠性和受控的员工使用来构建助手。AI Governance, Policy & Data Safety 服务可以为其制定使用规则和数据边界，LLM & AI Agent Security Review 则可以检查现有助手中的检索风险和数据暴露情况。衡量成功的标准，应是针对常见问题给出可信且注明出处的回答，而不是索引了多少份文档。

Internal Knowledge Assistant

查看 Internal Knowledge Assistant 服务页面