A geração aumentada por recuperação (RAG) permite que um assistente de IA responda a perguntas usando seus próprios documentos: políticas, procedimentos, informações de produtos, contratos ou histórico de suporte. É um dos usos mais práticos da IA nas empresas. É também uma das formas mais fáceis de expor informações às pessoas erradas, porque um assistente capaz de pesquisar tudo resumirá qualquer coisa sem hesitar. Os limites de dados, definidos antes do início da indexação, são o que torna um assistente com RAG útil e seguro. Este guia explica como defini-los.
O que é
Um sistema RAG tem três etapas principais. A ingestão coleta documentos de fontes aprovadas, divide-os em trechos (chunks) e os armazena em um índice de busca, muitas vezes um banco de dados vetorial. A recuperação encontra os trechos mais relevantes para a pergunta do usuário. A geração passa esses trechos para um modelo de linguagem, que redige uma resposta, idealmente citando suas fontes. Os limites de dados se aplicam a todas as etapas. Na ingestão, você decide quais fontes e tipos de documento são permitidos e quais ficam de fora. Na recuperação, o sistema deve respeitar as mesmas permissões que os usuários têm nos sistemas de origem; se um usuário não consegue abrir um documento no compartilhamento de arquivos, o assistente não deve recuperá-lo para ele. Na geração, você decide o que o modelo pode fazer com o conteúdo recuperado e o que ele deve recusar. Em torno de tudo isso estão as regras de retenção para índices, prompts e logs, e as políticas de qualquer provedor de modelos externo sobre como os dados enviados são tratados.
Para Quem É
Este guia é destinado a:
- Organizações que planejam um assistente interno para conhecimento da equipe, RH, TI ou operações
- Equipes que constroem um assistente voltado ao cliente com base em conteúdo de produto ou de suporte
- Líderes de proteção de dados e de segurança que analisam um projeto de RAG proposto
- Gestores que decidem quais conteúdos devem ou não ser pesquisáveis pela IA
O Que Isso Ajuda A Esclarecer
Definir limites ajuda a esclarecer:
- Quais fontes de conhecimento são aprovadas, têm responsável e estão atualizadas o suficiente para serem confiáveis
- Se a recuperação respeita as permissões de cada usuário
- Onde dados pessoais, confidenciais ou regulados podem entrar no índice
- Por quanto tempo e onde os dados indexados, os prompts e as respostas são mantidos
O que está incluído
- Liste as fontes candidatas e atribua a cada uma um responsável que aprove sua inclusão
- Exclua por padrão: processos de RH, assuntos jurídicos, folha de pagamento, dados de saúde, credenciais e documentos do conselho, a menos que haja uma necessidade específica e aprovada
- Remova ou arquive documentos desatualizados para que o assistente não cite políticas já substituídas
- Leve as permissões dos documentos para o índice e filtre a recuperação de acordo com o acesso do usuário atual
- Teste com usuários de diferentes perfis para confirmar que veem apenas o que devem
- Detecte e trate dados pessoais e segredos durante a ingestão
- Exija que as respostas citem as fontes e permita que os usuários abram o documento original
- Instrua o assistente a dizer quando não sabe, em vez de adivinhar
- Defina a retenção do índice, dos prompts e dos logs, e como as exclusões nos sistemas de origem são propagadas
- Analise os termos de tratamento e retenção de dados do provedor do modelo
- Colete feedback sobre respostas erradas ou pouco úteis e designe alguém para agir com base nele
O que não está incluído
- Afirmação de que as respostas do assistente serão sempre precisas
- Consultoria jurídica sobre obrigações de proteção de dados
- Indexação de fontes que não foram aprovadas por seus responsáveis
- Certificação ou aprovação regulatória
Quando Escolher
Defina os limites logo no início, durante a seleção das fontes, e não depois da primeira demonstração. Adicionar a filtragem por permissões mais tarde é mais difícil do que incorporá-la ao design, e uma única resposta equivocada que revele informações confidenciais pode abalar a confiança em todo o projeto. Revise os limites quando forem adicionadas novas fontes, grupos de usuários ou provedores de modelos.
Nossa abordagem
Comece pequeno e com boa governança. Escolha um conjunto limitado de fontes aprovadas e atualizadas, com responsável e público claros, como uma biblioteca de ajuda de TI ou uma base de conhecimento de produtos. Construa a recuperação com respeito às permissões desde o início, mesmo que o primeiro público seja amplo. Teste com perguntas realistas de diferentes perfis e inclua perguntas que o assistente deve recusar. Nosso serviço Internal Knowledge Assistant prepara um assistente com base em fontes de conhecimento aprovadas, limites de acesso, confiabilidade da recuperação e uso controlado pela equipe. O serviço AI Governance, Policy & Data Safety pode definir as regras de uso e os limites de dados em torno dele, e um LLM & AI Agent Security Review pode examinar os riscos de recuperação e a exposição de dados em um assistente existente. Meça o sucesso por respostas confiáveis e com citação de fontes para perguntas frequentes, e não pela quantidade de documentos indexados.
Perguntas Frequentes
Artigos relacionados
Começar
Planejando um assistente de conhecimento com base no seu próprio conteúdo?
Compartilhe as fontes que tem em mente, os usuários pretendidos e quaisquer preocupações com dados sensíveis. Proporemos um primeiro passo com escopo definido.
Solicitar um escopo por escrito