Conversar com documentos: RAG em linguagem simples

A prova com consulta

Imagine uma prova em que você pode consultar o caderno. Antes de responder, procura a página certa. Depois escreve a resposta com as suas palavras, apontando a página.

RAG faz isso. O nome vem do inglês e quer dizer "geração com busca". São três passos:

1. Os documentos são cortados em pedaços pequenos, e cada pedaço ganha uma "impressão digital" que representa o assunto dele.
2. Quando você pergunta, o sistema acha os pedaços mais parecidos com a pergunta.
3. O modelo recebe a pergunta mais esses pedaços e escreve a resposta, apontando de onde veio.

Repare: o modelo não aprendeu nada novo. Ele só leu, naquela hora, o material certo.

Por que isso é bom

Você troca um documento e a resposta muda no mesmo dia, sem treino. Dá para conferir, porque a resposta traz o trecho. E o documento fica na sua máquina.

Imagine uma imobiliária que subiu seus modelos de contrato e as regras internas. Agora o corretor pergunta "qual o prazo de aviso para rescisão?" e recebe a cláusula certa, com o nome do arquivo.

Como usar com ferramentas prontas

No Open WebUI você cria uma coleção de documentos e a anexa à conversa. Não precisa programar. Comece pequeno: três documentos, cinco perguntas.

• Escolha documentos com texto de verdade. PDF escaneado como foto precisa antes de leitura de texto.
• Faça perguntas que você já sabe responder, para conferir.
• Peça sempre: "responda só com base nos documentos e cite o trecho".

Teste a pergunta sem resposta

O teste mais importante é perguntar algo que não está em lugar nenhum. O certo é a IA dizer "não encontrei nos documentos". Se ela inventar, ajuste as instruções fixas e teste de novo. Um RAG que nunca diz "não sei" é perigoso, porque parece confiável.

Quando o RAG não resolve

RAG é bom para achar um fato em meio a muitos documentos. É ruim para somar números de planilhas ou comparar cem contratos de uma vez. Para isso existem outras ferramentas. Escolha pelo problema, não pela moda.

Também não espere que ele cubra o que o documento não diz. Se o contrato não fala de multa, a IA não deve inventar uma. O trabalho do sistema é achar, não adivinhar.

Um exemplo completo

Imagine uma loja de materiais de construção que subiu o catálogo e a política de troca. O vendedor pergunta: "cliente quer devolver cimento aberto, pode?". A IA acha o trecho da política que fala de produtos abertos, responde "não, só embalagem lacrada em até sete dias" e mostra o arquivo de onde tirou. O vendedor confere em dez segundos e responde ao cliente com segurança.

Sem RAG, a mesma pergunta teria uma resposta genérica, escrita com a mesma confiança, mas sobre a política de outra loja qualquer.