Agentes de IA

O que é RAG? Geração aumentada por recuperação para empresas, explicada

Uma gaveta de madeira de um fichário de biblioteca puxada para fora de uma parede de gavetas Respostas a partir dos seus documentos?

RAG, sigla em inglês para retrieval-augmented generation (geração aumentada por recuperação), é uma forma de fazer uma IA responder com base nos seus próprios documentos, e não na memória dela. Primeiro, o sistema procura nos seus arquivos os trechos relevantes; depois, entrega esses trechos ao modelo de linguagem junto com a pergunta, de modo que a resposta se apoia em um texto que você pode conferir. Essa é a diferença entre uma resposta confiante e uma resposta correta.

Este guia é para o dono da empresa ou o líder de operações que ouviu o termo de um fornecedor e quer saber o que está sendo vendido. Ele trata de como o RAG funciona, das tarefas de negócio a que ele serve, de como ele se compara ao fine-tuning e a uma janela de contexto longa, de como as permissões precisam funcionar, do que dá errado e de como testá-lo, e de quanto custa. Desenvolvemos agentes de IA para clientes e começamos perguntando se você realmente precisa de um, então o que é um agente de IA é uma leitura complementar útil.

Principais pontos

  • O RAG procura primeiro nos seus documentos e faz o modelo escrever a resposta a partir do que encontrou, de preferência com um link para cada fonte.
  • Ele serve para perguntas que dependem de informações que mudam, como políticas, documentos de produto e contratos. Ele não deixa um modelo mais inteligente, deixa-o mais bem informado.
  • O assistente só pode recuperar o que a pessoa que pergunta tem permissão para ver, e essa verificação fica na etapa de busca, com negação por padrão.
  • A maioria das falhas são falhas de recuperação: documentos desatualizados, divisões ruins ou o trecho errado. Um conjunto de perguntas com respostas conhecidas as detecta.
  • Com a gente, um primeiro agente para uma tarefa com escopo definido começa em R$ 35.000. Os custos de operação dependem dos seus dados e do uso.

O que é geração aumentada por recuperação?

A geração aumentada por recuperação combina uma etapa de busca com um modelo de linguagem, para que o modelo responda a partir de textos recuperados, e não do que absorveu no treinamento. A ideia recebeu esse nome em um artigo científico de 2020, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, de Patrick Lewis e colegas. Os autores observaram que os modelos de linguagem armazenam fatos em seus parâmetros, mas têm dificuldade para acessar e usar esse conhecimento com precisão. A resposta deles foi combinar um modelo pré-treinado com um índice pesquisável de documentos.

Em linguagem simples, é uma prova com consulta. Um modelo sem recuperação responde de memória, que pode estar desatualizada ou ser simplesmente inventada. Com recuperação, ele consulta primeiro o seu manual e responde a partir da página que encontrou. Se não encontra uma página relevante, um sistema bem construído diz isso em vez de chutar.

Para que uma empresa pode usar isso?

O RAG serve para qualquer pergunta cuja resposta está em documentos que você tem e que hoje as pessoas procuram à mão. Três exemplos são típicos, e cada um ilustra o padrão, não é um projeto que entregamos.

  • Um assistente de políticas internas. A equipe pergunta “com quantos dias de antecedência devo pedir férias?” e recebe a resposta do manual de RH atual, com um link para a página.
  • Um assistente de suporte. Um cliente pergunta como reiniciar um aparelho e a resposta vem da documentação do produto, com o mesmo link para que um atendente possa conferir. Nosso guia de IA para atendimento ao cliente mostra onde isso funciona e onde uma pessoa deve assumir.
  • Consulta a contratos. Um líder financeiro pergunta quais fornecedores têm prazo de pagamento de 60 dias, e o assistente devolve as cláusulas, cada uma apontando para o seu contrato.

O ponto em comum é que a resposta já existe por escrito. Se a resposta não está em lugar nenhum dos seus arquivos, a recuperação não ajuda, e você está pedindo ao modelo que chute.

Como o RAG funciona, passo a passo?

Um sistema de RAG tem cinco partes, e em cada uma a qualidade pode ser ganha ou perdida.

  1. Onde os documentos ficam. Normalmente Microsoft 365, SharePoint ou Google Workspace, além de alguns sistemas de registro. O assistente lê a partir deles, então o que você tem e o quanto está organizado define o teto.
  2. Divisão em trechos. Documentos longos são cortados em pedaços de alguns parágrafos cada, para que a busca possa devolver a parte que importa em vez de um PDF de 90 páginas.
  3. Embeddings. Cada trecho é transformado em uma lista de números que captura seu significado, de modo que “direito a férias” e “férias anuais” ficam próximos, mesmo com palavras diferentes.
  4. Busca. A pergunta é transformada em números da mesma forma e comparada com os trechos. Uma escolha comum é o PostgreSQL com a extensão pgvector, descrita como busca de similaridade vetorial de código aberto para Postgres. Ela armazena vetores junto com seus outros dados e foi pensada para ser usada com a busca de texto completo do Postgres em uma busca híbrida, que combina significado com palavras-chave exatas.
  5. Resposta com citações. Os melhores trechos vão para o modelo junto com a pergunta, e o modelo escreve a resposta e aponta suas fontes.

A qualidade da busca importa mais do que a maioria dos compradores imagina. A equipe de engenharia da Anthropic descreve um método chamado contextual retrieval (recuperação contextual), que acrescenta um contexto explicativo no início de cada trecho antes de gerar o embedding. Nos testes da empresa, combinar isso com busca por palavras-chave reduziu em 49% a taxa de falha de recuperação entre os 20 primeiros resultados, e acrescentar reclassificação (reranking) reduziu em 67%. São resultados de testes de um fornecedor com os próprios dados, então trate-os como evidência de que vale a pena investir na engenharia da etapa de busca, e não como um número que você vai reproduzir.

RAG vs fine-tuning vs janela de contexto longa

Escolha conforme o que você quer mudar. O RAG fornece fatos na hora da resposta, o fine-tuning muda o comportamento do modelo e uma janela de contexto longa simplesmente cabe mais texto em uma única requisição.

AbordagemO que mudaServe quando
RAGOs fatos que o modelo vêOs documentos mudam com frequência
Fine-tuningComo o modelo se comportaVocê precisa de um estilo ou formato
Contexto longoNada, o texto entra inteiroO conjunto de documentos é pequeno

Sobre fine-tuning, modelos abertos de lugares como o Hugging Face, que hospeda mais de 2 milhões de modelos, podem ser adaptados a uma tarefa com seus próprios exemplos. Isso ajuda quando você precisa de classificações consistentes ou de um estilo da casa. Para políticas e preços que mudam todo mês, recorreríamos primeiro à recuperação, porque atualizar um documento é mais fácil do que treinar um modelo de novo.

Sobre contexto longo, a equipe de engenharia da Anthropic diz que, se a sua base de conhecimento tem menos de 200.000 tokens, cerca de 500 páginas de material, você pode incluí-la inteira no prompt. Para um conjunto pequeno e estável, isso é mais simples do que construir a recuperação. Acima desse tamanho, ou quando cada pergunta deveria custar menos, ou quando pessoas diferentes podem ver arquivos diferentes, a recuperação é o melhor caminho. Construímos agentes na API do Claude quando um contexto maior e um julgamento mais estável compensam, e o modelo é uma decisão tomada a cada tarefa, como explica nossa comparação entre ChatGPT e Claude.

Como funcionam as permissões em um assistente com RAG?

O assistente só pode recuperar o que a pessoa que pergunta tem permissão para ver, e a verificação precisa acontecer na etapa de busca, antes que qualquer texto chegue ao modelo. Nossa regra é negar por padrão e liberar a exposição só quando for necessário.

A Microsoft descreve o mesmo princípio para o próprio assistente. A página de privacidade do Copilot diz que o Copilot só exibe dados da organização para os quais cada usuário tem pelo menos permissão de visualização, e que a fundamentação (grounding) só acessa conteúdo que o usuário atual está autorizado a acessar. Um assistente sob medida precisa da mesma disciplina.

Três erros são comuns. Indexar tudo em um único repositório compartilhado e confiar que o modelo “não vai mencionar” arquivos restritos não funciona, porque o modelo já os leu. Copiar as permissões uma única vez na configuração não funciona, porque as pessoas mudam de função. Dar ao assistente uma conta de superusuário para que ele leia tudo faz toda pergunta rodar com esse poder. A solução é levar a identidade de cada pessoa até a busca e verificar o acesso de novo no momento da consulta. Se o seu assistente também executa ações por meio de um servidor MCP, a mesma delimitação vale ali.

O que dá errado com o RAG?

Quase todas as falhas são falhas de recuperação, e o modelo leva a culpa. As quatro habituais são fáceis de nomear e de testar.

  • Documentos desatualizados. A política do ano passado aparece antes da deste ano, e a resposta sai confiante e desatualizada. Versione seus documentos e aposente os antigos.
  • Divisões ruins. Uma tabela é cortada ao meio, ou uma cláusula é separada da definição de que depende. O modelo recebe meio fato.
  • O trecho errado. A busca devolve algo parecido nas palavras, mas não no significado, e o modelo responde obedientemente a partir dele.
  • Sem fonte, mas confiante. O modelo preenche uma lacuna de memória. Um bom desenho obriga toda resposta a citar um trecho e faz o sistema dizer “não encontrei isso” quando não encontra.

Nada disso se resolve com um modelo maior. Resolve-se com documentos melhores, divisão melhor, busca híbrida e um caminho de recusa.

Como testar um sistema de RAG?

Monte um conjunto de perguntas com respostas conhecidas antes de construir qualquer coisa e rode-o sempre que algo mudar. É a mesma disciplina que sugerimos para comparar modelos no nosso guia ChatGPT vs Claude.

Um conjunto que funciona tem perguntas que as pessoas realmente fazem, cada uma com a resposta esperada e o documento de onde ela deve vir. Inclua algumas perguntas sem resposta nos arquivos, para verificar se o assistente diz isso. Inclua algumas que exigem dois documentos. Inclua algumas que um determinado usuário não pode conseguir responder, para testar as permissões. Depois verifique três coisas separadamente: a busca encontrou o trecho certo, o modelo o usou corretamente e a citação apontou para ele. Avaliar esses pontos em separado mostra qual parte corrigir.

Mantenha o conjunto como teste de regressão. Quando alguém substituir um manual ou mudar a divisão, rode-o de novo. Nossos agentes rodam dentro de serviços em Python e Django, com logs que você pode auditar. Qualquer ação acima de um nível de risco, como enviar uma mensagem ou alterar um registro, espera a aprovação de uma pessoa.

Quanto custa um assistente com RAG?

Com a gente, um agente de IA que executa uma tarefa com escopo definido dentro das ferramentas que você já usa começa em R$ 35.000, e uma implantação de vários agentes começa em R$ 83.000, ou um sprint contínuo a partir de R$ 28.000 por mês. Esses são os preços iniciais publicados na nossa página de agentes de IA e automação. O que mexe no valor é quantas fontes o assistente lê e o quanto estão organizadas, o quanto as permissões precisam ser rígidas e quanta aprovação uma tarefa exige.

Os custos de operação são separados e dependem dos seus dados e do uso: as chamadas ao modelo a cada pergunta, a hospedagem do índice de busca e o tempo para manter os documentos atualizados. Preferimos estimá-los depois de ver seus arquivos. Para uma visão mais ampla de preços, veja nosso guia sobre quanto custa um chatbot no Reino Unido.

Ainda não temos um assistente com RAG de cliente que possamos mostrar como estudo de caso, então não vamos apresentar um. O que desenvolvemos são agentes em serviços Python e Django, a stack sobre a qual nosso trabalho de automação já roda, e organizar os dados por baixo é um trabalho de engenharia de dados antes de ser um trabalho de IA.

Um próximo passo sensato

Anote dez perguntas que sua equipe faz e cujas respostas estão em algum lugar dos seus documentos, e registre onde cada resposta está. Se a maioria estiver em duas ou três fontes organizadas, um primeiro agente com escopo definido é uma aposta razoável, e nosso serviço de agentes de IA e automação começa por aí. Se as respostas estiverem espalhadas e desatualizadas, organize os documentos primeiro, ou peça à nossa equipe de consultoria em fluxos de trabalho com IA que mapeie onde a recuperação traria retorno antes de investir em um desenvolvimento.

Perguntas frequentes

O que é RAG, em termos simples?

RAG é a sigla em inglês para retrieval-augmented generation, ou geração aumentada por recuperação. Antes de a IA responder, o sistema procura nos seus documentos os trechos com maior chance de conter a resposta e os entrega ao modelo junto com a pergunta. O modelo então escreve a resposta a partir desses trechos, de preferência com um link para cada fonte, em vez de depender do que lembra do treinamento.

Qual a diferença entre RAG e fine-tuning?

O RAG dá ao modelo os documentos certos no momento em que ele responde. O fine-tuning ajusta o próprio modelo com exemplos, o que muda a forma como ele escreve ou classifica. Para fatos que mudam, como políticas, preços e contratos, a recuperação costuma ser a opção mais simples, porque você atualiza um documento e a próxima resposta já reflete a mudança. Muitos projetos não precisam de nenhum dos dois e começam com um bom prompt.

RAG é melhor do que uma janela de contexto longa?

Para um conjunto pequeno e estável de documentos, colocar tudo no prompt pode ser mais simples. A equipe de engenharia da Anthropic diz que, se uma base de conhecimento tem menos de 200.000 tokens, cerca de 500 páginas, você pode incluí-la inteira no prompt. Acima disso, ou quando custo, velocidade e permissões importam, recuperar apenas os trechos relevantes é o caminho habitual.

Como impedir que um assistente com RAG mostre às pessoas documentos que elas não deveriam ver?

A etapa de busca precisa aplicar as permissões de quem pergunta antes que qualquer coisa chegue ao modelo, e negar por padrão. A própria documentação do Copilot da Microsoft descreve a mesma regra: ele só exibe dados da organização para os quais o usuário tem pelo menos permissão de visualização. Filtrar a resposta depois é tarde demais, porque o modelo já leu o documento.

Quanto custa desenvolver um assistente com RAG no Reino Unido?

Com a gente, um agente de IA que executa uma tarefa com escopo definido dentro dos seus sistemas começa em R$ 35.000, e uma implantação de vários agentes em R$ 83.000, ou um sprint contínuo a partir de R$ 28.000 por mês. Os custos de operação dependem de quantos documentos você tem, da frequência com que eles mudam e de quantas perguntas a equipe faz, então definimos esses valores depois de ver seus dados.

Um assistente poderia responder a partir dos seus arquivos?

Agende uma consultoria gratuita de 30 minutos e vamos dizer se vale a pena, no seu caso, desenvolver a recuperação sobre os seus documentos.

Agende uma consultoria Peça um orçamento grátis

Continue explorando

Voltar para todos os artigos

Agende uma conversa gratuita com Matt

Product Owner e cofundador · São Paulo

Peça para ligarmos para você

Deixe seu nome e telefone e nós ligamos para você.