Engenharia de IA
RAG vs fine-tuning: qual dos dois o seu caso de uso precisa?
Ensinar fatos ou hábitos? O RAG muda o que um modelo sabe no momento em que responde. O fine-tuning muda como o modelo se comporta. Se o seu problema é um conhecimento da empresa que muda, como políticas, preços, contratos ou documentos de produto, use RAG, ou simplesmente coloque os documentos no prompt. Faça fine-tuning só quando precisar de um formato ou estilo consistente que o prompt não consegue entregar, e no fim de 2026 menos modelos hospedados oferecem essa opção.
Este guia é para donos de empresa, líderes de operações e CTOs que ouviram que precisam de um ou de outro e querem conferir. Ele começa pela opção mais barata, depois mostra quando cada abordagem é a escolha certa, onde o fine-tuning está sendo retirado e cinco perguntas que resolvem a maioria dos casos. Para a mecânica da recuperação em si, veja nosso guia sobre o que é RAG e como funciona. Este post trata da escolha.
RAG vs fine-tuning em resumo
As duas abordagens resolvem problemas diferentes, então raramente uma substitui de fato a outra. O RAG é como entregar a alguém as páginas certas antes de ele responder. O fine-tuning é como treinar essa pessoa até que um jeito de trabalhar vire hábito.
| Aspecto | RAG | Fine-tuning |
|---|---|---|
| O que muda | Os fatos que o modelo vê a cada pergunta | O comportamento do modelo: formato, tom, classificações |
| Dados necessários | Seus documentos, organizados e atualizados | Muitos exemplos de entrada com as saídas que você quer |
| Como funcionam as atualizações | Mude um documento, a próxima resposta já reflete | Prepare novos exemplos e treine de novo |
| O que dá errado | Um trecho errado ou desatualizado é recuperado | Os benefícios não são garantidos, e o modelo pode ser descontinuado |
O custo também tem outro formato. O RAG aumenta o custo de cada pergunta, porque cada resposta carrega texto recuperado. O fine-tuning concentra o esforço no início, na preparação dos exemplos e no teste do resultado. Tratamos dos custos de operação mais abaixo.
Comece pela opção mais barata: coloque no prompt
Antes de criar uma recuperação ou treinar qualquer coisa, verifique se os seus documentos cabem em um único prompt. Os modelos atuais leem muito. A Anthropic lista o Claude Sonnet 5.5 com uma janela de contexto de 1 milhão de tokens, cerca de 555.000 palavras. O gpt-6-astra da OpenAI aceita cerca de 1,05 milhão de tokens, e o Google lista o Gemini 4 Argon com 1 milhão.
Em 2024, a Anthropic sugeriu que, se a sua base de conhecimento tiver menos de 200.000 tokens, você pode incluí-la inteira no prompt em vez de criar uma recuperação. Esse conselho veio no anúncio do Contextual Retrieval e era um limite para os modelos da empresa naquele momento. Com as janelas de 1 milhão de tokens de hoje, o conjunto de casos em que um prompt simples basta cresceu.
Há uma ressalva de custo. Um prompt longo é pago a cada chamada. No gpt-6-astra, a OpenAI cobra 2x pela entrada e 1,5x pela saída quando uma requisição passa de 272 mil tokens de entrada. Um manual colado em cada pergunta pode virar a parte mais cara da sua conta.
Um teste simples ajuda. Se os documentos cabem, raramente mudam e são usados por poucas pessoas em poucas perguntas, comece pelo prompt. Você pode criar a recuperação depois, se o volume ou o tamanho crescer, e terá respostas funcionando para usar como base de comparação.
Quando o RAG é a resposta certa
O RAG é a resposta certa quando o conhecimento muda, é grande, varia conforme o usuário ou precisa ser citado. Quatro situações levam até ele.
- O conhecimento muda. Uma política de devolução atualizada na semana passada deve responder às perguntas desta semana. Com RAG, você troca o documento e pronto.
- Há mais documentos do que cabem em um prompt. Ou eles cabem, mas enviar todos a cada vez custa caro demais.
- As pessoas têm permissões diferentes. A etapa de busca pode filtrar por quem está perguntando, antes de qualquer texto chegar ao modelo. Um prompt recheado com tudo não consegue fazer isso.
- Você precisa mostrar as fontes. A recuperação sabe qual trecho usou, então a resposta pode apontar para ele e uma pessoa pode conferir.
A ideia ganhou nome em um artigo de 2020, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, de Patrick Lewis e colegas. O princípio não mudou: combinar um modelo com um índice pesquisável de documentos.
A qualidade da recuperação é onde está o trabalho
Muitas falhas de RAG começam na etapa de busca, então a qualidade da recuperação muitas vezes importa mais do que a escolha do modelo. A Anthropic relatou que o seu método Contextual Retrieval, que acrescenta um contexto explicativo a cada trecho antes da indexação, combinado com busca por palavras-chave, reduziu as recuperações com falha em 49%, e em 67% quando se acrescentou o reranking (19 de setembro de 2024). Esses são resultados de testes de um único fornecedor nos próprios dados, então leia-os como um sinal de que a busca merece tempo de engenharia, e não espere reproduzir os números exatos.
A etapa de embeddings é barata. No momento em que escrevemos (novembro de 2026), a página de preços da OpenAI lista o text-embedding-3-small a US$ 0,02 por 1 milhão de tokens e o text-embedding-3-large a US$ 0,13. Os preços mudam, então confira a página antes de fazer o orçamento. O custo real do RAG é a engenharia em torno de busca, permissões e testes, mais manter os documentos atualizados. Essa última parte costuma ser um trabalho de engenharia de dados.
Quando o fine-tuning é a resposta certa
O fine-tuning é a resposta certa quando o problema é comportamento, e não conhecimento. O guia de otimização de modelos da OpenAI lista os usos que ela tem em mente:
- obter um formato de saída consistente
- lidar com entradas novas com as quais o modelo base tem dificuldade
- usar mais exemplos do que cabem em um prompt
- encurtar prompts
- rodar um modelo menor e mais barato
Um exemplo realista é uma equipe de back-office que precisa que cada fatura extraída volte em uma estrutura exata, ou um classificador que precisa aplicar as suas classificações internas da mesma forma milhares de vezes. Isso são hábitos, e exemplos ensinam hábitos bem.
Valem dois cuidados. Primeiro, o fine-tuning não mantém os fatos atualizados. A visão geral de fine-tuning da Microsoft para o Foundry diz que ele “não substitui a recuperação quando se trata de informações atuais”. Se a sua tabela de preços muda todo mês, treiná-la em um modelo cria uma cópia desatualizada que você não consegue editar com facilidade. Segundo, a mesma página alerta que os benefícios não são garantidos. Você precisa primeiro de um conjunto de casos de teste e de uma linha de base obtida com prompts, para saber se o treinamento ajudou.
Vale conhecer um benefício relacionado. O Google observa que ajustar um modelo Gemini pode reduzir o tamanho do contexto ao eliminar os exemplos few-shot do prompt. Se você cola os mesmos vinte exemplos em cada requisição, treiná-los no modelo pode encurtar todas as chamadas.
A oferta de fine-tuning encolheu
A OpenAI está retirando o fine-tuning, e outros provedores hospedados o oferecem para um conjunto limitado de modelos, o que muda o risco dessa escolha.
A OpenAI está encerrando o fine-tuning. O seu guia de supervised fine-tuning diz que novos usuários não têm acesso, e que usuários atuais elegíveis podem criar jobs até 6 de janeiro de 2027, a menos que o modelo base seja desativado antes. Os modelos gpt-4.1-nano com fine-tuning foram desativados em 23 de outubro de 2026, e os modelos gpt-4.1 e gpt-4.1-mini com fine-tuning serão desativados em 14 de janeiro de 2027.
Nos outros provedores, o quadro é misto:
- Amazon Bedrock. Na sua documentação de fine-tuning, o único modelo da Anthropic listado como passível de fine-tuning é o antigo Claude 3 Haiku.
- Google Vertex AI. Continua oferecendo supervised fine-tuning para modelos Gemini, incluindo o Gemini 3.5 Flash.
- Microsoft Foundry. A sua documentação lista fine-tuning supervisionado, por preferência (DPO) e por reforço.
Um modelo com fine-tuning fica preso ao modelo base em que foi treinado, e os modelos base são descontinuados. Se você constrói sobre RAG e bons prompts, pode migrar para um modelo mais novo e rodar os testes de novo. Se você constrói sobre um fine-tuning, a descontinuação pode significar refazer o trabalho. Quando fizer fine-tuning, planeje-se para refazê-lo e guarde os exemplos de treinamento e o conjunto de testes, para que repetir seja apenas rodar de novo, e não começar do zero.
Dá para combinar os dois?
Sim, e às vezes você deve. A página de visão geral da Microsoft lista usar bem o contexto recuperado como um objetivo do fine-tuning, o que significa que você pode treinar um modelo para lidar melhor com os trechos recuperados, por exemplo seguindo um formato de citação ou respondendo em uma estrutura definida. A recuperação fornece os fatos, e o fine-tuning molda a resposta.
A maioria das empresas não deve começar por aí. Faça o RAG funcionar e meça os resultados primeiro. Se as respostas estão corretas mas o formato ou o tom continua se desviando, e os prompts não resolveram, essa é a evidência que justifica um fine-tuning. Sem ela, você está acrescentando uma segunda peça móvel a um sistema que ainda não consegue testar.
Como decidir: cinco perguntas
Cinco perguntas resolvem a maioria dos casos. Responda em ordem e pare quando uma delas der uma direção clara.
- O conhecimento muda? Se sim, use RAG ou o prompt. Não treine fatos que vão ficar desatualizados.
- Ele cabe em um prompt? Se couber e não custar caro demais por chamada, comece pelo prompt. É a coisa mais simples que funciona.
- Os usuários precisam de permissões diferentes? Se sim, recuperação com verificação de permissões na etapa de busca. Um prompt compartilhado não consegue separar quem vê o quê.
- Você precisa de citações? Se sim, RAG. Um modelo com fine-tuning não consegue apontar de onde veio uma resposta.
- O problema é formato ou estilo, e não fatos? Se sim, e um prompt bem escrito com exemplos falhou nos seus casos de teste, considere o fine-tuning, e verifique se o seu provedor ainda oferece.
Se você respondeu sim a qualquer uma das quatro primeiras, a recuperação ou o prompt é o seu caminho. Só um sim claro à quinta, depois de testar e medir os prompts, aponta para o fine-tuning.
Quanto custa
Na CodeLeap, um primeiro agente ou assistente de IA começa em R$ 35.000, com preço fechado e acordado antes. O suporte começa em R$ 2.800 por mês. O que muda o valor é quantas fontes o assistente lê e o quanto estão organizadas, o quão rígidas as permissões precisam ser e quanta aprovação humana o trabalho exige.
Os custos de operação são separados: chamadas ao modelo para cada pergunta, hospedagem do índice de busca e o tempo para manter os documentos atualizados. Nosso guia sobre quanto custa um agente de IA detalha esses custos. Ainda não conhece agentes? Comece por o que é um agente de IA.
Um próximo passo sensato
Anote as dez perguntas que você mais quer que uma IA responda. Para cada uma, indique onde está a resposta, com que frequência ela muda e quem pode vê-la. Se as respostas estão em documentos que mudam, você quer recuperação ou um prompt longo. Se as respostas tratam na verdade de um formato fixo ou de classificação, teste primeiro um bom prompt e faça fine-tuning só se ele não for suficiente.
Se quiser uma segunda opinião, nosso serviço de agentes de IA e automação começa exatamente por essa pergunta, e um diagnóstico de prontidão para IA pode mapear a situação dos seus dados antes de você investir em um desenvolvimento. Agende uma conversa gratuita de 30 minutos e diremos qual caminho se encaixa.
Perguntas frequentes
Qual é a diferença entre RAG e fine-tuning?
O RAG pesquisa os seus documentos quando chega uma pergunta e entrega os melhores trechos ao modelo, então muda o que o modelo sabe na hora de responder. O fine-tuning treina o modelo com exemplos, então muda como o modelo se comporta, como o formato, o tom ou a classificação. O RAG serve para fatos que mudam. O fine-tuning serve para hábitos consistentes.
RAG é melhor do que fine-tuning?
Para o conhecimento da empresa, normalmente sim. Políticas, preços e contratos mudam, e com RAG você atualiza um documento e a próxima resposta já reflete a mudança. O fine-tuning não faz isso, e a documentação da Microsoft diz que ele não substitui a recuperação quando se trata de informações atuais. O fine-tuning é melhor quando o problema é um estilo ou formato de saída fixo que o prompt não consegue garantir.
É possível fazer fine-tuning de modelos do Claude ou do ChatGPT?
Depende do provedor e da data. A OpenAI está encerrando o fine-tuning: novos usuários não têm acesso, e usuários atuais elegíveis só podem criar jobs até 6 de janeiro de 2027. No Amazon Bedrock, o único modelo da Anthropic listado como passível de fine-tuning é o antigo Claude 3 Haiku. Confira a documentação atual antes de fazer planos com base nisso.
Dá para usar RAG e fine-tuning juntos?
Sim. A Microsoft lista ensinar um modelo a usar bem o contexto recuperado como um dos objetivos do fine-tuning, então os dois podem funcionar em conjunto. A maioria das empresas deve primeiro fazer a recuperação funcionar e medir os resultados, porque ela resolve o problema mais comum, fatos ausentes ou desatualizados, e não prende você a uma versão de modelo.
Preciso de RAG se o modelo tem uma janela de contexto de 1 milhão de tokens?
Nem sempre. Se toda a sua base de conhecimento cabe no prompt e raramente muda, colá-la ali é a opção mais simples. O RAG se justifica quando você tem muito mais documentos do que cabem, quando prompts longos tornam cada chamada cara demais, quando usuários diferentes podem ver arquivos diferentes ou quando as respostas precisam citar uma fonte específica.
Não sabe qual dos dois se encaixa?
Agende uma consultoria gratuita de 30 minutos e diremos se você precisa de recuperação, de fine-tuning ou só de um prompt melhor.