01
Por que os modelos alucinam
Uma empresa de eletrodomésticos acabou de lançar um chatbot de suporte. Um cliente pergunta sobre o novo produto, a chaleira elétrica K2, e o chatbot responde com quatro frases fluidas e confiantes. Na cena abaixo, compare cada frase com o manual do produto.
- A capacidade é de 1,7 L
- Não verificado
- Desliga sozinha quando ferve
- Não verificado
- A garantia é de 2 anos
- Não verificado
- Pode ir na lava-louças
- Não verificado
Pergunta: "Me fale sobre a chaleira elétrica K2"
A resposta do modelo parece fluida e confiante. Ative a comparação com o manual.
Quando um modelo afirma algo falso ou sem base como se fosse fato, isso se chama alucinação. Existem dois tipos. A resposta pode contradizer fatos do mundo, ou pode contradizer o material que você forneceu, ou ir além dele. Na cena, "a garantia é de 2 anos" contradiz o manual, e a parte da lava-louças foi inventada pelo modelo: o manual não diz isso em lugar nenhum.
O motivo está em como um LLM gera texto. Um LLM não consulta os fatos antes de responder. Ele escolhe as palavras mais prováveis para vir em seguida. Descrições de chaleiras elétricas costumam trazer coisas como "2 anos de garantia" ou "pode ir na lava-louças", então essas frases parecem naturais. Quanto menos o modelo sabe (um produto que ele nunca viu no treinamento, notícias de depois que o treinamento terminou, uma pergunta vaga), mais ele tende a preencher as lacunas inventando.
Se a questão disser… → escolha isto
- “Gera conteúdo convincente que não é verdade”Alucinação
- “Contradiz os documentos fornecidos ou acrescenta o que eles não dizem”Resposta sem fundamentação (alucinação)
- “Cita artigos ou fontes que não existem”Alucinação (citações inventadas)
- “A resposta soa confiante, então deve estar certa”Errado: o tom não prova nada
Não dá para eliminar as alucinações por completo. Então, até onde dá para reduzi-las?
02
Como reduzir alucinações
Não existe uma solução única. Você reduz as alucinações empilhando várias proteções, uma em cima da outra. Na cena abaixo, adicione uma de cada vez.
- Respostas erradas
- 28%
Porcentagem de respostas erradas conforme você adiciona proteções a um chatbot de suporte de chaleiras (exemplo)
Sem nenhuma proteção, o modelo responde com o que sabe e erra cerca de três em cada dez vezes (28%).
| Método | Como ajuda |
|---|---|
| Fundamentar com RAG | Em vez de inventar o que não sabe, o modelo lê o material recuperado e responde com base nele |
| Pedir que diga "não sei" | Evita que ele invente uma resposta convincente quando o material não cobre a pergunta |
| Citações e checagem de fundamentação | Peça uma fonte para cada frase e marque automaticamente as frases que não batem com as fontes |
| Pedir que pense passo a passo | Diminui os erros em cálculos e raciocínios com várias etapas |
| Revisão humana | Uma pessoa confere, antes de sair, as respostas que seriam perigosas se estivessem erradas |
Dois mal-entendidos aparecem muito. Primeiro, baixar a temperatura (temperature) deixa as respostas mais consistentes, não mais verdadeiras. Segundo, fazer ajuste fino (fine-tuning) para ensinar fatos ao modelo não é uma boa solução. O modelo nem sempre lembra esses fatos com precisão e, sempre que a informação muda, é preciso treinar de novo. Use RAG para fornecer fatos e deixe o ajuste fino para estilo e formato.
Se a questão disser… → escolha isto
- “Reduzir alucinações baseando as respostas em dados atualizados da empresa”RAG (fundamentação)
- “Não inventar quando o material não tem a resposta”Instruir a dizer "não sei"
- “Verificar automaticamente se cada frase tem base na fonte”Checagem de fundamentação (grounding)
- “Com temperatura 0, as alucinações somem”Errado
- “Respostas em uma área em que errar é perigoso”Revisão humana (human-in-the-loop)
Alucinação é o modelo errando por conta própria. Mas existe outro problema: usuários que tentam, de propósito, arrancar respostas nocivas, e um modelo que diz coisas que nunca deveria dizer.
Exclusivo Pro
Até aqui vai a parte gratuita
Os outros 5 capítulos estão disponíveis para assinantes Pro. Cada um continua com visuais em 3D e dicas de “se a questão disser…”, e no último capítulo você testa o que aprendeu.
- 03Guardrails
- 04Filtros de conteúdo
- 05Protegendo dados pessoais
- 06Red teaming e monitoramento
- 07Escolhendo a proteção
Publicidade
PasslyExam
Você já leu o conceito. Agora teste com questões de prova
O PasslyExam oferece questões práticas originais, explicações e simulados completos baseados no guia oficial de cada certificação. As explicações mostram por que a opção certa está certa e por que as opções parecidas estão erradas. Cadastre-se e pratique de graça todos os dias.