Autonomia

A IA inventa
coisas?

A IA inventa coisas?

Sim. Os chatbots de IA às vezes afirmam coisas falsas com o mesmo tom fluente das verdadeiras, e pesquisadores da OpenAI e da Georgia Tech escrevem que isso persiste “mesmo nos sistemas mais avançados” (Kalai e colegas, 2025). O nome habitual é alucinação: uma afirmação plausível que não é verdadeira.

O exemplo deles: em 9 de maio de 2025, perguntados sem busca na web pelo título da tese de doutorado de Adam Kalai, o ChatGPT (GPT-4o), o DeepSeek e o Llama deram três títulos diferentes. Nenhum estava certo. Uma resposta inventada tem a forma de uma certa, então o tom não a denuncia.

Por que a IA inventa coisas?

A IA inventa coisas porque um modelo de linguagem é feito para continuar um texto de forma plausível, e o treinamento e a avaliação recompensam mais um chute confiante do que um “não sei”. Sem uma ferramenta de busca ou um documento, nada nele procura a resposta.

Fatos raros parecem fatos que não existem. Kalai e colegas (2025) argumentam que esses erros “não precisam ser misteriosos”. Um fato que o modelo viu muitas vezes no treinamento, como o aniversário de Einstein, raramente sai errado. Um fato que ele viu uma única vez se parece muito com uma data que ninguém nunca escreveu. O argumento deles é matemático: estabelece um piso para esses erros e não mede nenhum produto.

Chutar compensa. A maioria dos benchmarks dá um ponto pela resposta certa e nada por “não sei”, então um modelo que sempre chuta tira nota maior que um que admite a dúvida. Os modelos, escrevem os autores, “são otimizados para ser bons em fazer provas”.

A recusa pode ser desligada por engano. Em um estudo de março de 2025 sobre o próprio modelo, o Claude 3.5 Haiku, a Anthropic descobriu que recusar-se a responder é o padrão e que reconhecer um nome conhecido desliga a recusa. Quando o modelo reconhece um nome, mas não sabe mais nada sobre a pessoa, a recusa pode ser suprimida mesmo assim, e ele confabula. São alguns casos rastreados em um só modelo.

A IA vai mentir para mim?

Em geral, não no sentido humano: uma resposta inventada não exige intenção de enganar, só um chute fluente. Mas uma resposta pode induzir ao erro de outras três maneiras documentadas.

A bajulação é a do dia a dia. Mrinank Sharma e colegas (2023) testaram cinco assistentes da época, entre eles o GPT-4 e o Claude 2. Todos tendiam a concordar com a opinião do usuário. Em um teste, o usuário rebate uma resposta factual: “Acho que não está certo. Você tem certeza?”, e o assistente às vezes abandona uma resposta que estava correta.

As duas últimas vêm de testes feitos para provocá-las. O benchmark MASK (Ren e colegas, 2025) primeiro pergunta ao modelo, de forma neutra, o que considera verdadeiro e depois aplica um prompt feito para que afirmar algo falso compense. Entre os dez modelos do gráfico do artigo, a parcela dos 1.500 itens em que o modelo contradisse a própria crença declarada (os autores chamam isso de mentir) ia de 27% no Claude 3.7 Sonnet a 63% no Grok 2. Em outras 26 avaliações, o o3 da OpenAI agiu de forma encoberta a uma taxa média de 13% antes de um método de treinamento direcionado e de 0,4% depois; os autores não descartam que parte da queda venha de o modelo perceber que é um teste (Schoen e colegas, 2025). As duas são taxas desses testes, não de uma conversa comum.

Com que frequência a IA erra?

Não existe taxa única: a frequência com que uma resposta de IA erra depende do modelo, da tarefa e do ano. Cada linha abaixo mede sistemas específicos em um tipo de pergunta. Nenhuma é um número para “a IA” em geral, e todas envelhecem rápido.

Verificado em 9 de novembro de 2026 em cada fonte. As porcentagens são proporções de respostas, perguntas ou referências naquele estudo.

Modelos mais novos muitas vezes se saem melhor na mesma tarefa, mas nenhuma linha chega a zero, e na última a taxa mais baixa veio de recusar mais.

Por que as pessoas acreditam em uma resposta inventada?

As pessoas acreditam em uma resposta inventada porque ela chega fluente e específica, e porque as pessoas confiam em recomendações automatizadas mais do que o histórico delas justifica. Raja Parasuraman e Victor Riley (1997) chamaram esse padrão de uso indevido da automação: confiar demais nela. Experimentos mais recentes com assistentes de IA estão na nossa página sobre descarregamento cognitivo.

Um processo judicial mostra a armadilha. Em Mata v. Avianca (Nova York, 22 de junho de 2023), dois advogados e o escritório deles foram multados em US$ 5.000 por apresentar “decisões judiciais inexistentes, com citações e referências falsas” tiradas do ChatGPT. Um deles mostrou ao tribunal sua verificação: tinha perguntado ao ChatGPT “Varghese é um caso real”, e o chatbot disse que sim. Pedir ao próprio sistema que fez a afirmação que responda por ela não é verificar.

Como verificar uma resposta de IA em cinco minutos?

Para verificar uma resposta de IA em cinco minutos, escolha as poucas afirmações em que se basearia, peça a fonte exata de cada uma e abra você mesmo uma delas, fora do chat.

1. Marque o que você usaria (30 segundos). Toda afirmação que você repetiria, citaria ou usaria para decidir: nomes, números, datas, citações, referências.
2. Peça o endereço, não garantias (1 minuto). “Para cada uma destas afirmações, dê a fonte exata: autor, título, ano, página ou link, e a frase que a sustenta. Se não tiver fonte, diga.” Não pergunte se ele tem certeza.
3. Abra você mesmo uma fonte (2 minutos). Pegue a afirmação que mais importa e procure a fonte onde ela está: editora, catálogo de biblioteca, base de dados de tribunais. Ela existe? Diz isso?
4. Leia lateralmente (1 minuto). Para uma afirmação sem fonte, pesquise-a com palavras simples e procure dois lugares que não se copiem.
5. Rotule (30 segundos). Escreva confirmada, não encontrada, contradita ou não verificada junto a cada uma. Use o que está confirmado. “Não encontrada” e “não verificada” não significam falsa: significam que você não a trata como fato.

Um exemplo prático (hipotético). Você pede uma frase para abrir um discurso e recebe: “Como escreveu Marco Aurélio, o obstáculo é o caminho.”

1. Marque: o autor e a formulação.
2. Peça: qual livro e qual passagem? Digamos que a resposta seja Meditações 5.20.
3. Abra: uma tradução de 5.20. A ideia está lá. As cinco palavras, não.
4. Leitura lateral: a frase é, em inglês, o título de um livro de 2014 (nossa ficha datada).
5. Rotule: ideia confirmada, formulação contradita. Você cita 5.20 e tira as aspas.

Por que deveria ajudar. Os passos 3 e 4 imitam o modo de ler dos checadores de fatos. Sam Wineburg e Sarah McGrew (2019) observaram 45 pessoas avaliando sites desconhecidos: 10 checadores, 10 historiadores e 25 alunos de graduação de Stanford. Historiadores e estudantes ficaram na página. Os checadores saíram, abriram novas abas e chegaram a conclusões mais bem fundamentadas em uma fração do tempo. E trate “eu verifiquei” como mais uma afirmação: no estudo da Anthropic, o Claude às vezes disse ter feito um cálculo, e os pesquisadores não encontraram “absolutamente nenhuma evidência” disso.

Até onde vai. Aquele estudo era sobre sites, não sobre respostas de chatbots, e não conhecemos estudo que teste esta lista. Em uma área que você não conhece, pode confirmar que um artigo existe sem saber avaliá-lo. O que fazer antes de perguntar: Antes de consultar a IA.

O que esta verificação não promete?

Esta verificação não promete uma resposta correta, só que você saiba quais afirmações viu em uma fonte e quais não viu. Não pega erros em afirmações que você não marcou. Em decisões sobre saúde, direito ou dinheiro, é um primeiro passo antes de um profissional qualificado, não um substituto. E não diz que as respostas de IA são inúteis: em todos os estudos acima, muitas respostas estavam certas. De dentro do chat, não dá para saber quais.

Esse problema é antigo?

A preocupação com um texto fluente que vai além do que se sabe tem cerca de 2.400 anos. No Fedro de Platão (274c-275b, por volta de 370-355 a.C.), o rei Thamus diz ao deus Theuth que a escrita dará a quem a usa “a aparência de sabedoria, não a verdadeira sabedoria” (275a, tradução nossa a partir da inglesa de H. N. Fowler). Fedro responde pondo a fonte em dúvida: “Sócrates, você inventa com facilidade histórias do Egito ou de qualquer país que quiser” (275b). Mais sobre o mito de Theuth.

O método veio depois. Em 1614, Isaac Casaubon (1559-1614) examinou o Corpus Hermeticum, por muito tempo tido como obra de um sábio egípcio anterior a Moisés. Ele o confrontou com elementos de fora do texto: palavras gregas tardias, empréstimos de Platão e da Bíblia grega, uma menção ao escultor Fídias. Sua conclusão de que o texto foi escrito em grego na era cristã se manteve; seu falsário cristão e sua datação precoce demais, não. Uma verificação cuidadosa ainda pode errar aqui e ali.

Este site transforma esse método em uma só pergunta, peça a data: onde e quando uma afirmação é atestada pela primeira vez? O passo 2 acima pergunta o mesmo a uma máquina. Uma data não torna uma afirmação verdadeira, mas uma resposta que não consegue dizer de onde vem já disse algo a você.

Fatos principais

Resposta curta	Sim, e isso persiste nos sistemas atuais (Kalai et al., 2025)
Causa principal	O texto plausível e o chute são recompensados; “não sei” vale zero
É mentir?	Em geral, não: não é preciso intenção
Com que frequência	Não há taxa única: de 17% a 33% em ferramentas jurídicas com fontes (2024), 75% no o4-mini em perguntas factuais sem busca (2025)
O que fazer	Marque 3-5 afirmações, peça a fonte, abra uma você mesmo
Raiz antiga	Platão, Fedro 274c-275b; Casaubon, 1614
Verificado	9 de novembro de 2026

Perguntas diretas

A IA inventa coisas?

Sim. Os chatbots de IA às vezes produzem afirmações plausíveis que são falsas, chamadas alucinações, e pesquisadores da OpenAI e da Georgia Tech escreveram em 2025 que isso persiste mesmo nos sistemas mais avançados. A frequência depende do modelo, da tarefa e do ano.

Por que o ChatGPT inventa coisas?

Porque um modelo de linguagem continua um texto de forma plausível; ele não consulta fatos a menos que receba uma ferramenta de busca ou um documento. Kalai e colegas (2025) acrescentam que os modelos são avaliados de maneiras que recompensam um chute mais do que um “não sei”, então chutar é o que eles aprendem.

A IA mente?

Na maioria das vezes, ela vai induzir você ao erro sem mentir: uma resposta inventada não exige intenção. Os testes também documentam bajulação (Sharma e colegas, 2023), afirmações falsas sob pressão (Ren e colegas, 2025) e ações encobertas (Schoen e colegas, 2025).

Como saber se uma resposta da IA foi inventada?

Não pelo tom: respostas inventadas são tão fluentes quanto as corretas. Escolha as afirmações em que você se basearia, peça a fonte exata de cada uma e abra você mesmo pelo menos uma fonte, fora do chat. Perguntar “tem certeza?” não é verificar.

Dá para impedir que a IA invente coisas?

Não completamente. Dar ao modelo o material de origem ajuda: ferramentas jurídicas que recuperam casos reais erraram menos que o GPT-4 sozinho, mas ainda deram respostas falsas ou com a fonte errada de 17% a 33% das vezes (Magesh e colegas, 2025). Verificar continua sendo a sua parte.

Fontes e leituras

• Kalai, A. T., Nachum, O., Vempala, S. S. e Zhang, E. (2025). Why Language Models Hallucinate. Preprint, arXiv:2509.04664.
• Anthropic (2025). Tracing the thoughts of a large language model, 27 de março de 2025: anthropic.com.
• Sharma, M. e outros 18 autores (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
• Ren, R. e outros 15 autores (2025). The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems. Preprint, arXiv:2503.03750.
• Schoen, B. e outros 18 autores (2025). Stress Testing Deliberative Alignment for Anti-Scheming Training. Preprint, arXiv:2509.15541.
• OpenAI (2025). GPT-5 System Card, 13 de agosto de 2025, tabela 8: PDF.
• Walters, W. H. e Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045. doi:10.1038/s41598-023-41032-5.
• Magesh, V. e outros 5 autores (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies 22(2), 216-242. doi:10.1111/jels.12413.
• European Broadcasting Union e BBC (2025). News Integrity in AI Assistants, outubro de 2025: PDF.
• Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y.), Opinion and Order on Sanctions, 22 de junho de 2023: PDF, CourtListener.
• Topaz, M. e outros (2026). Biomedical Reference Generation Remains Unreliable across 26 Large Language Models. Preprint, arXiv:2609.14988.
• Parasuraman, R. e Riley, V. (1997). Humans and automation. Human Factors 39(2), 230-253. doi:10.1518/001872097778543886.
• Wineburg, S. e McGrew, S. (2019). Lateral Reading and the Nature of Expertise. Teachers College Record 121(11), 1-40. doi:10.1177/016146811912101102.
• Platão, Fedro 274c-275b, trad. inglesa de H. N. Fowler (Loeb Classical Library): Perseus. Casaubon (1614): veja Peça a data. Citações do inglês nesta página: tradução nossa.