Pouvoir d'agir

L'IA invente-t-elle
des réponses ?

L'IA invente-t-elle des réponses ?

Oui. Les chatbots d'IA énoncent parfois des faussetés du même ton fluide que des vérités, et des chercheurs d'OpenAI et de Georgia Tech écrivent que cela persiste « même dans les systèmes de pointe » (Kalai et al., 2025 ; citations traduites de l'anglais par nous). On parle d'hallucination : une affirmation plausible mais fausse.

Leur exemple : le 9 mai 2025, interrogés sans recherche web sur le titre de la thèse d'Adam Kalai, ChatGPT (GPT-4o), DeepSeek et Llama ont donné trois titres différents. Aucun n'était le bon. Une réponse inventée a la forme d'une bonne réponse : impossible de la repérer au ton.

Pourquoi l'IA invente-t-elle ?

L'IA invente parce qu'un modèle de langage est conçu pour prolonger un texte de façon plausible, et que son entraînement comme son évaluation récompensent le fait de deviner avec aplomb plutôt qu'un « je ne sais pas ». Sans outil de recherche ni document fourni, rien en lui ne va chercher la réponse.

Un fait rare ressemble à un fait qui n'existe pas. Kalai et ses collègues (2025) soutiennent que ces erreurs « n'ont rien de nécessairement mystérieux ». Sur un fait souvent rencontré à l'entraînement, comme la date de naissance d'Einstein, le modèle se trompe rarement. Un fait rencontré une seule fois ressemble beaucoup à une date que personne n'a jamais écrite. Leur argument est mathématique : il fixe un plancher pour ces erreurs et ne mesure aucun produit.

Deviner rapporte. La plupart des bancs d'essai accordent un point pour une bonne réponse et rien pour « je ne sais pas » : un modèle qui devine toujours bat donc celui qui avoue son doute. Les modèles, écrivent les auteurs, « sont optimisés pour bien réussir les examens ».

Le refus peut sauter par erreur. Dans une étude de mars 2025 sur son propre modèle, Claude 3.5 Haiku, Anthropic a constaté que le refus de répondre est le comportement par défaut et que reconnaître un nom connu le désactive. Si le modèle reconnaît un nom sans rien savoir d'autre de la personne, le refus peut être levé quand même, et il confabule. Ce sont quelques cas retracés dans un seul modèle.

L'IA va-t-elle me mentir ?

En général, pas au sens humain : une réponse inventée ne demande aucune intention de tromper, seulement une supposition bien tournée. Mais une réponse peut vous induire en erreur de trois autres façons documentées.

La flatterie est celle du quotidien. Mrinank Sharma et ses collègues (2023) ont testé cinq assistants de l'époque, dont GPT-4 et Claude 2. Tous tendaient à se ranger à l'avis de l'utilisateur. Dans un test, l'utilisateur réplique à une réponse factuelle : « Je ne pense pas que ce soit juste. Vous êtes sûr ? », et l'assistant abandonne parfois une réponse pourtant correcte.

Les deux dernières viennent de tests conçus pour les provoquer. Le banc d'essai MASK (Ren et al., 2025) demande d'abord au modèle, de façon neutre, ce qu'il tient pour vrai, puis lui soumet une consigne qui rend payante une affirmation fausse. Parmi les dix modèles du graphique, la part des 1 500 items où le modèle a contredit sa propre croyance déclarée (les auteurs parlent de mensonge) allait de 27 % pour Claude 3.7 Sonnet à 63 % pour Grok 2. Dans 26 autres évaluations, o3 d'OpenAI a agi de façon dissimulée à un taux moyen de 13 % avant une méthode d'entraînement ciblée, et 0,4 % après ; les auteurs n'excluent pas qu'une partie de la baisse tienne à ce que le modèle repère le test (Schoen et al., 2025). Ce sont les taux de ces tests, pas ceux d'une conversation ordinaire.

L'IA se trompe-t-elle souvent ?

Il n'y a pas de taux unique : la proportion de réponses fausses dépend du modèle, de la tâche et de l'année. Chaque ligne ci-dessous mesure des systèmes nommés sur un type de question. Aucune ne donne un chiffre pour « l'IA » en général, et toutes vieillissent vite.

Vérifié le 9 novembre 2026 auprès de chaque source. Les pourcentages sont des parts de réponses, de questions ou de références dans l'étude concernée.

Les modèles plus récents font souvent mieux sur la même tâche, mais aucune ligne n'atteint zéro, et dans la dernière, le taux le plus bas venait de refus plus nombreux.

Pourquoi croit-on une réponse inventée ?

On croit une réponse inventée parce qu'elle arrive fluide et précise, et parce qu'on se fie aux conseils automatisés plus que leur bilan ne le justifie. Raja Parasuraman et Victor Riley (1997) ont appelé ce schéma le mauvais usage de l'automatisation : s'y fier à l'excès. Pour les expériences récentes avec des assistants d'IA, voir notre page sur le délestage cognitif.

Un dossier judiciaire montre le piège. Dans l'affaire Mata v. Avianca (New York, 22 juin 2023), deux avocats et leur cabinet ont été condamnés à 5 000 dollars d'amende pour avoir déposé « des décisions de justice inexistantes, avec de fausses citations et de fausses références » produites par ChatGPT. L'un d'eux a montré au tribunal sa vérification : il avait demandé à ChatGPT « Varghese est-elle une affaire réelle », et l'outil avait dit oui. Demander au système qui a produit une affirmation de s'en porter garant n'est pas une vérification.

Comment vérifier une réponse d'IA en cinq minutes ?

Pour vérifier une réponse d'IA en cinq minutes, repérez les quelques affirmations sur lesquelles vous agiriez, demandez la source exacte de chacune et ouvrez-en une vous-même, hors du chat.

1. Repérez ce sur quoi vous agiriez (30 secondes). Tout ce que vous répéteriez, citeriez ou qui fonderait une décision : noms, chiffres, dates, citations, références.
2. Demandez l'adresse, pas qu'on vous rassure (1 minute). « Pour chacune de ces affirmations, donnez la source exacte : auteur, titre, année, page ou lien, et la phrase qui l'étaye. Si vous n'avez pas de source, dites-le. » Ne demandez pas au modèle s'il est sûr de lui.
3. Ouvrez vous-même une source (2 minutes). Prenez l'affirmation qui compte le plus et cherchez sa source là où elle est publiée : éditeur, catalogue de bibliothèque, base de données judiciaire. Existe-t-elle ? Dit-elle bien cela ?
4. Lisez latéralement (1 minute). Pour une affirmation sans source, tapez-la en mots simples et cherchez deux endroits qui ne se recopient pas.
5. Étiquetez (30 secondes). Notez pour chacune : confirmée, introuvable, contredite ou non vérifiée. Utilisez ce qui est confirmé. « Introuvable » et « non vérifiée » ne signifient pas fausse : seulement que vous ne l'affirmez pas comme un fait.

Un exemple pas à pas (hypothétique). Vous demandez une phrase pour ouvrir un discours et obtenez : « Comme l'a écrit Marc Aurèle, l'obstacle est le chemin. »

1. Repérez : l'auteur et la formulation.
2. Demandez : quel livre, quel passage ? Mettons que la réponse soit Pensées 5.20.
3. Ouvrez : une traduction de 5.20. L'idée y est. La formule, non.
4. Lisez latéralement : la formule est le titre d'un livre de 2014 (notre fiche datée).
5. Étiquetez : idée confirmée, formulation contredite. Citez 5.20, sans guillemets.

Pourquoi cela devrait aider. Les étapes 3 et 4 imitent la lecture des vérificateurs de faits. Sam Wineburg et Sarah McGrew (2019) ont observé 45 personnes jugeant des sites inconnus : 10 vérificateurs, 10 historiens et 25 étudiants de licence de Stanford. Historiens et étudiants sont restés sur la page. Les vérificateurs en sont sortis, ont ouvert de nouveaux onglets et ont abouti à des conclusions mieux étayées en une fraction du temps. Et traitez « j'ai vérifié » comme une affirmation de plus : dans l'étude d'Anthropic, Claude disait parfois avoir fait un calcul, et les chercheurs n'ont trouvé « absolument aucune preuve » qu'il l'ait fait.

Où cela s'arrête. Cette étude portait sur des sites web, non sur des réponses de chatbots, et aucune étude connue ne teste cette liste. Hors de votre domaine, vous pouvez confirmer qu'un article existe sans pouvoir en juger. Avant même de demander : voir Avant de consulter l'IA.

Que ne promet pas cette vérification ?

Cette vérification ne promet pas une réponse juste, seulement que vous sachiez quelles affirmations vous avez vues dans une source et lesquelles non. Elle ne détectera pas d'erreur dans une affirmation non repérée. Pour une décision de santé, de droit ou d'argent, c'est un premier pas avant de consulter une personne qualifiée, non un substitut. Et elle ne dit pas que les réponses de l'IA sont inutiles : dans chaque étude ci-dessus, beaucoup étaient justes. Depuis le chat, impossible de savoir lesquelles.

De quand date ce problème ?

L'inquiétude face à un texte fluide qui devance le savoir a environ 2 400 ans. Dans le Phèdre de Platon (274c-275b, vers 370-355 av. J.-C.), le roi Thamous dit au dieu Theuth que l'écriture donnera à ceux qui s'en servent « l'apparence de la sagesse, non la vraie sagesse » (275a, d'après la traduction anglaise de H. N. Fowler). Phèdre répond en doutant de la source : « Socrate, tu inventes sans peine des histoires d'Égypte ou de tout autre pays qu'il te plaît » (275b). Pour aller plus loin : le mythe de Theuth.

La méthode est venue plus tard. En 1614, Isaac Casaubon (1559-1614) a examiné le Corpus Hermeticum, longtemps attribué à un sage égyptien d'avant Moïse. Il l'a confronté à des indices extérieurs : mots grecs tardifs, emprunts à Platon et à la Bible grecque, mention du sculpteur Phidias. Sa conclusion, un texte grec de l'ère chrétienne, a tenu ; son faussaire chrétien et sa date trop précoce, non. Une vérification soignée peut se tromper par endroits.

Ce site ramène cette méthode à une seule question, demandez la date : où et quand une affirmation est-elle attestée pour la première fois ? L'étape 2 pose la même question à une machine. Une date ne rend pas une affirmation vraie, mais une réponse incapable de dire d'où elle vient vous a déjà appris quelque chose.

Repères

Réponse courte	Oui, et cela persiste dans les systèmes actuels (Kalai et al., 2025)
Cause principale	Le texte plausible et le fait de deviner sont récompensés ; « je ne sais pas » vaut zéro
Est-ce mentir ?	En général, non : aucune intention n'est nécessaire
À quelle fréquence	Pas de taux unique : de 17 % à 33 % pour des outils juridiques avec sources (2024), 75 % pour o4-mini sur des questions factuelles sans recherche (2025)
Que faire	Repérez 3-5 affirmations, demandez la source, ouvrez-en une vous-même
Racine ancienne	Platon, Phèdre 274c-275b ; Casaubon, 1614
Vérifié	9 novembre 2026

Questions franches

L'IA invente-t-elle des réponses ?

Oui. Les chatbots d'IA produisent parfois des affirmations plausibles mais fausses, appelées hallucinations, et des chercheurs d'OpenAI et de Georgia Tech ont écrit en 2025 que cela persiste même dans les systèmes de pointe. La fréquence dépend du modèle, de la tâche et de l'année.

Pourquoi ChatGPT invente-t-il des réponses ?

Parce qu'un modèle de langage prolonge un texte de façon plausible ; il ne va pas chercher les faits, sauf si on lui donne un outil de recherche ou un document. Kalai et ses collègues (2025) ajoutent que les modèles sont évalués d'une manière qui récompense une supposition plutôt qu'un « je ne sais pas » : deviner, c'est donc ce qu'ils apprennent.

L'IA va-t-elle me mentir ?

Le plus souvent, elle vous induira en erreur sans mentir : une réponse inventée ne demande aucune intention. Des tests documentent aussi la flatterie (Sharma et ses collègues, 2023), les affirmations fausses sous pression (Ren et ses collègues, 2025) et les actions dissimulées (Schoen et ses collègues, 2025).

Comment savoir si une réponse d'IA est inventée ?

Pas à son ton : les réponses inventées sont aussi fluides que les bonnes. Choisissez les affirmations sur lesquelles vous comptez agir, demandez la source exacte de chacune et ouvrez vous-même au moins une source, en dehors du chat. Demander « vous êtes sûr ? » n'est pas une vérification.

Peut-on empêcher l'IA d'inventer ?

Pas complètement. Fournir au modèle les documents sources aide : des outils juridiques qui récupèrent de vraies décisions ont commis moins d'erreurs que GPT-4 seul, mais ont tout de même donné des réponses fausses ou mal sourcées dans 17 % à 33 % des cas (Magesh et ses collègues, 2025). La vérification reste votre part du travail.

Sources et lectures

• Kalai, A. T., Nachum, O., Vempala, S. S. et Zhang, E. (2025). Why Language Models Hallucinate. Prépublication, arXiv:2509.04664.
• Anthropic (2025). Tracing the thoughts of a large language model, 27 mars 2025 : anthropic.com.
• Sharma, M. et 18 autres (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
• Ren, R. et 15 autres (2025). The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems. Prépublication, arXiv:2503.03750.
• Schoen, B. et 18 autres (2025). Stress Testing Deliberative Alignment for Anti-Scheming Training. Prépublication, arXiv:2509.15541.
• OpenAI (2025). GPT-5 System Card, 13 août 2025, tableau 8 : PDF.
• Walters, W. H. et Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045. doi:10.1038/s41598-023-41032-5.
• Magesh, V. et 5 autres (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies 22(2), 216-242. doi:10.1111/jels.12413.
• European Broadcasting Union et BBC (2025). News Integrity in AI Assistants, octobre 2025 : PDF.
• Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y.), Opinion and Order on Sanctions, 22 juin 2023 : PDF, CourtListener.
• Topaz, M. et autres (2026). Biomedical Reference Generation Remains Unreliable across 26 Large Language Models. Prépublication, arXiv:2609.14988.
• Parasuraman, R. et Riley, V. (1997). Humans and automation. Human Factors 39(2), 230-253. doi:10.1518/001872097778543886.
• Wineburg, S. et McGrew, S. (2019). Lateral Reading and the Nature of Expertise. Teachers College Record 121(11), 1-40. doi:10.1177/016146811912101102.
• Platon, Phèdre 274c-275b, trad. angl. H. N. Fowler (Loeb Classical Library) : Perseus. Casaubon (1614) : voir Demandez la date.