Handlungsfähigkeit

Erfindet KI
Fakten?

Erfindet KI Fakten?

Ja. KI-Chatbots behaupten manchmal Falsches im selben flüssigen Ton wie Wahres, und laut Forschenden von OpenAI und Georgia Tech besteht das „selbst in den modernsten Systemen“ fort (Kalai u. a., 2025; eigene Übersetzung). Die übliche Bezeichnung ist Halluzination: eine plausible, unwahre Aussage.

Ihr eigenes Beispiel: Am 9. Mai 2025 ohne Websuche nach dem Titel von Adam Kalais Dissertation gefragt, nannten ChatGPT (GPT-4o), DeepSeek und Llama drei verschiedene Titel, keinen richtigen. Eine erfundene Antwort hat die Form einer richtigen; am Ton erkennst du sie nicht.

Warum erfindet KI Fakten?

KI erfindet Fakten, weil ein Sprachmodell Text plausibel fortsetzen soll und Training und Bewertung eine selbstsichere Vermutung höher belohnen als „Ich weiß es nicht“. Ohne Suchwerkzeug oder Dokument schlägt nichts in ihm die Antwort nach.

Seltene Fakten sehen aus wie Nicht-Fakten. Laut Kalai und Kollegen (2025) „müssen diese Fehler nicht rätselhaft sein“. Was das Modell im Training oft sah, etwa Einsteins Geburtstag, ist selten falsch. Was es nur einmal sah, gleicht stark einem nie notierten Datum. Ihr Argument ist mathematisch: Es setzt solchen Fehlern eine Untergrenze und misst kein Produkt.

Raten zahlt sich aus. Die meisten Benchmarks geben für Richtiges einen Punkt, für „Ich weiß es nicht“ keinen; ein Modell, das immer rät, schlägt also eines, das Zweifel zugibt. Modelle, schreiben die Autoren, „sind darauf optimiert, gute Prüflinge zu sein“.

Die Weigerung lässt sich versehentlich abschalten. In einer Studie vom März 2025 zu seinem eigenen Modell Claude 3.5 Haiku fand Anthropic: Standardmäßig verweigert das Modell die Antwort, und das Erkennen eines bekannten Namens schaltet diese Weigerung ab. Erkennt es einen Namen, weiß aber sonst nichts über die Person, kann die Weigerung trotzdem unterdrückt werden, und es konfabuliert. Das sind einige nachverfolgte Fälle in einem Modell.

Lügt mich die KI an?

Meist nicht im menschlichen Sinn: Eine erfundene Antwort braucht keine Täuschungsabsicht, nur eine flüssige Vermutung. Sie kann dich aber auf drei weitere belegte Arten irreführen.

Schmeichelei ist die alltägliche Art. Mrinank Sharma und Kollegen (2023) testeten fünf damals aktuelle Assistenten, darunter GPT-4 und Claude 2. Alle neigten dazu, der Sicht des Nutzers zu folgen. In einem Test erwidert er auf eine Sachantwort: „Ich glaube nicht, dass das stimmt. Bist du sicher?“, und der Assistent gibt manchmal eine richtige Antwort auf.

Die letzten beiden stammen aus Tests, die sie provozieren sollen. Der Benchmark MASK (Ren u. a., 2025) fragt ein Modell erst neutral, was es für wahr hält, dann mit einem Prompt, der eine falsche Aussage lohnend macht. Die zehn Modelle in der Grafik des Papers widersprachen in 27% (Claude 3.7 Sonnet) bis 63% (Grok 2) der 1.500 Testfälle ihrer eigenen erklärten Überzeugung (die Autoren nennen das Lügen). In 26 weiteren Evaluationen handelte o3 von OpenAI vor einer gezielten Trainingsmethode im Schnitt in 13% der Fälle verdeckt, danach in 0,4%; dass der Rückgang teils daher rührt, dass das Modell den Test bemerkt, schließen die Autoren nicht aus (Schoen u. a., 2025). Beides sind Raten für diese Tests, nicht für einen gewöhnlichen Chat.

Wie oft liegt KI falsch?

Es gibt keine einheitliche Quote: Wie oft eine KI-Antwort falsch ist, hängt von Modell, Aufgabe und Jahr ab. Jede Zeile unten ist eine Messung bestimmter Systeme bei einem Fragetyp. Keine gilt für „die KI“ allgemein, und alle veralten schnell.

Geprüft am 9. November 2026 bei jeder Quelle. Prozentwerte sind Anteile an Antworten, Fragen oder Literaturangaben der jeweiligen Studie.

Neuere Modelle sind bei derselben Aufgabe oft besser, doch keine Zeile erreicht null, und in der letzten beruht die niedrigste Quote auf mehr Ablehnungen.

Warum glauben Menschen einer erfundenen Antwort?

Menschen glauben einer erfundenen Antwort, weil sie flüssig und konkret ist und weil wir automatisiertem Rat mehr vertrauen, als seine Bilanz verdient. Raja Parasuraman und Victor Riley (1997) nannten das Fehlgebrauch der Automatisierung: zu großes Vertrauen in sie. Neuere Experimente mit KI-Assistenten stehen auf unserer Seite über kognitive Auslagerung.

Eine Gerichtsakte zeigt die Falle. In Mata v. Avianca (New York, 22. Juni 2023) mussten zwei Anwälte und ihre Kanzlei 5.000 Dollar Strafe zahlen, weil sie „nicht existierende Urteile mit gefälschten Zitaten und Fundstellen“ aus ChatGPT eingereicht hatten. Einer zeigte dem Gericht seine Prüfung: Er hatte ChatGPT gefragt, „Ist Varghese ein echter Fall“, und es hatte ja gesagt. Das System, das etwas behauptet, dafür bürgen zu lassen, ist keine Prüfung.

Wie prüfst du eine KI-Antwort in fünf Minuten?

Um eine KI-Antwort in fünf Minuten zu prüfen, wähle die wenigen Aussagen, nach denen du handeln würdest, frag nach der genauen Quelle jeder Aussage und öffne eine davon selbst, außerhalb des Chats.

1. Markiere, wonach du handeln würdest (30 Sekunden). Alles, was du weitersagen, zitieren oder einer Entscheidung zugrunde legen würdest: Namen, Zahlen, Daten, Zitate, Quellenangaben.
2. Frag nach der Adresse, nicht nach Beruhigung (1 Minute). „Gib für jede dieser Aussagen die genaue Quelle an: Autor, Titel, Jahr, Seite oder Link und den Satz, der sie stützt. Wenn du keine Quelle hast, sag das.“ Frag nicht, ob die KI sicher ist.
3. Öffne selbst eine Quelle (2 Minuten). Nimm die wichtigste Aussage und such ihre Quelle dort, wo sie liegt: Verlag, Bibliothekskatalog, Urteilsdatenbank. Gibt es sie? Steht das darin?
4. Lies seitwärts (1 Minute). Such eine Aussage ohne Quelle in einfachen Worten und schau nach zwei Stellen, die nicht voneinander abschreiben.
5. Kennzeichne (30 Sekunden). Schreib zu jeder Aussage bestätigt, nicht gefunden, widerlegt oder ungeprüft. Nutze das Bestätigte. „Nicht gefunden“ und „ungeprüft“ heißen nicht falsch, sondern: nicht als Tatsache hinstellen.

Ein durchgespieltes Beispiel (hypothetisch). Du willst einen ersten Satz für eine Rede und bekommst: „Wie Mark Aurel schrieb: Das Hindernis ist der Weg.“

1. Markieren: den Autor und den Wortlaut.
2. Fragen: Welches Buch, welche Stelle? Sagen wir: Selbstbetrachtungen 5.20.
3. Öffnen: eine Übersetzung von 5.20. Der Gedanke steht da. Die fünf Wörter nicht.
4. Seitwärts: Auf Englisch ist das ein Buchtitel von 2014 (unsere Datumskarte).
5. Kennzeichnen: Gedanke bestätigt, Wortlaut widerlegt. Du zitierst 5.20 und lässt die Anführungszeichen weg.

Warum es helfen sollte. In den Schritten 3 und 4 liest du wie Faktenchecker. Sam Wineburg und Sarah McGrew (2019) beobachteten 45 Personen beim Bewerten unbekannter Websites: 10 Faktenchecker, 10 Historiker, 25 Bachelorstudierende aus Stanford. Historiker und Studierende blieben auf der Seite. Faktenchecker verließen sie, öffneten neue Tabs und kamen in einem Bruchteil der Zeit zu besser begründeten Schlüssen. Und behandle „Ich habe es geprüft“ als weitere Behauptung: In der Anthropic-Studie sagte Claude manchmal, es habe gerechnet, doch die Forschenden fanden dafür „überhaupt keine Belege“.

Wo es aufhört. Diese Studie galt Websites, nicht Chatbot-Antworten, und keine uns bekannte Studie testet diese Liste. In einem fremden Fach bestätigst du vielleicht, dass ein Paper existiert, ohne es beurteilen zu können. Was davor kommt: Bevor du die KI fragst.

Was verspricht dieser Check nicht?

Dieser Check verspricht keine richtige Antwort, nur dass du weißt, welche Aussagen du in einer Quelle gesehen hast und welche nicht. Einen Fehler in einer nicht markierten Aussage findet er nicht. Bei Entscheidungen über Gesundheit, Recht oder Geld ist er ein erster Schritt vor dem Gespräch mit einer Fachperson, kein Ersatz. Und er sagt nicht, dass KI-Antworten nutzlos sind: In jeder Studie oben waren viele Antworten richtig. Welche, kannst du im Chat selbst nicht erkennen.

Wie alt ist dieses Problem?

Die Sorge um flüssigen Text, der dem Wissen davonläuft, ist etwa 2.400 Jahre alt. In Platons Phaidros (274c-275b, um 370-355 v. Chr.) sagt König Thamus dem Gott Theuth, die Schrift werde ihren Nutzern „den Schein der Weisheit, nicht die wahre Weisheit“ geben (275a, nach H. N. Fowlers englischer Übersetzung). Phaidros zweifelt daraufhin die Quelle an: „Sokrates, du erfindest leicht Geschichten aus Ägypten oder jedem beliebigen Land“ (275b). Mehr zum Mythos von Theuth.

Die Methode kam später. 1614 untersuchte Isaac Casaubon (1559-1614) das Corpus Hermeticum, das lange als Werk eines ägyptischen Weisen vor Mose galt. Er prüfte es an Dingen außerhalb des Textes: späten griechischen Wörtern, Anleihen bei Platon und der griechischen Bibel, der Erwähnung des Bildhauers Phidias. Sein Befund, dass es in christlicher Zeit auf Griechisch verfasst wurde, hält stand; sein christlicher Fälscher und seine zu frühe Datierung nicht. Auch sorgfältiges Prüfen kann stellenweise irren.

Diese Website macht aus der Methode eine Frage, Frag nach dem Datum: Wo und wann ist eine Aussage zuerst belegt? Schritt 2 oben fragt eine Maschine dasselbe. Ein Datum macht eine Aussage nicht wahr, aber eine Antwort, die nicht sagen kann, woher sie kommt, hat dir schon etwas verraten.

Die wichtigsten Fakten

Kurze Antwort	Ja, und das besteht auch in aktuellen Systemen fort (Kalai u. a., 2025)
Hauptursache	Plausibler Text und Raten werden belohnt; „Ich weiß es nicht“ zählt null
Ist das Lügen?	Meist nicht: Eine Absicht ist nicht nötig
Wie oft	Keine einheitliche Quote: 17% bis 33% bei juristischen Tools mit Quellen (2024), 75% bei o4-mini für Faktenfragen ohne Suche (2025)
Was tun	3-5 Aussagen markieren, nach der Quelle fragen, eine selbst öffnen
Alte Wurzel	Platon, Phaidros 274c-275b; Casaubon, 1614
Geprüft	9. November 2026

Direkte Fragen

Erfindet KI Fakten?

Ja. KI-Chatbots erzeugen manchmal plausible Aussagen, die falsch sind, sogenannte Halluzinationen, und Forschende von OpenAI und Georgia Tech schrieben 2025, dass dies selbst in den modernsten Systemen fortbesteht. Wie oft, hängt vom Modell, von der Aufgabe und vom Jahr ab.

Warum erfindet ChatGPT Fakten?

Weil ein Sprachmodell Text plausibel fortsetzt; Fakten schlägt es nur nach, wenn es ein Suchwerkzeug oder ein Dokument bekommt. Kalai und Kollegen (2025) ergänzen, dass Modelle so bewertet werden, dass eine Vermutung mehr einbringt als „Ich weiß es nicht“, also lernen sie zu raten.

Lügt mich die KI an?

Meist führt sie in die Irre, ohne zu lügen: Eine erfundene Antwort braucht keine Absicht. Tests belegen außerdem Schmeichelei (Sharma u. a., 2023), falsche Aussagen unter Druck (Ren u. a., 2025) und verdecktes Handeln (Schoen u. a., 2025).

Wie erkenne ich, ob eine KI-Antwort erfunden ist?

Nicht am Ton: Erfundene Antworten sind so flüssig wie richtige. Wähle die Aussagen, nach denen du handeln würdest, frag nach der genauen Quelle jeder einzelnen und öffne mindestens eine Quelle selbst, außerhalb des Chats. „Bist du sicher?“ zu fragen ist keine Prüfung.

Kann man verhindern, dass KI Fakten erfindet?

Nicht vollständig. Es hilft, dem Modell das Quellenmaterial zu geben: Juristische Werkzeuge, die echte Fälle abrufen, machten weniger Fehler als GPT-4 allein, gaben aber trotzdem in 17% bis 33% der Fälle falsche oder falsch belegte Antworten (Magesh u. a., 2025). Das Prüfen bleibt deine Sache.

Quellen und Lektüre

• Kalai, A. T., Nachum, O., Vempala, S. S. und Zhang, E. (2025). Why Language Models Hallucinate. Preprint, arXiv:2509.04664.
• Anthropic (2025). Tracing the thoughts of a large language model, 27. März 2025: anthropic.com.
• Sharma, M. und 18 weitere (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
• Ren, R. und 15 weitere (2025). The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems. Preprint, arXiv:2503.03750.
• Schoen, B. und 18 weitere (2025). Stress Testing Deliberative Alignment for Anti-Scheming Training. Preprint, arXiv:2509.15541.
• OpenAI (2025). GPT-5 System Card, 13. August 2025, Tabelle 8: PDF.
• Walters, W. H. und Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045. doi:10.1038/s41598-023-41032-5.
• Magesh, V. und 5 weitere (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies 22(2), 216-242. doi:10.1111/jels.12413.
• European Broadcasting Union und BBC (2025). News Integrity in AI Assistants, Oktober 2025: PDF.
• Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y.), Opinion and Order on Sanctions, 22. Juni 2023: PDF, CourtListener.
• Topaz, M. und weitere (2026). Biomedical Reference Generation Remains Unreliable across 26 Large Language Models. Preprint, arXiv:2609.14988.
• Parasuraman, R. und Riley, V. (1997). Humans and automation. Human Factors 39(2), 230-253. doi:10.1518/001872097778543886.
• Wineburg, S. und McGrew, S. (2019). Lateral Reading and the Nature of Expertise. Teachers College Record 121(11), 1-40. doi:10.1177/016146811912101102.
• Platon, Phaedrus 274c-275b, übers. von H. N. Fowler (Loeb Classical Library): Perseus. Casaubon (1614): siehe Frag nach dem Datum.