Warum macht die KI Fehler? Halluzinationen einfach erklärt

Vielleicht haben Sie es schon erlebt: Sie fragen ChatGPT etwas, die Antwort klingt sicher und gut formuliert, und stimmt trotzdem nicht. Das ist kein Einzelfall und kein Defekt an Ihrem Gerät. Es hat einen einfachen Grund, der in der Technik selbst steckt.

Dieser Artikel erklärt Ihnen dieses Warum. Sie erfahren, was im Hintergrund passiert, welche Fehler typisch sind und warum sie bei manchen Fragen fast nie und bei anderen fast immer vorkommen. Denn wer das Warum versteht, weiß auch, wann Vorsicht nötig ist. Und wann nicht.

Technisches Wissen brauchen Sie nicht. Zwei Bilder aus dem Alltag genügen.

Was „Halluzination“ bedeutet

Fachleute haben für diese Fehler ein eigenes Wort: Halluzination. Gemeint ist: Die KI behauptet etwas Falsches und klingt dabei völlig überzeugt. Sie erfindet Namen, Zahlen oder ganze Buchtitel. Nichts an der Antwort wirkt unsicher oder zögerlich. Genau das macht diese Fehler so tückisch: Man sieht ihnen nichts an.

Das Wort kennen Sie vermutlich aus der Medizin: Ein Mensch, der halluziniert, nimmt etwas wahr, das gar nicht da ist. Beim Menschen ist das ein Ausnahmezustand. Bei der KI ist es genau umgekehrt. Sie tut in diesem Moment das, wofür sie gebaut wurde: Sie setzt Wörter zu einem stimmigen Satz zusammen. Der Fehler ist keine Störung, sondern die Kehrseite ihrer eigentlichen Fähigkeit.

Deshalb halten viele Fachleute das Wort für unglücklich gewählt. Es lässt die Maschine krank oder verwirrt erscheinen, und beides ist sie nicht. Treffender wäre schlicht: Sie erfindet etwas. Wir benutzen den Begriff trotzdem, weil Sie ihm überall begegnen werden. Denken Sie beim Lesen einfach „erfunden“ mit.

Das erste Bild: ein sehr belesener Gesprächspartner

Stellen Sie sich jemanden vor, der Millionen Bücher gelesen hat. Dieser Jemand hat ein erstaunliches Gefühl für Sprache entwickelt. Fragt man ihn etwas, überlegt er nicht: „Wo schlage ich das nach?“ Er überlegt: „Welches Wort passt hier am wahrscheinlichsten als Nächstes?“ Dann das nächste Wort. Und das übernächste. So entsteht Satz für Satz eine Antwort.

Zwei Eigenschaften dieses Gesprächspartners sind entscheidend. Erstens: Er hat keines seiner Bücher dabei, er erzählt aus dem Gedächtnis. Zweitens: Er sagt nie „Da bin ich mir nicht sicher“. Er erzählt einfach weiter.

Genau so arbeitet die Technik hinter ChatGPT, ein sogenanntes Sprachmodell. Es hat kein Lexikon im Hinterkopf und keine Sammlung geprüfter Fakten. Es schlägt nicht nach, es formuliert.

Meistens ist das wahrscheinlichste Wort auch das richtige. Deshalb sind die Antworten so oft brauchbar. Aber wenn der KI die Grundlage fehlt, rät sie trotzdem weiter. Im selben souveränen Ton. Sie merkt selbst nicht, dass sie gerade erfindet.

Daraus folgt der wichtigste Satz dieses Artikels: Flüssig heißt nicht richtig. Gutes Deutsch ist bei der KI kein Zeichen von Wahrheit. Es zeigt nur, dass sie Sprache gelernt hat.

Das zweite Bild: die Wortvorschläge über Ihrer Tastatur

Wenn Sie am Handy eine Nachricht tippen, erscheinen über der Tastatur kleine Wortvorschläge. Sie schreiben „Ich komme heute“, und das Gerät bietet „Abend“ an. Sie haben nie erklärt, was Sie vorhaben. Das Gerät kennt nur das Muster.

Ein Sprachmodell macht im Kern dasselbe. Nur mit einem unvergleichlich größeren Sprachgefühl und über ganze Seiten hinweg statt über drei Wörter.

Und jetzt der entscheidende Punkt: Ihr Handy schlägt „Abend“ auch dann vor, wenn Sie in Wahrheit morgens kommen. Es prüft nicht, ob der Vorschlag stimmt. Es weiß nur, was üblicherweise folgt.

Warum sie so überzeugend klingt, wenn sie falsch liegt

Das ist die eigentlich wichtige Frage. Ein Irrtum wäre halb so schlimm, wenn man ihn hören könnte. Bei der KI kann man das nicht. Dafür gibt es vier Gründe.

Ton und Inhalt entstehen getrennt. Die KI hat gelernt, wie eine kompetente Antwort klingt. Diese Fähigkeit funktioniert unabhängig davon, ob der Inhalt stimmt. Ein falscher Satz wird genauso sorgfältig gebaut wie ein richtiger.

Die menschlichen Warnzeichen fehlen. Wenn ein Bekannter unsicher ist, merken Sie das. Er zögert, er sagt „ich glaube“ oder „das müsste so gewesen sein“. Diese Signale lesen wir seit Jahrzehnten. Die KI sendet sie nicht. Sie schreibt eine erfundene Jahreszahl im selben Tempo wie Ihren Namen.

Sie ist auf Hilfsbereitschaft trainiert. Bei der Entwicklung wurden Antworten bevorzugt, die Menschen als hilfreich bewerten. Eine vollständige Antwort wirkt hilfreicher als ein „Das weiß ich nicht“.

Erfundenes ist oft besonders glatt. Wo die KI aus Mustern schöpft statt aus der Wirklichkeit, kommt Aufgeräumtes heraus. Runde Zahlen, saubere Öffnungszeiten, ein Buchtitel, der genau zur Frage passt. Diese Glätte ist selbst ein Warnzeichen.

Sieben Fehler, die immer wieder vorkommen

Diese Fälle sehen Sie am häufigsten. Einmal erkannt, erkennen Sie sie wieder.

1. Erfundene Bücher und Quellen. Sie bitten um Literatur zu einem Thema und bekommen Titel, Autor und Verlag. Den Autor gibt es wirklich. Dieses Buch hat er nie geschrieben.
2. Falsche Jahreszahlen. Wann wurde die Kirche im Nachbarort gebaut? Die KI nennt eine Zahl. Meist liegt sie in der richtigen Gegend und selten genau richtig.
3. Erfundene Paragrafen. Bei rechtlichen Fragen nennt die KI gern eine Paragrafennummer samt Absatz. Das wirkt fachkundig. Oft steht im Gesetz dort etwas ganz anderes, oder es gibt den Absatz nicht.
4. Falsche Rechenergebnisse. Rechnen ist für ein Sprachmodell keine Rechnung, sondern ein Satz. Einfaches gelingt. Bei mehreren Schritten hintereinander kommt ein Ergebnis heraus, das plausibel aussieht und daneben liegt. Manche Programme schalten dafür einen Rechner dazu, aber verlassen Sie sich nicht darauf.
5. Erfundene Öffnungszeiten. „Dienstag und Donnerstag von 9 bis 12 Uhr.“ Solche Angaben sind im Zweifel geraten. Sie ändern sich ständig und folgen einem so klaren Muster, dass die KI mühelos eines nachbaut.
6. Erfundene Zitate. Sie wünschen sich einen Ausspruch für eine Rede, gern von einem berühmten Namen. Sie bekommen einen wohlklingenden Satz, zugeschrieben an Goethe oder Einstein. Solche Zuschreibungen sind oft falsch.
7. Kleine Orte und Vereine. Der unauffälligste Fall und der häufigste. Über München gibt es Millionen Texte, über den Kleingartenverein im Nachbardorf keinen einzigen. Fragen Sie trotzdem nach dessen Gründungsjahr, bekommen Sie eine Antwort: mit Jahreszahl, Vereinsfarben und verdientem Vorsitzenden. Alles frei erfunden und alles plausibel.

Der letzte Punkt führt direkt zur nächsten Frage.

Wann Fehler häufig sind

Ob eine Antwort verlässlich ist, hängt an zwei Dingen. Beide können Sie selbst einschätzen, noch bevor Sie fragen.

Das eine: Wie oft kam das Thema in dem vor, was die KI gelesen hat? Über große Städte und bekannte Ereignisse gibt es unzählige Texte. Dort hat sich das Richtige tief eingeprägt. Über Ihren Heimatverein oder den Nachbarort mit 800 Einwohnern gibt es fast nichts. Dort bleibt nur Raten.

Das andere: Gibt es überhaupt genau eine richtige Antwort? Denn Fehler passieren vor allem dort, wo es die gibt:

• Genaue Zahlen: Preise, Entfernungen, Mengenangaben. Hier rutscht die KI leicht daneben.
• Jahreszahlen: Wann genau etwas geschah, gerät schnell durcheinander.
• Namen: Personen, Orte, Titel. Die KI verwechselt gern Ähnliches.
• Quellenangaben: Buchtitel, Paragrafen, Studien. Hier erfindet die KI besonders oft.
• Aktuelle Ereignisse: Die KI hat bis zu einem Stichtag gelernt. Was danach passiert ist, kennt sie nicht. Manche Programme können zwar im Internet nachsehen (Stand: Juli 2026). Blind verlassen sollten Sie sich darauf trotzdem nicht.

Der gemeinsame Nenner: Bei genau einer richtigen Antwort führt Raten schnell in die Irre.

Wann Sie entspannt bleiben können

Ganz anders bei Aufgaben, bei denen es kein einzelnes „Richtig“ gibt:

• Formulieren: Briefe, Glückwünsche, Einladungen. Hier kann die KI kaum falsch liegen.
• Zusammenfassen: Wenn Sie ihr einen Text geben, arbeitet sie mit dem, was dasteht.
• Ideen sammeln: Geschenkideen, Ausflugsziele, Gesprächsthemen. Vorschläge müssen nicht „stimmen“.
• Rezepte: Ob der Vorschlag Ihnen zusagt, entscheiden Sie selbst. Bei Haltbarkeit und Garzeiten gilt trotzdem die Küchenregel, nicht die KI.

Bei diesen Aufgaben spielt die KI ihre Stärke aus: Sie kann hervorragend formulieren. Genau dafür wurde sie gebaut.

Warum „Bist du sicher?“ die Antwort verändert

Viele probieren instinktiv das Naheliegende und schreiben zurück: „Bist du dir sicher?“ Und tatsächlich passiert etwas. Oft entschuldigt sich die KI und nennt eine andere Antwort.

Das fühlt sich nach einer Korrektur an. Es ist aber keine.

Die KI hat in dieser Sekunde nichts nachgeschlagen und nichts überprüft. Sie hat nur einen neuen Hinweis in Ihrem Gespräch bekommen, und der lautet sinngemäß: Mein Gegenüber ist unzufrieden. Also schreibt sie weiter, wie es nach so einem Hinweis üblicherweise weitergeht. Nämlich mit Einlenken.

Manchmal wird dabei aus einer falschen Antwort eine richtige. Manchmal aber auch aus einer richtigen eine falsche. Und wer dreimal nachhakt, bekommt unter Umständen dreimal etwas anderes.

Für Sie heißt das zweierlei. Nachfragen schadet nicht, es ist nur kein Beweis. Und: Genau dieses Verhalten zeigt, dass hinter der Antwort niemand sitzt, der noch einmal ins Regal greift.

Wird das mit der Zeit besser?

Ja, langsam. Und nein, nicht vollständig.

Neuere Versionen erfinden spürbar seltener als die von vor drei Jahren. Die Modelle sind gründlicher trainiert. Viele Programme können inzwischen im Internet nachsehen und geben dann Links an. Und für Aufgaben wie Rechnen schalten sie ein passendes Werkzeug dazu, statt selbst zu raten.

Verschwunden ist das Problem damit nicht, und es wird auch nicht ganz verschwinden. Ein Programm, das Sprache fortsetzt, hat keinen eingebauten Wahrheitsprüfer. Auch der Blick ins Internet löst das nicht: Die KI kann auf einer schlechten Seite landen, eine gute Seite falsch zusammenfassen oder einen Link anbieten, der nicht zu dem passt, was sie darüber behauptet.

Rechnen Sie also weiter mit Fehlern. Nur seltener als früher.

Drei Sätze, die Sie sich merken können

1. Je genauer die Angabe, desto wachsamer. Bei Zahlen, Namen, Daten und Quellen: kurz innehalten und nachdenken.
2. Lassen Sie sich vom Ton nicht beeindrucken. Selbstsicher klingt die KI immer, auch wenn sie gerade rät.
3. Wichtiges mit einer zweiten Quelle prüfen. Wie das geht, zeigt unser Artikel „Schreibt die KI die Wahrheit?“: die Warnsignale für eine erfundene Antwort, eine Prüf-Routine zum Merken und die Abstufung, welche Fehler harmlos sind und welche nicht. Dieser Artikel erklärt das Warum, jener zeigt das Wie.

Ist das sicher?

Was kostet es? Nichts. Dieses Wissen können Sie sofort anwenden. Und zum Ausprobieren reicht die kostenlose Version von ChatGPT völlig.

Was passiert mit meinen Daten? Ihre Fragen werden an den Anbieter übertragen. Fragen Sie deshalb allgemein. Name, Geburtsdatum, Versichertennummer oder Aktenzeichen gehören nicht in das Eingabefeld.

Kann ich etwas kaputt machen? Nein. Eine falsche KI-Antwort richtet keinen Schaden an, solange Sie Wichtiges prüfen, bevor Sie handeln. Und Sie dürfen die KI jederzeit korrigieren. Sie ist nicht beleidigt.

Und bei Gesundheit, Geld und Recht? Dort gilt eine eigene Regel. Die KI hilft beim Verstehen und beim Formulieren. Sie ersetzt niemals Arzt, Anwalt oder Steuerberater.

Ihr nächster Schritt

Machen Sie einen kleinen Test: Fragen Sie die KI etwas aus Ihrem Beruf oder Hobby, etwas, das Sie sicher wissen. Gehen Sie dann immer tiefer, bis die Antwort nicht mehr stimmt. So bekommen Sie in wenigen Minuten ein Gefühl dafür, wo die Grenze verläuft.

Wie die KI überhaupt zu ihrem „Wissen“ kommt, erklärt der Artikel „Was ist Künstliche Intelligenz?“. Und der kostenlose KI-Brief kommt jeden Sonntag, mit verständlichen Erklärungen wie dieser.