Schreibt die KI die Wahrheit? So prüfen Sie jede Antwort

ChatGPT und ähnliche Programme antworten schnell, freundlich und in tadellosen Sätzen. Genau das kann täuschen. Denn eine gut formulierte Antwort ist nicht automatisch eine richtige Antwort.

Vielleicht sind Sie gerade misstrauisch geworden. Eine Antwort kam Ihnen zu glatt vor. Oder Sie haben schon gemerkt, dass etwas nicht stimmte. Dann sind Sie hier richtig.

In diesem Artikel erfahren Sie, woran Sie eine erfundene Antwort erkennen, wie Sie sie in zwei Minuten gegenprüfen und bei welchen Themen ein Fehler wirklich gefährlich wird. Keine Sorge: Sie brauchen dafür kein technisches Wissen.

Kurz vorweg: Warum die KI manchmal Dinge erfindet

KI-Programme wie ChatGPT haben aus riesigen Textmengen gelernt, wie Sprache funktioniert. Sie berechnen, welche Antwort am wahrscheinlichsten zu Ihrer Frage passt. Meistens ist das Ergebnis richtig und hilfreich. Aber die KI hat kein echtes Wissen und kein Gefühl dafür, wann sie unsicher ist.

Die Folge: Wenn die KI etwas nicht weiß, sagt sie selten „keine Ahnung“. Stattdessen formuliert sie eine Antwort, die gut klingt, aber falsch sein kann. Fachleute nennen das eine „Halluzination“. Gemeint ist: Sie erfindet Fakten, Namen, Zahlen oder Quellen und präsentiert sie völlig überzeugt. Warum die Technik überhaupt so arbeitet, erklärt mein Artikel „Warum macht die KI Fehler?“.

Ein Beispiel: Sie fragen nach einem Buch zu einem bestimmten Thema. Die KI nennt Titel und Autor, flüssig und plausibel. Doch das Buch existiert gar nicht. Solche Fälle sind nicht die Regel, aber sie kommen vor.

Wichtig: Das ist kein Grund, die KI zu meiden. Auch ein Lexikon kann veraltet sein, auch ein Bekannter kann sich irren. Man muss nur wissen, wie man damit umgeht. Ab hier geht es genau darum.

Die Drei-Fragen-Probe

Sie brauchen keine Checkliste neben dem Bildschirm. Drei Fragen genügen. Nach ein paar Tagen stellen Sie sie automatisch.

Frage 1: Wäre es schlimm, wenn das falsch ist?

Bei einem Gedicht zum Geburtstag: nein. Bei einem Rezeptvorschlag: kaum. Bei der Dosierung eines Medikaments: ja, sehr. Diese Frage entscheidet, ob Sie die beiden anderen überhaupt brauchen.

Frage 2: Steht in der Antwort etwas, das man nachprüfen kann?

Gemeint sind harte Angaben. Eine Zahl, ein Name, ein Datum, eine Uhrzeit, ein Buchtitel, ein Paragraf, ein Preis. Genau diese Stellen sind die anfälligen. Wo nur formuliert und vorgeschlagen wird, kann wenig schiefgehen.

Frage 3: Wo steht das außer bei der KI?

Nicht: Klingt das plausibel? Sondern: Wer sagt das noch? Die Antwort darauf holen Sie sich in einer Minute selbst.

Mehr ist die Routine nicht. Alles Weitere in diesem Artikel füllt sie mit Leben.

Sieben Warnsignale für eine erfundene Antwort

Erfundene Antworten haben Eigenheiten. Wenn Sie diese kennen, springen sie Ihnen mit der Zeit ins Auge.

1. Sehr genaue Angaben ohne Beleg. Eine Uhrzeit, ein Preis, eine Jahreszahl — aber nirgends steht, woher. Genauigkeit ist kein Zeichen von Richtigkeit.
2. Quellen ohne Link. Ein Buchtitel, eine Studie, ein Verein, aber nichts zum Anklicken. Oder ein Link, der auf einer Fehlermeldung landet.
3. Namen, die Sie nicht finden. Sie geben den genannten Autor oder Fachmann in die Suchmaschine ein und stoßen ins Leere. Ein sehr deutliches Zeichen.
4. Ein seltenes Thema, über das es kaum etwas zu lesen gibt. Über einen kleinen Ort, einen kleinen Verein oder ein altes Gerät steht wenig im Netz. Je seltener das Thema, desto häufiger füllt die KI die Lücke mit Erfundenem — und zwar besonders ausführlich.
5. Alles passt zu gut. Sie haben vier Bedingungen genannt und bekommen einen Vorschlag, der alle vier erfüllt. Bei ausgefallenen Wünschen ist das verdächtig.
6. Keine einzige Einschränkung. Kein „soweit ich weiß“, kein „das kann sich geändert haben“, keine Lücke. Fachleute schränken ein. Wer nie einschränkt, hat entweder alles gelesen oder nichts geprüft.
7. Die Antwort ändert sich. Stellen Sie dieselbe Frage noch einmal in einem neuen, leeren Gespräch. Kommt etwas anderes heraus, wusste die KI es beide Male nicht.

Ein einzelnes Anzeichen beweist nichts. Zwei oder drei zusammen heißen: nachsehen.

Signal Nummer sieben ist dabei stärker als alle anderen. Fachleute haben es untersucht und halten es für den zuverlässigsten Hinweis, den es gibt. Umgekehrt gilt das nicht: Zweimal dieselbe Antwort ist kein Beweis, denn die KI kann sich auch beharrlich irren.

So prüfen Sie in zwei Minuten nach

Drei Wege, vom schnellsten zum sichersten.

Das genannte Detail selbst suchen

1. Öffnen Sie eine Suchmaschine, zum Beispiel Google.
2. Suchen Sie nach der konkreten Angabe, etwa „Öffnungszeiten Bürgeramt Musterstadt“.
3. Vergleichen Sie: Sagt die offizielle Seite dasselbe wie die KI?

Stimmen beide überein, können Sie beruhigt sein. Weichen sie ab, gilt die offizielle Quelle.

Ein Kniff für Buchtitel und Zitate: Setzen Sie den Titel oder den Satz in Anführungszeichen. Die Suchmaschine sucht dann nach genau dieser Wortfolge statt nach den einzelnen Wörtern. Finden Sie nichts, gibt es die Sache mit hoher Wahrscheinlichkeit nicht.

Die offizielle Seite aufrufen

Bei Öffnungszeiten, Preisen, Fristen und Ansprechpartnern zählt nur eine Quelle: die Stelle selbst. Also die Seite der Stadt, des Museums, der Krankenkasse, des Vereins.

Nicht der zweite Suchtreffer, nicht ein Branchenverzeichnis. Und auch nicht die Zusammenfassung ganz oben in der Suchmaschine. Die stammt inzwischen oft selbst von einer KI und kann denselben Fehler enthalten.

Ein zweites KI-Programm fragen

Stellen Sie dieselbe Frage einem anderen Anbieter, etwa Gemini statt ChatGPT. Wichtig dabei: neues Gespräch, gleiche Frage, und legen Sie die erste Antwort nicht vor. Sonst stimmt das zweite Programm ihr höflich zu.

Zwei gleiche Antworten sind kein Beweis. Beide Programme können aus denselben Texten gelernt haben. Zwei unterschiedliche Antworten sind dagegen ein sehr sicheres Zeichen dafür, dass hier geraten wird. Welches Programm was kann, erklärt mein Artikel „ChatGPT, Gemini, Copilot: Was ist der Unterschied?“.

Wie Sie die KI zur Ehrlichkeit bringen

Sie können die KI dazu bringen, offener mit ihren Lücken umzugehen. Nicht immer, aber oft genug. Vier Sätze zum Abtippen.

„Sage mir ausdrücklich, wenn du dir bei etwas nicht sicher bist.“

Schreiben Sie das am besten gleich zu Ihrer Frage dazu. Sie bekommen dann häufiger ein ehrliches „Das kann ich nicht verlässlich sagen“.

„Nenne mir die Quelle und den Link, wo das steht.“

Oft nennt die KI daraufhin Internetseiten oder räumt ein, dass sie unsicher ist. Das ist wertvoll. Aber Achtung: Auch Quellenangaben können erfunden sein. Eine genannte Quelle ist erst dann etwas wert, wenn Sie sie selbst gefunden und angesehen haben.

„Was spricht dagegen? Nenne mir Gründe, warum diese Antwort falsch sein könnte.“

Der nützlichste Satz von allen. Sie bringen die KI dazu, die Gegenseite zu formulieren. Dabei kommen oft Einschränkungen zum Vorschein, die in der ersten Antwort fehlten.

„Antworte nur mit dem, was du sicher weißt. Den Rest lass weg.“

Die Antwort wird kürzer. Genau das ist der Zweck.

Eine Warnung an dieser Stelle: Die beliebte Nachfrage „Bist du dir sicher?“ ist keine Prüfung. Die KI passt sich dann gern Ihrer Stimmung an oder bleibt selbstbewusst bei einer falschen Antwort. Beides fühlt sich nach Gewissheit an und ist keine. Verlässlich ist nur der Weg über echte Quellen: nennen lassen, selbst öffnen, selbst nachlesen.

Wie schlimm wäre ein Fehler? Drei Stufen

Das ist der wichtigste Abschnitt dieses Artikels. Wer alles prüft, prüft am Ende gar nichts mehr. Sortieren Sie stattdessen nach möglichem Schaden.

Grün: Ein Fehler ist egal.

Kuchenrezepte, Gedichte und Glückwünsche, Geschenkideen, Ausflugsvorschläge, Formulierungshilfen für einen Brief, Gesprächsthemen, Bastelanleitungen. Das Schlimmste, was passieren kann: Es schmeckt nicht oder gefällt Ihnen nicht. Am Text müssen Sie hier nichts prüfen, beim Kochen gelten die üblichen Küchenregeln aber natürlich weiter. Genießen Sie es einfach.

Gelb: Prüfen, bevor Sie losfahren oder etwas abschicken.

Öffnungszeiten und Adressen, Preise und Eintrittsgelder, Fahrpläne, Jahreszahlen für die Vereinschronik, die Bedienung Ihres Geräts, Termine und Anmeldefristen. Ein Fehler kostet hier Zeit, Geld oder eine unnötige Fahrt. Eine Minute an der offiziellen Quelle genügt.

Rot: Nie allein auf die KI verlassen.

Medikamente und Dosierungen, Krankheitszeichen, Verträge und Kündigungsfristen, Steuern, Geldanlagen, Vollmachten. Kurz: alles mit Unterschrift und alles mit Frist. Hier ist die KI eine Recherche-Hilfe und nichts weiter. Sie ersetzt keinen Arzt, keinen Anwalt und keinen Steuerberater.

Sie dürfen die KI durchaus nutzen, um sich vorzubereiten. Zum Beispiel: „Erkläre mir, was eine Vorsorgevollmacht ist.“ Oder: „Welche Fragen sollte ich meinem Arzt zu diesem Thema stellen?“ So gehen Sie besser informiert ins Gespräch. Die Entscheidung selbst gehört aber in die Hände von Fachleuten, die Sie und Ihre Situation kennen.

Ein Satz zum Merken: Je größer der mögliche Schaden, desto kleiner darf Ihr Vertrauen sein.

Und noch ein Hinweis zum roten Bereich: Persönliche Angaben wie Name, Geburtsdatum, Versichertennummer oder Aktenzeichen gehören nicht in die KI. Fragen Sie allgemein. Oder schwärzen Sie solche Stellen, bevor Sie einen Text hineinkopieren.

Sie haben einen Fehler entdeckt. Was jetzt?

Nichts Schlimmes ist passiert. Sie haben genau das getan, was man tun soll. Fünf Punkte für danach.

1. Sagen Sie es der KI, und zwar konkret. Nicht „Das ist falsch“, sondern: „Das Bürgeramt hat mittwochs geschlossen, auf der Seite der Stadt steht es anders. Bitte korrigiere das.“ Mit der richtigen Angabe im Gepäck arbeitet die KI sauber weiter.
2. Erwarten Sie keine Besserung für morgen. Ihre Korrektur gilt für dieses eine Gespräch. Die KI merkt sie sich nicht für alle Zeiten und nicht für andere Nutzer.
3. Sehen Sie sich den Rest der Antwort noch einmal an. Wo ein Detail erfunden war, sind es oft mehrere.
4. Fangen Sie im Zweifel neu an. Manchmal bleibt ein Fehler in einem Gespräch hartnäckig kleben. Ein neues, leeres Gespräch löst das meistens.
5. Ärgern Sie sich nicht über sich selbst. Sie sind nicht darauf hereingefallen, weil Sie zu wenig wissen. Sondern weil die Antwort so geschrieben war, dass man ihr glaubt.

Unter vielen Antworten finden Sie außerdem ein kleines Daumen-runter-Symbol. Damit können Sie eine falsche Antwort melden. Das ist freiwillig und hilft dem Anbieter beim Verbessern.

Sie haben mehr Erfahrung, als Sie denken

Zum Schluss eine Beruhigung: Diese Prüf-Haltung ist für Sie nichts Neues. Sie glauben ja auch nicht jeder Schlagzeile, jedem Werbeversprechen und jedem Gerücht aus der Nachbarschaft. Ihre Lebenserfahrung im Umgang mit Behauptungen ist genau die Fähigkeit, die man im Umgang mit KI braucht. Sie bringen also das Wichtigste schon mit.

Ist das sicher?

Was kostet es? Das Prüfen kostet nichts, und die KI selbst auch nicht. Die kostenlose Version von ChatGPT reicht für alles, was in diesem Artikel beschrieben ist.

Was passiert mit meinen Daten? Ihre Fragen werden an den Anbieter übertragen. Gerade bei Gesundheits- oder Geldthemen gilt deshalb: Fragen Sie allgemein („Was hilft bei Rückenschmerzen?“) statt persönlich mit Namen und Details.

Kann ich etwas kaputt machen? Nein. Auch kritisches Nachfragen „verärgert“ die KI nicht. Sie können jede Antwort anzweifeln, jede Frage wiederholen und nichts beschädigen. Skepsis ist hier ausdrücklich erwünscht.

Und wenn ich einen Fehler übersehe? Dann kommt es darauf an, in welcher der drei Stufen Sie unterwegs waren. Solange Sie im roten Bereich immer einen Menschen fragen, kann Ihnen wenig passieren.

Ihr nächster Schritt

Nehmen Sie sich heute eine einzige Antwort vor. Suchen Sie darin die konkreteste Angabe, also eine Zahl, einen Namen oder eine Uhrzeit. Und prüfen Sie genau diese eine Angabe an der offiziellen Quelle nach. Zwei Minuten, und Sie haben die Routine im Gefühl.

Wenn Sie dafür erst noch Übungsideen brauchen, hilft mein Artikel „Die erste Frage an die KI: 10 Ideen zum Ausprobieren“. Zum Ausdrucken und Danebenlegen gibt es außerdem meinen kostenlosen KI-Schummelzettel. Und mit dem kostenlosen Newsletter „Der KI-Brief“ bleiben Sie jeden Sonntag verständlich auf dem Laufenden.