Glaub nicht alles, was du siehst

Kaltstart

Katja: Jens, kleines Quiz zum Einstieg. Du bekommst ein Foto, und du willst wissen, ob es echt ist. Was ist der verlässlichste Hinweis? Erstens: Die Hände sehen normal aus, fünf Finger, alles da. Zweitens: Das Bild ist gestochen scharf. Drittens: Eine Redaktion, die du kennst, zeigt dasselbe Foto und schreibt dazu, woher es stammt.

Jens: Das ist eine Fangfrage, oder? Ich hätte früher ganz ehrlich eins gesagt. Die Hände. Da patzt die KI doch immer.

Katja: Früher, ja. Heute ist die Antwort drei. Und zwar mit großem Abstand.

Jens: Weil die Hände inzwischen stimmen?

Katja: Weil die Hände immer öfter stimmen. Und weil ein Bild ohne Fehler trotzdem gefälscht sein kann. Das Einzige, was sich nicht so leicht fälschen lässt, ist die Frage, wer es dir zeigt.

Begrüßung

Jens: Hallo und willkommen bei Hallo KI. Ich bin Jens.

Katja: Und ich bin Katja. Und heute passt unser Hinweis besonders gut: Jens und ich sind KI-Stimmen, also im Grunde selbst eine Art Fälschung. Nur eben mit Ansage. Die Inhalte prüft Dominik von Hallo KI.

Jens: Mit Ansage. Das ist, glaube ich, der ganze Unterschied, um den es heute geht.

Katja: Genau. Aber vorher dein Bericht. Letztes Mal ging es darum, welche KI man überhaupt nimmt.

Jens: Ich hab mich festgelegt und nicht mehr fünf Apps parallel ausprobiert. Einmal hab ich noch über den Zaun geschaut und dieselbe Frage einem zweiten Programm gestellt. Die Antworten waren anders formuliert, im Kern aber gleich. Mein Fazit: Der Unterschied zwischen einer guten und einer schlechten Frage ist größer als der zwischen den großen Anbietern.

Katja: Das unterschreibe ich. Heute geht es um Bilder und Videos. Wie Fälschungen entstehen, woran man sie erkennt, warum das bald nicht mehr reicht, und was stattdessen hilft. Und am Ende, was du deinen Eltern und deinen Kindern mitgibst.

Wie so ein Bild entsteht

Jens: Fangen wir vorne an. Wenn ich einer KI sage: Mal mir den Papst in einer Daunenjacke. Was passiert da eigentlich?

Katja: Vereinfacht so: Ein Bildprogramm hat beim Training unvorstellbar viele Bilder gesehen, jeweils mit einer Beschreibung dazu. Daraus hat es gelernt, wie Dinge aussehen, die zu bestimmten Wörtern passen. Wie eine Daunenjacke Falten wirft. Wie Licht auf einem Gesicht liegt. Wie ein Foto aus einer Nachrichtenagentur wirkt.

Jens: Und dann setzt es das zusammen wie eine Collage?

Katja: Nein, und das ist der wichtige Punkt. Es klebt nichts aus alten Bildern zusammen. Es baut ein völlig neues Bild, Schritt für Schritt, aus einer Art Rauschen heraus. So lange, bis das Ergebnis zu deiner Beschreibung passt. Deshalb gibt es von so einem Bild auch kein Original, das man irgendwo finden könnte.

Jens: Und bei Videos? Da bewegt sich ja jemand, redet, blinzelt.

Katja: Da gibt es zwei Wege. Entweder wird das ganze Video neu erzeugt, wie beim Bild, nur eben mit Bewegung. Oder man nimmt ein echtes Video und tauscht etwas aus. Das Gesicht, oder nur die Lippenbewegung, passend zu einem neuen Text. Und die Stimme dazu klont man, wie wir es in der Folge über Schockanrufe hatten.

Jens: Also: echtes Gesicht, echter Hintergrund, erfundener Satz.

Katja: Genau. Das Wort dafür kennst du: Deepfake. Die KI lernt aus echten Aufnahmen eines Menschen und lässt ihn danach Dinge sagen oder tun, die nie passiert sind. Früher brauchte man dafür ein Studio. Heute reicht ein normaler Computer oder eine App.

Jens: Eine Frage hab ich noch zum Verständnis. Warum hatten diese Programme eigentlich so lange Probleme mit Händen? Das ist ja fast schon ein Witz geworden.

Katja: Weil das Programm keine Anatomie gelernt hat, sondern Muster. Es weiß nicht, dass ein Mensch fünf Finger hat. Es weiß nur, wie Hände auf Bildern ungefähr aussehen. Und Hände tauchen auf Fotos in unzähligen Haltungen auf, halb verdeckt, verschränkt, um eine Tasse gelegt. Da hat das Muster lange gewackelt. Bei Schrift im Bild genauso. Es kannte das Aussehen von Buchstaben, aber nicht die Rechtschreibung.

Jens: Und genau diese Schwächen werden gezielt ausgebessert.

Katja: Mit jeder neuen Generation ein Stück mehr. Das ist die unbequeme Wahrheit dieser Folge.

Echte Fotos, falsche Geschichten

Jens: Bevor wir zu den Erkennungszeichen kommen, muss ich was loswerden. Ich hab das Gefühl, wir reden bei dem Thema immer nur über KI. Aber die meisten Falschmeldungen, die bei mir ankommen, brauchen gar keine KI.

Katja: Da hast du völlig recht. Und das wird oft vergessen.

Jens: Da ist ein echtes Foto von einer Überschwemmung. Nur ist es fünf Jahre alt und aus einem ganz anderen Land. Und drunter steht: So sieht es gerade bei uns aus.

Katja: Echtes Bild, falsche Geschichte. Das ist billig, schnell gemacht und sehr wirksam. Und keine Pixelprüfung der Welt findet da einen Fehler, weil am Bild nichts falsch ist. Falsch ist nur der Satz darunter.

Jens: Und das ist für mich der Grund, warum ich bei dem Thema skeptisch bin, wenn jemand sagt: Ich erkenne Fälschungen am Bild. Das hilft dir bei genau diesem Fall überhaupt nicht.

Katja: Und dazu gibt es noch die Kehrseite. Wenn sich alle daran gewöhnen, dass alles gefälscht sein könnte, dann kann jeder, der wirklich etwas Peinliches gesagt hat, einfach behaupten: Das war eine KI.

Jens: Wie praktisch. Die Ausrede gibt es gratis dazu.

Katja: Genau. Deshalb reicht es nicht, einfach alles anzuzweifeln. Wer allem misstraut, glaubt am Ende gar nichts mehr, auch nicht das Echte. Wir brauchen eine bessere Methode als Zweifel.

Die Fehlerbilder und ihr Verfallsdatum

Jens: Trotzdem. Gibt es Stellen, an denen man eine Fälschung heute noch sehen kann?

Katja: Einige. Bei Bildern: Hände, Zähne, Ohren. Schrift auf Schildern und Plakaten, die keinen Sinn ergibt. Ohrringe oder Brillenbügel, die links anders aussehen als rechts. Linien im Hintergrund, die sich verbiegen, Gesichter in einer Menge, die verschwimmen. Licht und Schatten, die nicht zusammenpassen. Und oft eine Haut ohne Poren, wie aus Wachs.

Jens: Und bei Videos?

Katja: Da schau auf die Augen. Blinzelt die Person zu selten, zu oft, wirkt der Blick starr? Dann der Mund. Laufen die Lippen leicht versetzt zum Ton? Und die Ränder. Wenn jemand den Kopf dreht, flackert es manchmal am Übergang zwischen Gesicht und Haaren oder am Hals.

Jens: Gut. Und jetzt der Haken, den du vorhin angedeutet hast.

Katja: Diese Liste hat ein Verfallsdatum. Sie hilft bei schlechten Fälschungen, und die gibt es noch reichlich. Gute Fälschungen machen solche Fehler kaum noch. Und daraus folgt ein Satz, den man sich wirklich merken muss: Wenn du keinen Fehler findest, ist das kein Beweis, dass es echt ist.

Jens: Das ist wie bei einem Geldschein. Wenn ich keinen Fehler sehe, heißt das nur, dass ich keinen sehe.

Katja: Schöner Vergleich. Und es gibt auch den umgekehrten Fehler. Moderne Handykameras glätten Haut, viele Leute nutzen Filter, und wenn ein Foto dreimal durch einen Messenger gegangen ist, ist es matschig und voller Kästchen. Ein echtes Foto kann also genau die Merkmale haben, die wir gerade als verdächtig beschrieben haben.

Jens: Also kann ich mich weder auf das Fehlen noch auf das Vorhandensein von Fehlern verlassen.

Katja: Nicht allein. Die Merkmale sind Hinweise, keine Beweise.

Jens: Und was ist mit Programmen, die angeblich KI-Bilder erkennen? Oder ich frag einfach die KI selbst: Ist das Bild echt?

Katja: Beides würde ich nicht als Urteil nehmen. Solche Erkennungsprogramme liegen in beide Richtungen daneben. Und wenn du einen Chatbot fragst, ob ein Foto echt ist, bekommst du eine Antwort, die sehr sicher klingt. Wir hatten in der Folge über Halluzinationen: Sicher klingen heißt nichts.

Jens: Und die Kennzeichnung? Die Europäische Union hat ja Regeln beschlossen, nach denen KI-Bilder und KI-Videos gekennzeichnet werden sollen. Mit einem sichtbaren Hinweis oder einer unsichtbaren Markierung in der Datei. Seriöse Anbieter machen da mit.

Katja: Stimmt. Und wo siehst du den Haken?

Jens: Zwei Haken. Betrüger halten sich nicht daran. Und so eine Markierung in der Datei geht oft verloren, wenn jemand ein Bildschirmfoto macht und das weiterschickt. Also: Wenn ein Hinweis draufsteht, ist das nützlich. Wenn keiner draufsteht, heißt das gar nichts.

Katja: Kein Hinweis ist kein Echtheitssiegel.

Quelle statt Pixel

Jens: Gut. Die Augen reichen nicht, die Technik reicht nicht. Was bleibt?

Katja: Das, was Leute in Faktencheck-Redaktionen machen. Und das ist verblüffend einfach. Die schauen gar nicht so lange auf das Bild. Die machen daneben ein neues Fenster auf und prüfen, woher es kommt.

Jens: Quelle statt Pixel.

Katja: Genau das. Drei Fragen. Erstens: Wer hat das zuerst veröffentlicht? Ein Konto, das es seit Jahren gibt und das man kennt, oder eins, das vor drei Wochen aufgetaucht ist? Zweitens: Berichtet auch eine seriöse Quelle darüber? Die Tagesschau, deine Zeitung, eine bekannte Redaktion. Drittens: Seit wann gibt es dieses Bild?

Jens: Und die dritte Frage beantworte ich mit der Rückwärtssuche. Bei den großen Suchmaschinen kann ich statt eines Suchworts ein Bild hochladen. Dann sehe ich, wo es überall schon aufgetaucht ist, und oft auch, wann zum ersten Mal.

Katja: Genau. Wenn dein angebliches Foto von heute schon vor Jahren in einem ganz anderen Zusammenhang auftaucht, bist du fertig.

Jens: Das hilft aber nur bei echten Fotos mit falscher Geschichte, oder? Ein frisch erzeugtes KI-Bild findet die Suche ja nirgends.

Katja: Gut aufgepasst. Stimmt. Aber auch das ist eine Auskunft. Ein angeblich weltbewegendes Foto, das keine einzige Redaktion zeigt und das vor gestern nirgends existierte? Das spricht nicht für das Foto.

Jens: Und die Tagesschau prüft das dann für mich.

Katja: Seriöse Redaktionen prüfen Bilder, bevor sie sie zeigen, und sagen dazu, woher sie stammen. Ein Kettenbrief in einer Chatgruppe tut das nicht. Deshalb ist die Umstellung eigentlich ganz entspannt: Nicht das einzelne Bild verdient dein Vertrauen, sondern der Absender. Du musst nicht jedem Bild misstrauen. Du musst nur wissen, wem du vertraust.

Jens: Und warum fallen trotzdem so viele darauf rein? Nicht, weil sie dumm sind.

Katja: Sondern?

Jens: Weil solche Bilder auf Gefühle zielen. Wut, Angst, Rührung, Gier. Und wer aufgewühlt ist, prüft nicht. Ich hab mir deshalb eine Regel gemacht: Wenn der Puls hochgeht, geht der Daumen weg vom Teilen-Knopf. Drei Sekunden durchatmen, dann erst die drei Fragen.

Katja: Die nehm ich. Je empörender ein Bild, desto misstrauischer. Und wenn du es nicht klären kannst, leitest du es einfach nicht weiter. Du musst eine Fälschung nicht beweisen. Du musst sie nur nicht verbreiten.

Jens: Und kann die KI da wenigstens helfen, wenn sie schon kein Urteil fällen soll?

Katja: Beim Vorgehen, ja. Du kannst sie bitten, dir einen Prüfplan für genau deinen Fall zu machen. Und wenn dein Programm im Internet suchen kann, kannst du es suchen lassen, ob seriöse Medien über ein Ereignis berichten, mit Links. Dann klickst du die Links selbst an und schaust, ob da wirklich steht, was behauptet wird. Die KI sucht mit, das Urteil bleibt bei dir.

Was du Eltern und Kindern mitgibst

Jens: Jetzt kommt der Teil, der mich eigentlich am meisten umtreibt. Wir sind ja die, die in beide Richtungen schauen. Nach oben zu den Eltern, nach unten zu den Kindern.

Katja: Fangen wir oben an. Bei Leuten um die achtzig sind es vor allem vier Maschen. Der Promi, der in einem Video eine Geldanlage empfiehlt. Der Mann im weißen Kittel mit dem Wundermittel, das die Pharmaindustrie angeblich verhindern will. Der Spendenaufruf nach einer Katastrophe, mit Bildern, die es nie gab. Und die nachgebaute Nachrichtensendung, die am Ende wieder bei derselben Geldanlage landet.

Jens: Und beim ersten bin ich ganz streng. Ein Promi, der in einem Video eine Geldanlage mit hohen Gewinnen empfiehlt: Das ist Betrug. Immer. Da gibt es keine Ausnahme, über die man nachdenken müsste.

Katja: Und beim Wundermittel ist der Trick die zweite Hälfte der Geschichte. Die Behauptung, dass jemand Mächtiges das unterdrücken will, erklärt schon im Voraus, warum die Hausärztin nichts davon weiß.

Jens: Wie sag ich das den Eltern, ohne dass es nach Belehrung klingt? Denn wenn ich da mit „Du fällst ja auf alles rein“ komme, ist das Gespräch vorbei.

Katja: Nicht mit einer Liste von zwanzig Merkmalen. Eine einzige Regel reicht. Ein Video ist kein Beweis mehr. Und: Wenn ein Video dich drängt, Geld auszugeben, anzulegen oder zu spenden, dann erst mal nichts tun und mich anrufen. Nicht, weil du es nicht kannst, sondern weil zwei mehr sehen als einer.

Jens: Und am besten erzählt man es so, als hätte man es selbst gerade gelernt. Was ja auch stimmt. Für Spenden hätte ich noch einen praktischen Satz: Nie über einen Link aus einem Video spenden, sondern die Adresse einer bekannten Hilfsorganisation selbst eintippen.

Katja: Genau so. Das Geld kommt genauso an, nur eben bei den Richtigen.

Jens: Und dann die Kinder. Da ist es ja fast umgekehrt. Die kennen die Technik oft besser als wir.

Katja: Die Technik ja. Aber auf ein Video, das perfekt in ihre Empörung passt, fallen Jugendliche genauso herein wie Erwachsene. Da hilft dieselbe Methode. Quelle statt Pixel. Und du kannst das richtig gut zusammen üben. Setzt euch hin, schaut euch ein paar Bilder an, ratet, was echt ist. Die Kinder gewinnen vermutlich. Und dann fragst du: Und woher wissen wir es sicher? Dann landet ihr automatisch bei der Quelle.

Jens: Es gibt aber noch eine dunklere Seite, die Eltern kennen sollten.

Katja: Ja. Es gibt Programme, mit denen man aus einem ganz normalen Foto ein gefälschtes Nacktbild machen kann. Und das passiert auch unter Jugendlichen. Als Mobbing, als vermeintlicher Scherz.

Jens: Und das ist kein Scherz. Das ist eine schwere Verletzung, und bei Minderjährigen ist das eine Straftat. Auch wer so ein Bild nur weiterschickt, macht mit.

Katja: Was sagt man seinem Kind dazu?

Jens: Vor allem das: Wenn dir so etwas passiert, bist du nicht schuld. Komm zu uns, wir schimpfen nicht. Und dann: nichts löschen, sondern Bildschirmfotos als Beweis sichern, bei der Plattform melden, die Schule einschalten und zur Polizei gehen. Und ein bisschen Vorbeugung schadet auch nicht. Je weniger Fotos mit Gesicht öffentlich im Netz stehen, desto weniger Material hat jemand.

Katja: Ja. Kein Grund zur Panik, aber ein guter Grund, mal gemeinsam die Einstellungen der eigenen Konten durchzugehen.

Ist das sicher?

Jens: Dann meine Pflichtfrage. Kostet das Prüfen was?

Katja: Nichts. Quelle suchen, Rückwärtssuche, bei einer Redaktion nachschauen: alles kostenlos.

Jens: Und die Daten? Bei der Rückwärtssuche lade ich ja ein Bild bei einer Suchmaschine hoch.

Katja: Guter Punkt. Mit einem Bild, das ohnehin öffentlich kursiert, ist das unbedenklich. Private Fotos von deiner Familie lädst du da aber nicht einfach hoch, und schon gar nicht Bilder von Kindern.

Jens: Kann ich was kaputt machen?

Katja: Durch Anschauen und Prüfen nicht. Gefährlich wird es, wenn du in so einem Beitrag etwas anklickst, Daten eingibst oder Geld überweist. Genau davor schützt dich das Prüfen.

Jens: Und die Grenze, weil es heute so oft um Geld und Gesundheit ging.

Katja: Bei Geldanlagen ist die KI höchstens eine Hilfe zum Verstehen, keine Beratung, und der Promi im Video schon gar nicht. Bei Gelenkschmerzen fragst du deine Ärztin. Und wenn schon Geld geflossen ist: sofort die Bank anrufen, Anzeige erstatten, darüber reden. Und wer danach anruft und anbietet, das Geld gegen eine Gebühr zurückzuholen, gehört zu denselben Tätern.

Prompts zum Mitnehmen

Katja: Und jetzt zum Mitnehmen. Erste Situation: In deiner Familiengruppe kursiert ein Foto, angeblich von gestern, und du willst nicht raten. Dann schreibst du: „In einer Chatgruppe kursiert ein Foto, das angeblich gestern bei einem Unwetter in unserer Stadt aufgenommen wurde. Ich will nicht raten, ob es echt ist. Mach mir einen Prüfplan in fünf Schritten: Wie finde ich heraus, wer es zuerst veröffentlicht hat, seit wann es im Netz ist und ob seriöse Medien darüber berichten? Nenne bei jedem Schritt, was ein Warnzeichen wäre.“

Jens: Und warum funktioniert der?

Katja: Weil du die KI nicht um ein Urteil bittest, sondern um eine Methode. Und die Methode kann sie gut.

Jens: Zweitens, wenn dein Programm im Internet suchen kann. Du hast ein Video gesehen, in dem ein bekannter Fernsehmoderator eine Geldanlage empfiehlt. Dann schreibst du: „Suche, ob seriöse Nachrichtenseiten darüber berichten, dass ein bekannter Fernsehmoderator eine Geldanlage empfiehlt. Nenne mir nur Quellen mit Link. Wenn du nichts Belastbares findest, sag das ausdrücklich und rate nicht.“ Den Moderator ersetzt du natürlich durch das, was du gesehen hast.

Katja: Der Kniff steckt im letzten Satz. Du erlaubst der KI, „nichts gefunden“ zu sagen. Und die Links prüfst du selbst. Drittens, für die Eltern. „Meine Eltern sind um die achtzig und leiten in der Familiengruppe manchmal Videos weiter, die gefälscht sein könnten. Schreib mir eine kurze, liebevolle Nachricht an sie, ohne erhobenen Zeigefinger, mit genau einer Regel: Bei Videos, in denen jemand Geld, eine Geldanlage oder ein Wundermittel anpreist, erst mich anrufen. Höchstens fünf Sätze, so wie ich mit ihnen rede.“

Jens: Der funktioniert, weil du Empfänger, Ton, Länge und die eine Regel festlegst. Sonst kommt ein Vortrag. Und viertens, für die Kinder. „Ich möchte mit meinem vierzehnjährigen Kind über gefälschte Bilder und Videos reden, ohne dass es nach Vortrag klingt. Stell mir zuerst zwei Rückfragen zu seinen Interessen. Schlag mir danach drei Gesprächseinstiege vor, die an seine Welt anknüpfen, und fünf Fragen, bei denen es mir etwas erklären kann.“

Katja: Der Trick: Die Rückfragen machen es persönlich, und die Rollen werden getauscht. Dein Kind erklärt, du fragst. Das hört jeder lieber.

Dein nächster Schritt

Jens: Und bis zum nächsten Mal?

Katja: Mach einmal eine Rückwärtssuche, bevor du sie wirklich brauchst. Nimm ein beliebiges Nachrichtenfoto, lade es bei einer Suchmaschine hoch und schau, wo es überall auftaucht und wann zum ersten Mal. Damit der Handgriff sitzt. Und beim nächsten Bild, das dich aufregt: erst die Quelle, dann die Pixel.

Jens: Rückwärtssuche üben, solange nichts brennt. Mach ich. Ich berichte.

Merksatz und Verabschiedung

Katja: Wenn du nur eins mitnimmst: Ein Foto oder Video ist kein Beweis mehr.

Jens: Prüf die Quelle, nicht die Pixel. Nicht das Bild verdient Vertrauen, sondern der Absender.

Katja: Und wenn du das deinen Eltern in Ruhe zum Nachlesen geben willst: Auf hallo-ki.de gibt es einen Artikel zum Erkennen von Deepfakes. Da wird gesiezt, die Seite ist für unsere Eltern gemacht.

Jens: In der nächsten Folge bleiben wir bei den Betrügern. Gefälschte Mails, falsche Online-Shops, Promi-Werbung, und was die KI daran verändert. Zu schön, um wahr zu sein. Ich bin Jens.

Katja: Ich bin Katja. Danke fürs Zuhören, und bleib neugierig. Bis bald.