Die neuen KI-Regeln der EU: Was sich für Sie ändert

Ein Bekannter schickt Ihnen ein Video aufs Handy. Darin sagt ein bekanntes Gesicht aus dem Fernsehen etwas Ungeheuerliches. Sie schauen es zweimal an. Und wissen trotzdem nicht: Ist das echt oder am Computer gemacht?

Dieses Gefühl kennen inzwischen viele Menschen. Genau dafür gibt es jetzt Regeln. Die Europäische Union hat ein Gesetz für Künstliche Intelligenz beschlossen. Es soll dafür sorgen, dass Sie erkennen können, wann eine Maschine im Spiel war.

In diesem Artikel lesen Sie, was dieses Gesetz für Ihren Alltag bedeutet. Ein Hinweis vorweg: Dieser Artikel erklärt die Regeln in einfachen Worten. Er ersetzt keine Rechtsberatung.

Was die EU beschlossen hat

Das Gesetz heißt KI-Verordnung. Oft hören und lesen Sie auch den englischen Namen „AI Act“. Das ist nichts anderes als das englische Wort für KI-Gesetz. Beide Bezeichnungen meinen dasselbe.

Diese Verordnung gilt in allen Ländern der Europäischen Union. Also auch in Deutschland und in Österreich. Sie ist das erste umfassende KI-Gesetz der Welt. Andere Länder schauen sich gerade an, wie es sich bewährt.

Der Grundgedanke dahinter ist einfach. Nicht jede KI ist gleich heikel. Ein Programm, das Ihnen Kochrezepte vorschlägt, ist etwas anderes als ein Programm, das über Ihren Kreditantrag mitentscheidet. Deshalb sortiert das Gesetz KI nach Risiko. Es gibt grob drei Stufen:

1. Verboten. Einige Anwendungen sind in der EU gar nicht erlaubt. Dazu gleich mehr.
2. Streng geregelt. Überall dort, wo es um Gesundheit, Arbeit, Bildung, Geld oder Behörden geht, gelten harte Auflagen. Die Anbieter müssen prüfen, dokumentieren und Fehler melden.
3. Kaum geregelt. Ein KI-Filter gegen Werbemails oder eine Rechtschreibhilfe darf einfach arbeiten. Da droht Ihnen nichts.

Für Sie im Alltag ist vor allem eine weitere Gruppe wichtig: Programme, die mit Menschen sprechen oder Inhalte erzeugen. Für diese gilt eine sogenannte Transparenzpflicht. Auf Deutsch: Es muss offen gesagt werden, dass eine Maschine beteiligt war.

Vier Dinge, die für Sie wichtig sind

Sie müssen erkennen können, dass Sie mit einer Maschine sprechen

Kennen Sie das kleine Chatfenster, das auf manchen Internetseiten unten rechts aufgeht? Ein Chatfenster ist ein Feld, in das Sie schreiben und sofort eine Antwort bekommen. „Guten Tag, wie kann ich Ihnen helfen?“ Bisher war oft unklar, ob dort ein Mensch sitzt oder ein Programm antwortet.

Das Gesetz verlangt jetzt Klarheit. Wenn Sie es mit einer KI zu tun haben, muss Ihnen das gesagt werden. Sie sollen nicht raten müssen. Ausgenommen sind nur Fälle, in denen es ohnehin für jeden offensichtlich ist.

Das Gleiche gilt am Telefon. Auch eine freundliche Computerstimme muss sich als solche zu erkennen geben.

KI-erzeugte Bilder, Videos und Töne müssen gekennzeichnet werden

Wer ein Bild, ein Video oder eine Tonaufnahme von einer KI erzeugen lässt und dann veröffentlicht, muss das kenntlich machen. Besonders streng ist die Regel bei Aufnahmen, die echt wirken sollen. Also bei sogenannten Deepfakes (sprich: „Diep-Fehks“), den täuschend echten Fälschungen. Woran Sie solche Fälschungen mit bloßem Auge erkennen, zeigt unser Artikel „Deepfakes erkennen“.

Auch für Texte gibt es eine Kennzeichnungspflicht, wenn darin über Dinge von öffentlichem Interesse berichtet wird.

Sie werden solche Hinweise künftig häufiger sehen. „Mit KI erstellt“ wird auf Internetseiten so normal wie die Zutatenliste auf einer Packung.

Manches ist ganz verboten

Einige Anwendungen sind in der EU nicht erlaubt. Zwei Beispiele zeigen gut, worum es geht.

Die Bewertung von Menschen nach ihrem Verhalten durch den Staat. Stellen Sie sich ein System vor, das Bürger nach ihrem täglichen Betragen in Punkte einteilt. Wer zu wenige Punkte hat, bekommt bestimmte Rechte nicht mehr. So etwas ist in der EU verboten. Aus anderen Teilen der Welt kennt man solche Systeme. Hier soll es sie nicht geben.

Das Auslesen von Gefühlen am Arbeitsplatz. Manche Programme wollen über Kamera oder Stimme erkennen, wie es Ihnen gerade geht. Ob Sie gestresst sind, gelangweilt oder wütend. Am Arbeitsplatz und in Schulen ist das untersagt. Ausnahmen gibt es nur aus medizinischen oder Sicherheitsgründen. Ihre Gefühle gehören Ihnen.

Es gibt noch weitere Verbote. Der Gedanke dahinter ist aber immer derselbe: Nicht alles, was technisch möglich ist, darf auch gemacht werden.

Bei wichtigen Entscheidungen muss ein Mensch beteiligt sein

Das ist vielleicht der beruhigendste Punkt von allen. Wo eine KI über etwas Wichtiges mitentscheidet, darf sie nicht allein entscheiden. Ein Mensch muss eingreifen können.

Gemeint sind Bereiche wie eine Bewerbung, ein Kreditantrag, eine Versicherungsfrage oder eine Leistung vom Amt. Dort gilt eine KI als Anwendung mit hohem Risiko. Die Anbieter müssen dafür sorgen, dass Menschen die Aufsicht behalten.

Dazu kommt: Trifft eine solche KI eine Entscheidung über Sie, dürfen Sie eine Erklärung verlangen. Sie müssen sich nicht mit dem Satz „Das hat der Computer so entschieden“ abspeisen lassen.

Ab wann gilt was?

Die KI-Verordnung ist 2024 in Kraft getreten. Sie gilt aber nicht auf einen Schlag, sondern in Stufen. Das ist Absicht. Unternehmen sollen Zeit bekommen, ihre Programme umzustellen.

Ein Datum sollten Sie sich merken: den 2. August 2026. Ab dann greift die Kennzeichnungspflicht für KI-Inhalte. Von diesem Tag an sehen Sie also häufiger einen Hinweis. Nämlich immer dann, wenn ein Bild, ein Video oder eine Stimme von einer Maschine stammt.

Die Verbote aus dem vorigen Abschnitt gelten bereits. Andere Teile folgen später. Weitere Termine nennen wir hier bewusst nicht, weil an einzelnen Fristen noch gearbeitet wird. Wir tragen sie nach, sobald sie feststehen.

Was das für Sie ganz praktisch heißt

Drei Dinge nehmen Sie aus diesem Gesetz mit in den Alltag.

Erstens: Sie dürfen fragen. Sitzen Sie in einem Chatfenster oder hängen Sie in einer Telefonschleife? Dann fragen Sie ruhig direkt: „Bin ich hier bei einem Menschen?“ Das ist keine unhöfliche Frage. Eine ehrliche Antwort steht Ihnen zu.

Zweitens: Achten Sie auf den Hinweis. Suchen Sie bei Bildern und Videos nach Vermerken wie „Mit KI erstellt“ oder „KI-generiert“. Sie stehen meist direkt am Bild oder unmittelbar darunter. Fehlt der Hinweis bei einem Video, das Ihnen merkwürdig vorkommt, ist das ein Grund für gesundes Misstrauen.

Drittens: Die Regel gilt auch für Sie. Das übersehen viele. Wenn Sie selbst ein Bild von einer KI erzeugen lassen und veröffentlichen, schreiben Sie es dazu. Im Vereinsblatt, im Gemeindebrief, auf Facebook. Ein Satz genügt: „Dieses Bild wurde mit Künstlicher Intelligenz erstellt.“ Das kostet Sie zehn Sekunden und schafft Vertrauen bei allen, die es lesen.

Ihre Daten und die KI

Die KI-Verordnung regelt, was Künstliche Intelligenz darf. Für Ihre persönlichen Daten gilt daneben weiterhin die Datenschutz-Grundverordnung, kurz DSGVO. Sie kennen sie von den Zustimmungsfenstern auf Internetseiten. Die DSGVO gibt Ihnen Rechte: auf Auskunft, auf Berichtigung und auf Löschung.

Beide Gesetze zusammen sind ein ordentliches Sicherheitsnetz. Aber ein Netz ersetzt keine eigene Vorsicht.

Die praktische Regel bleibt deshalb genau dieselbe wie vorher. Geben Sie keine empfindlichen Daten in eine KI ein. Keine Passwörter, keine Kontonummern, keinen vollen Namen mit Adresse, keine Befunde vom Arzt. Was Sie nie eintippen, kann auch niemand speichern. Wie das bei ChatGPT im Einzelnen aussieht und wie Sie Gespeichertes wieder loswerden, steht in „Was ChatGPT über Sie speichert“.

Woran Sie einen seriösen Anbieter erkennen

Gesetze helfen nur, wenn sich jemand daran hält. Schauen Sie deshalb auch selbst genau hin, bevor Sie ein neues KI-Programm nutzen. Sechs Punkte reichen für eine erste Einschätzung:

1. Ein vollständiges Impressum. Name, Anschrift und Verantwortlicher stehen da. Fehlt das Impressum ganz, ist die Sache erledigt.
2. Eine verständliche Datenschutzerklärung. Sie muss nicht kurz sein. Aber Sie sollten nach fünf Minuten Lesen wissen, was mit Ihren Eingaben passiert.
3. Ein klarer Preis. Was kostet die kostenlose Version wirklich? Steht dort, was ein Abonnement pro Monat kostet und wie Sie es kündigen?
4. Ein Sitz in der EU oder eine Vertretung in der EU. Anbieter von außerhalb müssen einen Ansprechpartner in Europa benennen. Den finden Sie im Impressum oder in der Datenschutzerklärung.
5. Ein erreichbarer Kontakt. Eine echte E-Mail-Adresse oder ein Kontaktformular. Ein reines Chatfenster ohne jede Adresse ist zu wenig.
6. Keine Vorkasse für angeblich kostenlose Dienste. Wer für einen „gratis“ beworbenen Dienst vorab Ihre Kreditkarte sehen will, hat etwas vor. Brechen Sie ab.

Fehlen mehrere dieser Punkte, lassen Sie die Finger davon. Es gibt genügend seriöse Anbieter, bei denen alles vorhanden ist.

Ist das sicher?

Sie müssen für diese Regeln nichts tun und nichts bezahlen. Es gibt nichts anzumelden, nichts zu unterschreiben und keine Frist, die Sie versäumen könnten. Sollte Sie jemand anrufen und behaupten, Sie müssten wegen des neuen KI-Gesetzes etwas veranlassen: Das ist ein Betrugsversuch. Legen Sie auf.

Ihre Daten sind beim Lesen dieses Artikels nicht im Spiel. Sie geben hier nichts ein. Und kaputt machen können Sie erst recht nichts. Wissen über Ihre Rechte kann nichts beschädigen.

Ehrlich bleiben müssen wir bei einem Punkt. Das Gesetz beendet den Betrug im Internet nicht. Kriminelle halten sich nicht an Verordnungen. Kein Betrüger wird sein gefälschtes Video brav mit „Mit KI erstellt“ beschriften. Die Kennzeichnung hilft Ihnen bei seriösen Anbietern. Bei unseriösen bleibt Ihr eigener wacher Blick die beste Prüfung.

Und noch einmal deutlich: Dieser Artikel erklärt, er berät nicht. Wenn Sie ein konkretes rechtliches Problem haben, wenden Sie sich an einen Anwalt oder an die Verbraucherzentrale.

Ihr nächster Schritt

Schauen Sie sich heute eine solche Kennzeichnung einmal in Ruhe an. Dann wissen Sie, wonach Sie künftig suchen müssen. Auf dieser Seite finden Sie den Hinweis über jedem Artikel und an den erzeugten Bildern. Wie unsere Texte entstehen und wer dafür geradesteht, erklären wir offen auf der Seite Wie die Texte auf dieser Seite entstehen.

Sie möchten beim Thema Sicherheit auf dem Laufenden bleiben? Unser kostenloser Newsletter „Der KI-Brief“ bringt Ihnen jeden Sonntag eine Warnung oder eine Idee für den Alltag.