Was die KI über dich weiß

Kaltstart

Jens: Katja, mir ist diese Woche etwas passiert, da bin ich kurz vom Stuhl aufgesprungen.

Katja: Erzähl.

Jens: Ich mache ein ganz neues Gespräch auf. Leeres Fenster. Ich frage nach einer Idee fürs Abendessen. Und die KI schlägt mir etwas vor und schreibt dazu, ich hätte ja erwähnt, dass ich es gern schnell und ohne viel Abwasch mag.

Katja: Das hattest du ihr irgendwann gesagt.

Jens: Vor Wochen! In einem ganz anderen Gespräch! Ich dachte, jedes neue Fenster ist ein weißes Blatt.

Katja: Das war mal so. Und ehrlich gesagt: Ich finde genau das großartig.

Jens: Und ich finde, das ist das Unheimlichste, was mir mit diesem Ding bisher passiert ist. Das klären wir heute.

Begrüßung

Katja: Hallo und willkommen bei Hallo KI. Ich bin Katja.

Jens: Und ich bin Jens. Wie in jeder Folge vorweg: Katja und ich sind KI-Stimmen, und was wir sagen, hat Dominik von Hallo KI geprüft. Heute passt das besonders gut, denn es geht um Daten.

Katja: Erst dein Bericht. Letztes Mal ging es darum, ob die KI lügt, und du solltest einen kleinen Grenztest machen. Wie viele Vorsitzende hatte dein Heimatverein?

Jens: Mehr als in Wirklichkeit. Beim ersten Mal kam eine flüssige kleine Vereinsgeschichte mit Gründungsjahr und allem. Im neuen Gespräch, diesmal mit Quellen, stand ein anderes Gründungsjahr da. Und einer der Links führte auf die Vereinsseite, auf der davon gar nichts stand. Jetzt weiß ich, wie sich Raten anfühlt.

Katja: Genau darum ging es. Und heute kommt die Frage, die du seit der ersten Folge mit dir herumträgst: Was passiert mit dem, was ich eintippe? Wo liegt das, wer sieht es, wer lernt daraus, und was merkt sich die KI über mich? Am Ende weißt du, welche Schalter es gibt und welche davon wirklich etwas bringen.

Die vier Schubladen

Jens: Fangen wir technisch an. Ich tippe etwas ein und schicke es ab. Was passiert?

Katja: Dein Text verlässt dein Gerät. Das Sprachmodell läuft nicht auf deinem Handy, sondern im Rechenzentrum des Anbieters. Dort wird er verarbeitet, die Antwort kommt zurück.

Jens: Und dann? Wird er weggeworfen, sobald die Antwort da ist?

Katja: Nein. Und hier lohnt es sich, sauber zu trennen. Es gibt im Wesentlichen vier Dinge, die mit deinem Text passieren können. Ich nenne sie die vier Schubladen.

Jens: Vier Schubladen. Gut, ich zähle mit.

Katja: Schublade eins ist der Verlauf. Wenn du angemeldet bist, bleibt das Gespräch in deiner Liste, bis du es löschst. Das ist gewollt, damit du morgen weitermachen kannst. Schublade zwei ist das Training. Der Anbieter kann Gespräche als Übungsmaterial verwenden, um künftige Versionen seiner KI zu verbessern. Schublade drei ist das Gedächtnis. Die KI merkt sich Dinge über dich, über das einzelne Gespräch hinaus. Das war dein Abendessen.

Jens: Und vier?

Katja: Menschen. Live liest niemand mit. Aber einzelne Gespräche können von Mitarbeitern des Anbieters eingesehen werden, etwa zur Prüfung oder zum Verbessern der KI. Dein Abendessen interessiert dort niemanden persönlich.

Jens: Das hilft mir, das so auseinanderzunehmen. Ich hab bisher immer gedacht: Die speichern das, fertig. Aber das sind ja ganz verschiedene Dinge, und jedes hat seinen eigenen Schalter. Eine Frage vorher, weil die bei mir immer kommt. Die großen Anbieter sitzen in den USA. Gilt da überhaupt unser Datenschutz?

Katja: Bei ChatGPT zum Beispiel ist für Nutzer in Deutschland eine Gesellschaft des Anbieters in Irland verantwortlich. Es gilt also europäisches Datenschutzrecht. Verarbeitet wird trotzdem auch auf Rechnern außerhalb Europas, vor allem in den USA.

Jens: Also kein rechtsfreier Raum. Aber auch kein Tresor im eigenen Keller.

Katja: Schöner Satz. Genau so.

Training: Was da eigentlich gelernt wird

Jens: Schublade zwei macht mir am meisten Bauchweh. Training. Heißt das, mein Text steckt dann in der KI drin?

Katja: Anders, als viele denken. Denk an die erste Folge: Ein Sprachmodell lernt aus riesigen Mengen Text, welche Wörter wahrscheinlich aufeinander folgen. Dein Gespräch wäre ein winziger Tropfen in diesem Meer, keine Akte über dich, die später jemand aufschlägt.

Jens: Dann ist es doch egal.

Katja: Nicht ganz. Was einmal ins Training geflossen ist, bekommst du nicht zurück. Ein Gespräch kannst du löschen, das, was ein Modell daraus gelernt hat, nicht. Und du weißt nicht, welche Gespräche dafür ausgewählt und vorher von Menschen angeschaut werden.

Jens: Der eigentliche Punkt ist also nicht, dass jemand meinen Satz wiederfindet. Sondern dass ich ihn nicht mehr einsammeln kann.

Katja: Genau das.

Jens: Und einen Schalter dafür gibt es?

Katja: Bei den großen Anbietern ja, in den Einstellungen, meist im Bereich Datenschutz oder Datenkontrollen. Er heißt ungefähr so wie „Modell verbessern“. Die Beschriftung ändert sich ständig, also such nach dem Sinn, nicht nach dem genauen Wort.

Jens: Und wenn ich ihn ausmache, wird die KI für mich schlechter?

Katja: Nein, sie antwortet genauso gut. Du spendest nur kein Übungsmaterial mehr. Aber der Schalter wirkt nach vorn, nicht nach hinten.

Jens: Und nicht fürs Training heißt ja nicht nirgends gespeichert. Mein Verlauf liegt trotzdem weiter beim Anbieter, oder?

Katja: Genau. Zwei Schubladen, zwei Regler.

Jens: Also ein neues Schloss an der Tür. Aber die Wohnung ist noch voll.

Katja: Ja. Und deshalb bleibt die wichtigste Regel die, die gar keinen Schalter braucht: Was du nie eintippst, kann nie gespeichert werden.

Verlauf, Löschen und der temporäre Chat

Jens: Schublade eins, der Verlauf. Wenn ich ein Gespräch lösche, ist es dann weg?

Katja: Für dich sofort. Beim Anbieter verschwindet es in der Regel nach einer Frist, bei ChatGPT innerhalb von dreißig Tagen. Mit Ausnahmen, wenn etwas aus rechtlichen oder Sicherheitsgründen länger aufbewahrt werden muss.

Jens: „In der Regel.“ Solche Formulierungen liebe ich ja.

Katja: Zu Recht. Löschen räumt auf, ungeschehen macht es nichts. Und es gibt keinen Papierkorb, also hol vorher heraus, was du noch brauchst. Archivieren übrigens ist kein Löschen. Das Gespräch verschwindet dann nur aus der Liste.

Jens: Und was ist dieser temporäre Chat, von dem man immer wieder liest?

Katja: Mein Lieblingswerkzeug für heikle Fragen, und viel zu wenig bekannt. Den schaltest du vor dem Gespräch ein. Dann taucht es nicht im Verlauf auf, das Gedächtnis wird in der Grundeinstellung weder benutzt noch gefüttert, und es geht nicht ins Training. Bei ChatGPT behält der Anbieter aus Sicherheitsgründen noch bis zu dreißig Tage eine Kopie, danach ist sie weg.

Jens: Also so etwas wie das private Fenster im Browser. Bei mir bleibt nichts liegen, aber unsichtbar bin ich trotzdem nicht.

Katja: Genau, mit derselben Grenze. Und wenn du es schließt, ist das Gespräch auch für dich fort.

Jens: Wofür nimmst du den?

Katja: Für eine allgemeine Frage zu einer Krankheit im Bekanntenkreis. Für ein Geschenk, wenn jemand anderes dasselbe Gerät benutzt. Oder wenn ich eine unvoreingenommene Antwort will, ohne dass mein Gedächtnis mitredet.

Jens: Moment, das Letzte verstehe ich nicht. Unvoreingenommen?

Katja: Da kommen wir zu Schublade drei.

Das Gedächtnis: Komfort mit Nebenwirkungen

Jens: Also, das Gedächtnis. Wie funktioniert das?

Katja: Je nach Anbieter etwas unterschiedlich. Die KI legt sich Notizen über dich an, manches auf deine Bitte, manches von allein. Bei manchen Programmen kann sie sich außerdem auf frühere Gespräche beziehen. Diese Informationen bekommt sie vor jeder Antwort mitgeliefert, ohne dass du es siehst.

Jens: Deshalb wusste sie das mit dem Abendessen.

Katja: Genau. Und jetzt die ehrliche Abwägung, wir sehen das ja unterschiedlich. Meine Seite: Ich muss mich nicht jedes Mal neu vorstellen. Die KI weiß, dass ich knappe Antworten mag und in welchem Bereich ich arbeite. Das spart Zeit.

Jens: Und meine Seite: Da entsteht ein Bild von mir, das ich nicht selbst gezeichnet habe. Ich weiß nicht genau, was drinsteht. Und es färbt die Antworten, ohne dass ich es merke.

Katja: Das mit dem Färben ist der Punkt, an den kaum jemand denkt. Wenn die KI glaubt, du seist sparsam oder skeptisch, bekommst du Antworten für genau diesen Menschen. Das kann heißen, dass dir immer wieder dieselbe Sicht zurückgespiegelt wird.

Jens: Das ist ja ein bisschen wie bei den sozialen Netzwerken.

Katja: Ein bisschen, ja. Deshalb nehme ich für eine Frage, bei der ich eine neutrale Einschätzung will, gern den temporären Chat. Dann antwortet sie mir wie einer Fremden.

Jens: Und kann ich nachsehen, was im Gedächtnis steht?

Katja: Meist in den Einstellungen, oft unter „Personalisierung“. Dort kannst du Einträge löschen oder die Funktion abschalten. Aber Vorsicht: Die Übersicht ist nicht vollständig, das sagt etwa der Anbieter von ChatGPT selbst. Und abschalten löscht nichts. Schaltest du es später wieder ein, kann sich die KI weiter auf alte Gespräche stützen.

Jens: Und wenn ich einen Eintrag lösche, steht die Sache ja trotzdem noch in dem Gespräch, in dem ich sie geschrieben habe. Wer etwas wirklich loswerden will, muss also an mehrere Stellen.

Katja: Gedächtniseintrag, die betroffenen Gespräche, die archivierten, hochgeladene Dateien. Genau.

Jens: Und dein Rat? An oder aus?

Katja: Beides ist vernünftig. Ich hab es an und pflege es, das ist der fortgeschrittene Kniff. Schreib zum Beispiel: „Merk dir: Ich möchte Antworten ohne Einleitung, das Wichtigste zuerst.“ Und was sie sich ungefragt merkt, räumst du ab und zu auf.

Jens: Ich will erst mal sehen, was da drinsteht, bevor ich mich entscheide.

Katja: Sehr vernünftig. Genau das wird dein nächster Schritt.

Wenn die KI Türen bekommt

Jens: Ich hab gelesen, man kann die KI auch mit anderen Diensten verbinden. Mit dem Postfach, dem Kalender, dem Cloud-Speicher. Das wäre ja noch mal eine ganz andere Liga.

Katja: Ist es. Ohne Verbindung sieht die KI nur, was du ihr schreibst oder hochlädst. Mit Verbindung darf sie dort lesen, je nach Einstellung auch mehr. Das passiert aber nie aus Versehen. Du musst es ausdrücklich einrichten und zustimmen.

Jens: Und wofür ist das gut?

Katja: „Fass mir zusammen, was diese Woche an Terminen ansteht.“ Oder: „Such mir aus meinen Mails die Rechnung vom Elektriker heraus.“ Das ist wirklich bequem, das will ich gar nicht kleinreden.

Jens: Aber da muss ich jetzt der Aufpasser sein. Wenn die KI mein Postfach liest, liest sie ja nicht nur meine Mails, sondern die von allen, die mir schreiben. Die haben nie zugestimmt, dass ihre Nachrichten bei einem KI-Anbieter landen.

Katja: Guter Punkt. Den hatte ich so scharf nicht auf dem Schirm.

Jens: Und zweitens liest sie dann auch Mails von Fremden. Werbung, Betrugsversuche. Was da drinsteht, kann beeinflussen, was die KI tut, denn sie kann nicht immer sicher unterscheiden, ob ein Text eine Information ist oder eine Anweisung an sie.

Katja: Ein bekanntes Problem, ja. Deshalb meine Faustregel: Verbindungen nur bewusst, nur die nötigen, mit so wenig Rechten wie möglich. Lesen ist etwas anderes als Senden oder Löschen. Und trenn, was du nicht mehr benutzt.

Jens: Und wenn mir so eine Verbindung angeboten wird?

Katja: Dann darfst du ohne schlechtes Gewissen Nein sagen. Für fast alles, was wir in diesem Podcast machen, brauchst du keine.

Jens: Und noch eins, weil das immer wieder vorkommt: Die KI braucht nie dein Passwort. Wenn ein Chatfenster danach fragt, ist das kein Service. Dann stimmt etwas nicht.

Die Postkarten-Regel und die Daten der anderen

Katja: Damit sind wir beim Kern, und der ist erstaunlich einfach. Alle Schalter sind Zusatzschlösser. Der beste Datenschutz ist die Postkarten-Regel: Tipp nichts ein, was du nicht auch auf eine Postkarte schreiben würdest.

Jens: Lass mich, die hab ich inzwischen drauf. Drei Dinge nie: Zugangs- und Kontodaten, also Passwort, PIN, TAN, Kontonummer. Vollständige Personendaten wie Name mit Adresse und Geburtsdatum. Und Gesundheit zusammen mit einem echten Namen. Aber wird die Antwort nicht schlechter, wenn ich weniger verrate?

Katja: Fast nie. Die Antwort auf „Welche Fragen stelle ich beim Orthopäden wegen Knieschmerzen?“ ist genauso gut, ob dein Name darübersteht oder nicht. Das Weglassen kostet nichts. Und eine Vorsicht, die nichts kostet, hält man auch durch.

Jens: Einen Einwand hab ich. Den Namen wegzulassen reicht nicht immer. Wer in einem kleinen Ort schreibt, der Bäcker hier im Dorf sei letzten Monat gestorben und die Witwe komme nicht zurecht, hat keinen Namen genannt. Aber jeder im Ort weiß, wer gemeint ist.

Katja: Völlig richtig. Einzelheiten machen erkennbar. Deshalb gibt es für den Zweifelsfall die schärfere Prüffrage: Möchte ich, dass dieser Text dauerhaft außerhalb meiner Wohnung gespeichert wird?

Jens: Und dann ist da noch ein Punkt, über den ich vorher nie nachgedacht habe: die Daten der anderen. Jemand soll im Verein eine Einladung schreiben und kopiert die ganze Mitgliederliste hinein, mit Adressen und Telefonnummern, damit die KI weiß, wen sie anspricht.

Katja: Und heraus kommt „Liebe Mitglieder“.

Jens: Eben. Die Liste macht den Text kein bisschen besser. Und diese Leute haben ihre Adresse dem Verein gegeben, nicht einem KI-Anbieter. Da entscheidet einer für andere, die niemand gefragt hat.

Und im Job?

Katja: Das bringt uns zum Job, und der ist für viele, die zuhören, der eigentliche Knackpunkt.

Jens: Da hab ich eine klare Meinung. Firmendaten und Kundendaten haben in einem privaten KI-Konto nichts verloren. Kein Angebot mit Kundennamen, keine interne Präsentation, keine Personalsachen.

Katja: Da sind wir uns einig. Und ich fasse es noch etwas weiter: Im Job nutzt du KI nur so, wie es der Arbeitgeber erlaubt. Manche Firmen stellen eigene Zugänge bereit, für die andere Vertragsbedingungen gelten. Manche haben klare Regeln, manche verbieten es. Und viele haben noch gar nichts geregelt.

Jens: Und dann?

Katja: Dann fragst du nach, statt heimlich loszulegen. Das ist nicht spießig, das schützt dich.

Jens: Und bis das geklärt ist, geht alles ohne Firmen- oder Kundendaten. Wie man eine Besprechung besser aufbaut. Eine Formulierungshilfe für eine Mail ohne Namen und interne Zahlen. Ein Fachbegriff, den ich verstehen will.

Ist das sicher?

Jens: Heute beantworte ich das mal selbst. Kosten: keine. Alle diese Schalter sind kostenlos, und Löschen oder Umstellen kostet nichts.

Katja: Daten?

Jens: Was ich eintippe, geht zum Anbieter und bleibt dort, bis ich es lösche, und auch danach noch eine Weile. Das Training kann ich abschalten, das Gedächtnis kann ich ansehen und aufräumen, und für Heikles nehme ich den temporären Chat. Der wichtigste Schutz bleibt aber die Postkarten-Regel. Und im Job: nur, was der Arbeitgeber erlaubt, keine Firmen- oder Kundendaten.

Katja: Kann man etwas kaputt machen?

Jens: Beim Herumschauen in den Einstellungen nicht. Mit einer Ausnahme: Ein gelöschtes Gespräch kommt nicht zurück.

Katja: Und eine Grenze ergänze ich. Allgemeine Gesundheitsfragen: gern. Was ein Befund bei dir bedeutet, sagt dir deine Ärztin oder dein Arzt. Die KI hilft beim Vorbereiten, entscheiden tut ein Mensch.

Prompts zum Mitnehmen

Katja: Und jetzt die Sätze zum Mitnehmen. Der erste ist für alle, die das Gedächtnis eingeschaltet haben und wissen wollen, welches Bild sich die KI gemacht hat. Der Wortlaut: „Fasse zusammen, was du über mich weißt oder aus unseren bisherigen Gesprächen über mich annimmst. Sortiere es nach Themen und kennzeichne, was ich dir ausdrücklich gesagt habe und was du nur vermutest.“

Jens: Warum „was du nur vermutest“?

Katja: Weil da die Überraschungen stecken. Die KI muss ihre eigenen Schlussfolgerungen offenlegen, und du siehst manches, das in der Übersicht gar nicht auftaucht.

Jens: Mein erster. Du willst Hilfe bei einer persönlichen Sache, aber nicht mehr verraten als nötig. Der Satz: „Ich möchte dir gleich eine schwierige Situation in der Familie schildern, ohne Namen und ohne unnötige Einzelheiten. Frag mich zuerst, welche Angaben du wirklich brauchst, um mir gut zu helfen, und welche ich weglassen kann.“

Katja: Das ist klug.

Jens: Der Kniff: Die KI sagt selbst, was sie braucht. Meistens ist das viel weniger, als man denkt. Und du erzählst nicht erst alles und bereust es hinterher.

Katja: Zweiter von mir. Du brauchst einen Brief, in den persönliche Daten gehören, an die Versicherung zum Beispiel. „Schreib mir einen höflichen, aber bestimmten Brief an meine Hausratversicherung. Ich möchte wissen, warum meine Schadensmeldung noch nicht bearbeitet ist. Setz für Name, Adresse, Vertragsnummer und Datum gut sichtbare Platzhalter in Großbuchstaben.“

Jens: Und die Platzhalter fülle ich dann im Schreibprogramm aus.

Katja: Genau. Der Brief wird kein bisschen schlechter, und die Nummern landen nie beim Anbieter. Die Großbuchstaben sorgen dafür, dass du keine Lücke übersiehst.

Jens: Und mein letzter, für den Job. Du willst KI bei der Arbeit nutzen, weißt aber nicht, was erlaubt ist. „Ich möchte bei meiner Arbeit KI-Programme nutzen und vorher klären, was erlaubt ist. Formuliere eine kurze, sachliche Mail an meine Vorgesetzte mit drei Fragen: welches Programm ich nutzen darf, welche Daten tabu sind und ob Ergebnisse gekennzeichnet werden müssen. Der Ton soll zeigen, dass ich es richtig machen will.“

Katja: Und die Mail selbst enthält keine Firmendaten.

Jens: Eben. Der Kniff ist: drei klare Fragen statt einer vagen Bitte. Darauf bekommt man eher eine Antwort als auf „Darf ich das eigentlich?“.

Dein nächster Schritt

Katja: Dein nächster Schritt ist eine Aufräum-Viertelstunde. Schau in den Einstellungen nach, was sich die KI über dich gemerkt hat. Dann stell ihr den ersten Satz von eben und vergleich beides. Und zum Schluss entscheidest du beim Trainings-Schalter, ob er an bleibt.

Jens: Und wer kein Gedächtnis eingeschaltet oder gar kein Konto hat?

Katja: Der probiert den Brief mit den Platzhaltern. Dann hast du die Postkarten-Regel einmal selbst angewendet.

Jens: Ich mach die Liste. Ich bin gespannt, was die KI so über mich vermutet.

Merksatz und Verabschiedung

Jens: Wenn du aus dieser Folge nur eins mitnimmst: Was du nie eintippst, kann nie gespeichert werden.

Katja: Die Schalter sind gute Zusatzschlösser. Aber die Entscheidung, was du hineinschreibst, nimmt dir keiner ab.

Jens: Die drei Daten-Regeln gibt es übrigens auch zum Danebenlegen. Dominik hat Schummelzettel zum Ausdrucken gemacht, kostenlos, unter hallo-ki.de/zettel. Die sind für die Eltern-Generation geschrieben, da wird gesiezt. Aber ehrlich, neben meinem Rechner schadet mir so ein Zettel auch nicht.

Katja: Nächstes Mal wird es handfest: Papierkram ohne Kopfschmerzen. Bescheide, Verträge, Nebenkosten, und auch die Post der Eltern. Ich bin Katja.

Jens: Ich bin Jens. Danke fürs Zuhören, bis bald.