Was Sie eintippen, verlässt das Haus

Alles, was Sie in ein öffentliches KI-Tool eingeben, geben Sie an einen externen Dienst weiter — so, wie Sie es in ein fremdes Web-Formular tippen würden. Bei personenbezogenen Daten (Name, Adresse, Telefonnummer, aber auch Konto- oder Gesundheitsangaben, selbst die Kombination harmloser Einzelinfos) ist das ein Problem: Solche Daten dürfen nur mit sauberer Rechtsgrundlage nach außen — und die fehlt bei einem privaten Konto immer, gleich bei welchem Anbieter, ob ChatGPT, Claude, Gemini oder DeepSeek. Entscheidend ist nicht das Werkzeug, sondern ob Ihr Unternehmen mit dem Anbieter einen Vertrag geschlossen hat. Genau deshalb war Philipps „schnelle Umformulierung" in Wahrheit eine Datenpanne, auch wenn nichts Sichtbares passiert ist.

Die Faustregel ist einfach:

Keine Kundendaten, keine Mitarbeiterdaten, keine Vertragsdetails, keine internen Projektnummern, keine vertraulichen Geschäftsinfos in öffentliche KI-Tools.

Ein guter Selbsttest vor dem Eintippen:

Der Aushang-Test

Dürfte dieser Text so an einem
öffentlichen Aushang im Rathaus hängen?
Wenn nein, gehört er in kein öffentliches KI-Tool.

Die Gefahr der Schatten-KI

„Schatten-KI" klingt nach Filmtitel, meint aber etwas ganz Alltägliches: KI-Tools, die die IT-Abteilung weder kennt noch freigegeben hat — der private Chatbot-Account, gleich von welchem Anbieter, die KI-App auf dem eigenen Handy, ein Übersetzungsdienst im Browser, die KI-Funktion im Browser, die man ohnehin privat benutzt. Sobald so etwas für die Arbeit genutzt wird, entsteht Schatten-KI. Nicht aus bösem Willen: Philipp will einfach produktiv sein. Das Problem ist, dass die Firma die Kontrolle über ihre Daten verliert — gleich doppelt:

Sicherheit: Die Daten liegen jetzt in einem System, das niemand im Unternehmen überblickt. Was der Anbieter damit macht, wie gut er es schützt, wer noch Zugriff hat — alles offen. Dass das keine graue Theorie ist, zeigen reale Datenlecks bei KI-Diensten (Beispiel im Vertiefungsteil).

Datenschutz: Ohne Vertrag zwischen Firma und Anbieter (einen sogenannten Auftragsverarbeitungsvertrag) ist die Weitergabe personenbezogener Daten schlicht nicht erlaubt.

Besonders tückisch: Der Abfluss der Daten hinterlässt keine Spur, die man verfolgen könnte. Wer 40 Seiten interne Unterlagen in einen öffentlichen KI-Chat einfügt, erzeugt danach keine Datei, keine Warnung, kein Protokoll im Firmennetz — der Text ist einfach weg nach draußen. Deshalb fällt Schatten-KI meist erst auf, wenn es zu spät ist.

Der Ausweg ist unspektakulär: Nur freigegebene Tools für die Arbeit nutzen. Eine Unternehmensversion — Microsoft Copilot, ChatGPT Enterprise, Google Gemini für Workspace oder was das Haus sonst einsetzt — hat einen Vertrag, klare Datenschutzregeln und meist die Garantie, dass Ihre Eingaben nicht zum Training verwendet werden. Ein privater Account hat davon nichts. Welche Tools freigegeben sind, steht in der KI-Nutzungsrichtlinie oder weiß die IT — fragen Sie vorher, nicht nachher.

KI erfindet manchmal überzeugende Fakten

KI-Chatbots antworten selbstbewusst und flüssig, im Tonfall einer Fachkraft — und liegen trotzdem manchmal komplett daneben. Sie behaupten Gesetze, die es nicht gibt, erfinden Gerichtsurteile mit echt aussehenden Aktenzeichen oder nennen falsche Telefonnummern. Fachleute nennen das Halluzination: Die KI „weiß" nicht, ob etwas stimmt — sie setzt nur die statistisch wahrscheinlichste Wortfolge zusammen (mehr dazu im Vertiefungsteil).

Für den Alltag heißt das: KI-Ausgaben sind Rohmaterial, kein Endprodukt. Zahlen, Namen, Gesetze, technische Angaben immer über eine zweite, verlässliche Quelle prüfen, bevor sie in ein Kundenanschreiben oder Angebot wandern.

Was die KI mit den Kundendaten macht