Schatten-KI und Datenschutz — was mit Ihren Daten passiert
Die vorige Lektion betrachtete Schatten-KI als Sicherheitsrisiko. Diese Lektion nimmt die datenschutzrechtliche Seite in den Blick: Was passiert, wenn personenbezogene Daten in ein öffentliches KI-Werkzeug gelangen — und warum das auch ohne Hackerangriff ein handfestes Problem ist.
Nach dieser Lektion können Sie …
- erklären, warum das Eingeben personenbezogener Daten in nicht freigegebene KI gegen die DSGVO verstößt,
- einen Drittlandtransfer erkennen,
- beurteilen, wann eine meldepflichtige Datenpanne vorliegt,
- die Datenschutzregeln für den KI-Einsatz anwenden.
Ein harmloser Zeitspar-Trick?
Sie fügen eine Kundenliste in ein öffentliches KI-Werkzeug ein, um schnell eine Serien-E-Mail zu formulieren. Datenschutzrechtlich haben Sie damit womöglich eine meldepflichtige Datenpanne ausgelöst — ganz ohne Hackerangriff, allein durch die Eingabe.
Wie kommt das?
Der Moment der Ãœbermittlung
Sobald personenbezogene Daten in ein KI-Werkzeug gelangen, werden sie an dessen Anbieter übermittelt. Die kurze Präsentation zeigt, welche Voraussetzungen der DSGVO dabei bei Schatten-KI fehlen.
Zum Nachlesen: was bei Schatten-KI fehlt
Sobald personenbezogene Daten — Namen, Kontaktdaten, Kundennummern, Bewerber- oder Kollegendaten — in ein KI-Werkzeug gelangen, werden sie an dessen Anbieter übermittelt. Genau hier setzt die DSGVO an, und gleich mehrere Voraussetzungen fehlen bei Schatten-KI:
- Keine Rechtsgrundlage. Jede Verarbeitung braucht eine Grundlage nach Art. 6 (bei sensiblen Daten Art. 9) DSGVO. Für die Weitergabe an ein privates KI-Konto gibt es sie in aller Regel nicht.
- Kein Auftragsverarbeitungsvertrag. Ohne den nach Art. 28 DSGVO nötigen Vertrag mit dem Anbieter ist die Weitergabe unzulässig — und diesen Vertrag schließt das Unternehmen, nicht die einzelne Person über ein privates Konto. Über ein privates Konto ist der Anbieter gar nicht Auftragsverarbeiter des Unternehmens.
- Verlust der Betroffenenrechte. Auskunft, Berichtigung, Löschung — all das kann das Unternehmen nicht mehr gewährleisten, wenn Daten unkontrolliert bei einem Dritten liegen.
Daten verlassen den EWR
Viele KI-Anbieter betreiben ihre Systeme in den USA oder anderen Ländern außerhalb des EWR. Verlassen personenbezogene Daten den Europäischen Wirtschaftsraum (EWR: die EU sowie Island, Liechtenstein und Norwegen), spricht man von einem Drittlandtransfer (Art. 44 ff. DSGVO). Er ist nur unter besonderen Voraussetzungen erlaubt — etwa auf Grundlage eines Angemessenheitsbeschlusses der EU-Kommission (Art. 45) oder mit geeigneten Garantien wie Standardvertragsklauseln (Art. 46, amtlich „Standarddatenschutzklauseln").
Das EU-US Data Privacy Framework
Für die USA existiert seit 2023 das EU‑US Data Privacy Framework, ein Angemessenheitsbeschluss. Es gilt für zertifizierte US-Unternehmen — darunter Microsoft und Google. OpenAI ist in der offiziellen Teilnehmerliste nicht geführt.
Der Rahmen hält einer Klage vor dem Gericht der EU stand (EuG, Rs. T-553/23 „Latombe").
Rechtsmittel beim EuGH (C-703/25 P) — eine Restunsicherheit bleibt, wie schon bei den Vorgängern „Safe Harbor" und „Privacy Shield".
Das ändert nichts am Kernpunkt: Der Rahmen sichert nur den Weg der Daten in die USA ab. Er ersetzt weder die Rechtsgrundlage noch den Auftragsverarbeitungsvertrag — und genau die fehlen, wenn jemand ein privates Konto nutzt. Vereinfacht gesagt: Er hilft, wenn Ihr Unternehmen einen zertifizierten Anbieter freigegeben und vertraglich eingebunden hat — nicht, wenn Sie im Alleingang handeln.
Ihre Einschätzung: abgesichert oder nicht?
Ihr Unternehmen hat einen DPF-zertifizierten US-Anbieter freigegeben und den Auftragsverarbeitungsvertrag mit ihm geschlossen. Sie arbeiten mit dem Firmenkonto.
Sie nutzen denselben Anbieter über Ihr privates Konto, weil es schneller geht.
Was im Modell ist, bleibt im Modell
Gelangen Daten in das Training eines Modells, lassen sie sich kaum wieder „herauslernen".
Datei im Ordner
Man entfernt sie aus dem Ordner — sie ist weg.
Wissen im Modell
Einmal einbezogenes Wissen ist im Modell schwer rückgängig zu machen.
Das ist der Grund, warum die einzige zuverlässige Regel lautet:
Sensible Daten gar nicht erst hineingeben.
Wann eine meldepflichtige Datenpanne vorliegt
Aus der Eingabe kann eine Meldepflicht mit knapper Frist werden. Die kurze Präsentation zeigt, wann sie greift und für wen.
Zum Nachlesen: Datenpanne und 72-Stunden-Frist
Führt eine Verletzung der Sicherheit zur unbefugten Offenlegung personenbezogener Daten, liegt eine Verletzung des Schutzes personenbezogener Daten im Sinne der DSGVO vor (Art. 4 Nr. 12). Sie kann eine Meldepflicht auslösen: Der Verantwortliche — das Unternehmen — muss sie unverzüglich und möglichst binnen 72 Stunden, nachdem ihm die Verletzung bekannt wurde, der Aufsichtsbehörde melden (Art. 33). Die Meldung entfällt nur, wenn die Verletzung voraussichtlich nicht zu einem Risiko für die Rechte und Freiheiten natürlicher Personen führt. Bei voraussichtlich hohem Risiko sind zusätzlich die Betroffenen zu benachrichtigen (Art. 34).
Wenn Sie also Kundendaten in ein nicht freigegebenes Werkzeug eingeben, kann das genau diese Kette auslösen — deshalb ist schnelles Melden so wichtig: Die 72-Stunden-Frist läuft.
Wer haftet
Die Verantwortung ist geteilt. Das Unternehmen als Verantwortlicher trägt die Hauptlast, aber auch Beschäftigte stehen in der Pflicht, die organisatorischen Vorgaben einzuhalten. Wer sensible Daten in nicht freigegebene Tools eingibt oder KI-Ergebnisse ungeprüft weitergibt, kann arbeits- und datenschutzrechtliche Folgen auslösen.
DSGVO-Bußgelder richten sich gegen das Unternehmen als Verantwortlichen: bis 20 Mio. € oder 4 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist — etwa bei Verarbeitung ohne Rechtsgrundlage oder unzulässigem Drittlandtransfer (Art. 83 Abs. 5).
Verstöße gegen die Pflichten aus Art. 28, 33 und 34 — Auftragsverarbeitung, Meldung, Benachrichtigung — werden mit bis zu 10 Mio. € oder 2 % geahndet (Art. 83 Abs. 4).
Die Datenschutzregeln für den KI-Einsatz
- Personenbezogene Daten nur in freigegebene, vertraglich abgesicherte Werkzeuge. Für sie hat das Unternehmen den nötigen Auftragsverarbeitungsvertrag geschlossen und einen etwaigen Drittlandtransfer abgesichert (Angemessenheitsbeschluss oder Standarddatenschutzklauseln).
- Anonymisieren oder pseudonymisieren. Schildern Sie einen Fall ohne echte Namen, ersetzen Sie Klardaten durch Platzhalter.
- Besondere Kategorien meiden. Gesundheits-, Religions-, Gewerkschafts- oder ähnliche sensible Daten gehören grundsätzlich nicht in allgemeine KI-Werkzeuge.
- Im Zweifel den Datenschutzbeauftragten fragen.
- Panne sofort melden — an die im Unternehmen zuständige Stelle, damit die 72-Stunden-Frist gewahrt werden kann.
Wenden Sie die Regeln an: in Ordnung oder nicht?
Sie schildern der freigegebenen KI Ihres Unternehmens einen Kundenfall. Die echten Namen haben Sie durch Platzhalter ersetzt.
Sie lassen ein KI-Werkzeug über Ihr privates Konto die Krankmeldung einer Kollegin zusammenfassen.
Sie haben versehentlich eine Kundenliste in ein öffentliches KI-Werkzeug kopiert und warten erst einmal ab, ob etwas passiert.
Sie sind unsicher, ob ein neues Werkzeug Bewerberdaten verarbeiten darf, und fragen zuerst den Datenschutzbeauftragten.
Kernbotschaft
Datenschutzverstöße durch KI brauchen keinen Angreifer. Es genügt eine gut gemeinte Eingabe. Die wirksamste Vorsorge ist die Datenminimierung aus Lektion 5: Was gar nicht erst hineingegeben wird, kann auch nicht abfließen.
Das nehmen Sie mit
- Personenbezogene Daten in nicht freigegebene KI zu geben, verstößt meist gegen die DSGVO: fehlende Rechtsgrundlage, kein Auftragsverarbeitungsvertrag, Verlust der Betroffenenrechte.
- Verlassen Daten den EWR, liegt ein Drittlandtransfer vor (Art. 44 ff.), erlaubt nur unter besonderen Voraussetzungen; das EU-US Data Privacy Framework hilft nur bei der freigegebenen, vertraglich abgesicherten Nutzung.
- Einmal ins Modell eingeflossene Daten sind schwer löschbar.
- Die unbefugte Offenlegung kann eine meldepflichtige Datenpanne sein — Meldung unverzüglich, möglichst binnen 72 Stunden ab Kenntnis (Art. 33).
- Regeln: nur freigegebene Tools, anonymisieren, sensible Daten meiden, im Zweifel fragen, Pannen sofort melden.
Sitzt das Wichtigste?
Der Wissenscheck ist freiwillig und nur für Sie gedacht. Ihre Antworten werden weder gespeichert noch bewertet, und niemand sonst bekommt sie zu sehen. Wenn Sie ein paar Minuten übrig haben, prüfen Sie hier, ob die Kernpunkte der Lektion angekommen sind.
Wissenschecksechs Fragen · wenige Minuten
Wählen Sie je Frage eine Antwort. Die Rückmeldung erklärt, was hinter jeder Option steckt.
Quellen
- Datenschutz bei generativer KI, Arbeitgeberpflichten: IAPP — Data protection issues for employers using generative AI
- Drittlandtransfer / EU-US Data Privacy Framework bei KI: TechGDPR — GDPR compliance for AI: cross-border transfers
- GenAI und DSGVO (Rechtsgrundlage, DPA, Transfer): SRD Rechtsanwälte — Using AI tools in a legally compliant way
- DPF-Bestand: EuG, Urt. v. 03.09.2025 — T-553/23 (Latombe), Rechtsmittel EuGH C-703/25 P anhängig: IAPP · WilmerHale
- Teilnehmerliste des EU-US Data Privacy Framework (abgefragt 30.09.2026): dataprivacyframework.gov/list
- DSGVO Art. 4 Nr. 8 und 12, 6, 9, 28, 33, 34, 44 ff., 83 (Begriffe, Rechtsgrundlage, Auftragsverarbeitung, Meldepflicht, Drittlandtransfer, Bußgelder)
