Generative KI sicher nutzen — Halluzinationen, Prompt-Hygiene, Kennzeichnung
Generative KI — Systeme, die Texte, Bilder oder Code erzeugen — ist im Arbeitsalltag angekommen. Diese Lektion zeigt ihre wichtigste Schwäche (Halluzinationen), die Grundregeln für saubere Eingaben, warum KI-Ergebnisse vor der Weitergabe geprüft werden müssen — und in welchen Fällen sie gekennzeichnet werden müssen.
Nach dieser Lektion können Sie …
- Halluzinationen erkennen und einordnen,
- Eingaben datensparsam und wirksam formulieren,
- KI-Ergebnisse vor der Weitergabe prüfen,
- einschätzen, wann KI-Inhalte nach Art. 50 offengelegt werden müssen und wann die KI-Richtlinie Ihres Unternehmens entscheidet.
Überzeugend formuliert — und frei erfunden
Ein Kundenberater bittet eine KI um technische Angaben zu einem Produkt. Er bekommt eine detaillierte, überzeugend formulierte Antwort mit präzisen Zahlen — und gibt sie an die Kundin weiter. Erst später stellt sich heraus: Die Angaben waren frei erfunden.
Was ist da passiert, und wie hätte er es verhindern können?
Wenn KI überzeugend Unsinn erzählt
Generative KI klingt sicher, auch wenn sie irrt. Die kurze Präsentation erklärt, was eine Halluzination ist und an welchen Warnzeichen Sie sie erkennen.
Zum Nachlesen: Halluzinationen und ihre Warnzeichen
Generative KI wurde darauf trainiert, plausible Antworten zu geben — nicht notwendig wahre. Kennt sie eine Antwort nicht, erfindet manches System lieber eine überzeugend klingende Aussage, als „Das weiß ich nicht“ zuzugeben. Fachleute nennen das Halluzination: Die KI „schafft Fakten“, die es nicht gibt — einen Paragrafen, der so nicht existiert, eine Studie, die niemand geschrieben hat, eine Zahl ohne Grundlage.
Besonders tückisch: Diese Erfindungen kommen mit derselben Selbstsicherheit daher wie korrekte Antworten. Halluzinationen erkennen Sie an typischen Warnzeichen:
- Zu präzise Angaben, die Sie nicht überprüfen können.
- Widersprüche, wenn Sie dieselbe Frage leicht variiert erneut stellen.
- Nicht existente Quellen — Studien, Urteile oder Bücher, die bei der Prüfung nicht auffindbar sind.
Prüfen wie bei einer neuen Kollegin
Wie geht man mit einem Werkzeug um, das hilfreich ist, aber irren kann? Die Präsentation fasst die Faustregel und ihre drei konkreten Schritte zusammen.
Zum Nachlesen: die Faustregel
Behandeln Sie KI-Auskünfte wie den Hinweis einer neuen, noch unerfahrenen Kollegin: hilfreich, aber vor wichtigen Entscheidungen zu überprüfen. Konkret:
- Kritische Informationen verifizieren, bevor Sie sie weitergeben oder darauf aufbauen.
- Den „Ich weiß nicht“-Test machen: Ein gutes System gibt Wissenslücken zu; eines, das nie „keine Ahnung“ sagt, ist gefährlicher als eines mit ehrlichen Lücken.
- KI nicht für Aufgaben nutzen, bei denen Faktentreue kritisch ist, ohne eine menschliche Prüfung einzubauen.
Zurück zum Kundenberater
Die präzisen Zahlen waren eine kritische Information, die er ungeprüft weitergegeben hat. Hätte er sie vorher verifiziert, wäre die Erfindung nicht bei der Kundin angekommen.
Saubere Eingaben
Der beste Schutz vor Problemen beginnt bei der Eingabe — dem „Prompt“. Zwei Regeln sind entscheidend:
Keine sensiblen Daten eingeben
Personenbezogene Daten, Geschäftsgeheimnisse, unveröffentlichte Zahlen gehören nicht in öffentliche KI-Werkzeuge (siehe Lektion 6 und 7). Formulieren Sie Ihr Anliegen anonymisiert.
Kontext statt Klardaten
Sie erhalten bessere Ergebnisse, wenn Sie die Aufgabe klar beschreiben — nicht, wenn Sie echte Kundendaten hineinkopieren.
Ihre Einschätzung: Gehört das in ein öffentliches KI-Werkzeug?
„Fasse diese Beschwerde zusammen: Frau Petra Keller, Kundennummer 40117, schreibt …“
„Formuliere eine höfliche Antwort auf eine Kundenbeschwerde wegen einer verspäteten Lieferung.“
„Hier sind unsere Quartalszahlen, die nächste Woche veröffentlicht werden — mach daraus eine Grafik.“
„Prüfe diesen Vertragsentwurf mit unserem neuen Lieferanten, die Konditionen stehen im Anhang.“
„Erkläre in zwei Sätzen den Unterschied zwischen Brutto- und Nettopreis.“
KI-Inhalte sichtbar machen — wer muss was?
Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50 (siehe Lektion 4). Die meisten davon treffen die Anbieter der Werkzeuge; Sie selbst müssen nur in zwei Fällen offenlegen, dass Inhalte künstlich erzeugt sind:
Anbieter des Werkzeugs
Art. 50 Abs. 1 und 2Ein Chatbot muss erkennen lassen, dass eine KI antwortet. KI-erzeugte Inhalte müssen maschinenlesbar als künstlich erzeugt markiert sein — für generative KI-Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt dafür eine Übergangsfrist bis zum 2. Dezember 2026 (Art. 111 Abs. 4, geändert durch den Digital Omnibus).
Sie als Nutzende
Art. 50 Abs. 4Deepfakes offenlegen — Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Und Texte offenlegen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Für solche Texte gibt es eine wichtige Ausnahme: Hat ein Mensch den Text geprüft oder redaktionell kontrolliert und trägt eine Person die redaktionelle Verantwortung für die Veröffentlichung, entfällt die Offenlegung. Das ist kein Schlupfloch, sondern die Bestätigung der Kernregel dieser Lektion: Geprüft und verantwortet ist etwas anderes als ungeprüft durchgereicht.
Rechtlich trifft die Offenlegungspflicht den Betreiber — in der Regel Ihr Unternehmen. Umsetzen müssen sie diejenigen, die solche Inhalte erstellen und veröffentlichen.
Und die Kundenmail?
Für eine Kundenmail, einen Bericht oder eine Präsentation schreibt Art. 50 keinen Hinweis vor. Ob Sie KI-Inhalte dort kenntlich machen, regelt die KI-Richtlinie Ihres Unternehmens. Unabhängig davon gilt: Geben Sie nichts als eigene Recherche aus, was in Wahrheit eine ungeprüfte KI-Ausgabe ist.
Ordnen Sie ein: Was verlangt Art. 50 in diesem Fall?
Sie lassen eine Antwort an eine Kundin von der KI formulieren und schicken sie ungelesen ab.
Sie veröffentlichen auf der Firmenwebsite einen KI-geschriebenen Informationsbeitrag zu einem Thema von öffentlichem Interesse, ohne ihn zu lesen.
Eine KI entwirft denselben Beitrag. Eine Kollegin prüft und überarbeitet ihn und trägt die redaktionelle Verantwortung für die Veröffentlichung.
Für eine Kampagne entsteht mit KI ein Video, in dem eine echte Person täuschend echt etwas sagt, das sie nie gesagt hat.
Sie verwenden eine offensichtlich gezeichnete KI-Grafik in einer Präsentation für einen Kunden.
KI-Agenten: wenn die KI selbst handelt
Immer mehr Werkzeuge beantworten nicht nur Fragen, sondern handeln selbständig: Sie buchen Termine, beantworten E-Mails, recherchieren mehrstufig oder bedienen andere Programme — sogenannte KI-Agenten, inzwischen fester Bestandteil vieler Office-Pakete.
Für sie gilt alles aus dieser Lektion verschärft: Ein Agent, der halluziniert, schreibt die falsche Zahl nicht nur in den Chat, sondern womöglich direkt in die Kunden-E-Mail. Deshalb:
Berechtigungen
Agenten nur mit den Berechtigungen ausstatten, die die Aufgabe braucht.
Freigeben
Aktionen mit Außenwirkung (Versand, Buchung, Bestellung) freigeben statt automatisch ausführen lassen.
Transparenz
Es gilt dasselbe wie bei jeder KI-Nutzung: Art. 50 nennt KI-Agenten nicht. Seine Pflichten liegen beim Anbieter des Werkzeugs (Abs. 1 und 2), beim Betreiber nur in den Fällen von Abs. 3 und 4 — etwa bei Deepfakes oder veröffentlichten Texten von öffentlichem Interesse.
Ordnen Sie zu: Darf der Agent das selbst ausführen?
Der Agent beantwortet eine Kundenanfrage und versendet die E-Mail.
Der Agent legt einen Antwortentwurf in Ihren Entwurfsordner.
Der Agent bucht einen Termin mit einer Kundin.
Der Agent bestellt beim Lieferanten Material nach.
Generative KI ist ein starkes Werkzeug und ein schlechter Zeuge.
Nutzen Sie sie für Entwürfe, Ideen und Formulierungen — aber prüfen Sie jede Tatsachenbehauptung, bevor Sie sie zu Ihrer machen.
Das nehmen Sie mit
- Halluzinationen sind überzeugend präsentierte Falschinformationen; die KI erzeugt Plausibles, nicht zwingend Wahres.
- Warnzeichen: zu präzise Angaben, Widersprüche bei Wiederholung, nicht existente Quellen.
- Kritische Informationen immer verifizieren; ein System, das nie Unwissen zugibt, ist gefährlich.
- Prompt-Hygiene: keine sensiblen Daten eingeben, mit Kontext statt Klardaten arbeiten.
- Transparenzpflichten (Art. 50, gelten seit 2.8.2026): Chatbot-Hinweis und maschinenlesbare Markierung sind Sache der Anbieter (Markierung bei schon zuvor angebotenen Systemen spätestens ab 2.12.2026); Nutzende legen Deepfakes und veröffentlichte KI-Texte von öffentlichem Interesse offen — außer ein Mensch hat den Text geprüft und trägt die redaktionelle Verantwortung. Weitere Kennzeichnung regelt die KI-Richtlinie.
- KI-Agenten handeln selbständig: minimale Berechtigungen, Außenwirkung nur nach Freigabe; Transparenzpflichten wie bei jeder KI-Nutzung (Anbieter, Betreiber nur nach Abs. 3/4).
Sitzt das Wichtigste?
Der Wissenscheck ist freiwillig und nur für Sie gedacht. Ihre Antworten werden weder gespeichert noch bewertet, und niemand sonst bekommt sie zu sehen. Wenn Sie ein paar Minuten übrig haben, prüfen Sie hier, ob die Kernpunkte der Lektion angekommen sind.
Wissenschecksechs Fragen · wenige Minuten
Wählen Sie je Frage eine Antwort. Die Rückmeldung erklärt, was hinter jeder Option steckt.
Quellen
- KI-Verordnung, Art. 50 (Transparenz/Kennzeichnung): artificialintelligenceact.eu/article/50
- KI-Verordnung, Art. 111 Abs. 4 (Übergangsfrist Art. 50 Abs. 2) und Art. 113 (Geltungsbeginn), konsolidierte Fassung nach dem Digital Omnibus: artificialintelligenceact.eu/article/111 · artificialintelligenceact.eu/article/113 (abgerufen 01.10.2026) · Rat der EU, Pressemitteilung vom 29.06.2026: consilium.europa.eu
- Erwartung der EU-Kommission, generative-KI-Risiken (Halluzination) zu schulen — KI-Kompetenz-Q&A (7.5.2025): Covington Inside Privacy
- Art. 50 in der Praxis (Ausnahme redaktionelle Verantwortung): KPMG Law · TÜV-Akademie
