Die vier Risikoklassen und die verbotenen Praktiken
Sie lernen die vier Risikostufen der KI-Verordnung kennen und erfahren, welche KI-Praktiken vollständig verboten sind — acht seit Februar 2025, zwei weitere ab Dezember 2026. Ein Schwerpunkt liegt auf einem Verbot, das Beschäftigte unmittelbar betrifft: der Emotionserkennung am Arbeitsplatz.
Nach dieser Lektion können Sie …
- die vier Risikoklassen unterscheiden und Beispiele zuordnen,
- die acht verbotenen Praktiken benennen und die zwei ab 2. Dezember 2026 hinzukommenden Verbote kennen,
- das Verbot der Emotionserkennung am Arbeitsplatz einordnen,
- erkennen, wann Sie eine mögliche verbotene Praktik melden sollten.
Aus der Klasse folgt, was erlaubt ist
Bis 2024 war der Einsatz von KI in Europa weitgehend ungeregelt: Ein System zur Bewerberauswahl unterlag denselben Regeln wie eine Wetter-App — nämlich kaum welchen. Seit der KI-Verordnung ist das anders. Sie sortiert jede KI in eine von vier Risikoklassen, und aus der Klasse folgt, was erlaubt ist.
Das Prinzip: Je größer der mögliche Schaden für Menschen, desto strenger die Regel.
Die vier Stufen im Ãœberblick
Minimales Risiko
praktisch keine AuflagenDie große Mehrheit der Systeme — Rechtschreibprüfung, Spamfilter, KI im Videospiel. Hier gelten praktisch keine besonderen Auflagen. (Die KI-Kompetenz-Pflicht aus Lektion 1 gilt trotzdem.)
Begrenztes Risiko
TransparenzSysteme, bei denen es vor allem um Transparenz geht: Chatbots, KI-generierte Inhalte. Betroffene müssen erkennen können, dass eine KI im Spiel ist (Details in Lektion 4).
Hohes Risiko
strenge Auflagen, erlaubtSysteme, deren Entscheidungen erheblich in das Leben von Menschen eingreifen: Vorauswahl von Bewerbungen, Kreditwürdigkeitsprüfung, medizinische Diagnostik, Steuerung kritischer Infrastruktur. Sie unterliegen strengen Auflagen — Risikomanagement, Dokumentation, menschliche Aufsicht. Vereinfacht gesagt: Hier wird es ernst, aber es bleibt erlaubt.
Zur Einordnung: Die strengen Hochrisiko-Pflichten greifen zeitversetzt — für eigenständige Systeme des Anhangs III ab dem 2. Dezember 2027, für KI als Sicherheitsbauteil regulierter Produkte (Anhang I) ab dem 2. August 2028 (Digital Omnibus, VO (EU) 2026/1744). Die Einstufung selbst und die Verbote gelten davon unabhängig.
Inakzeptables Risiko
verbotenAnwendungen, die mit den Grundwerten der EU unvereinbar sind. Sie sind schlicht verboten (Art. 5) — und das bereits seit dem 2. Februar 2025.
Ordnen Sie ein: Welche Risikoklasse?
Wählen Sie für jedes Beispiel die passende Stufe.
Eine Software zur Vorauswahl von Bewerbungen
Ein Chatbot
Social Scoring: Menschen werden nach ihrem Sozialverhalten bewertet und dadurch benachteiligt
Ein Spamfilter im E-Mail-Postfach
KI-generierte Inhalte, etwa ein erzeugtes Bild
Eine KI zur Kreditwürdigkeitsprüfung
Die verbotenen Praktiken: acht seit 2025, zwei weitere ab Dezember 2026
Artikel 5 verbietet seit dem 2. Februar 2025 acht klar umrissene Praktiken; ab dem 2. Dezember 2026 kommen zwei weitere hinzu. Sie sollten alle kennen — vor allem, um sie zu erkennen, wenn Ihnen ein Anbieter ein solches System anbietet. Die kurze Präsentation stellt alle zehn vor.
Zum Nachlesen: die acht Verbote seit 2. Februar 2025
- Unterschwellige oder manipulative Techniken, die das Verhalten so beeinflussen, dass erheblicher Schaden entsteht.
- Ausnutzung von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer Lage.
- Social Scoring — die Bewertung von Menschen nach ihrem Sozialverhalten, die zu Benachteiligung führt.
- Vorausschauende Straftatenbewertung allein anhand von Profiling oder Persönlichkeitsmerkmalen.
- Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Ãœberwachungskameras zum Aufbau von Gesichtsdatenbanken.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen — außer aus medizinischen oder Sicherheitsgründen.
- Biometrische Kategorisierung, die sensible Merkmale ableitet (etwa politische Meinung, Religion, sexuelle Orientierung).
- Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken — nur in eng begrenzten Ausnahmen zulässig.
Die Liste fasst Art. 5 Abs. 1 Buchstaben a bis h in eigenen Worten zusammen; sie ist kein Gesetzeswortlaut.
Zwei weitere Verbote ab 2. Dezember 2026
Die Verbotsliste ist erweitert — beschlossen mit der VO (EU) 2026/1744 (Digital Omnibus), in Kraft seit 27. Juli 2026. Ab dem 2. Dezember 2026 sind zusätzlich verboten: KI-Systeme, die realistische intime Darstellungen einer erkennbaren Person ohne deren ausdrückliche Einwilligung erzeugen oder manipulieren (Art. 5 Abs. 1 lit. ba), und KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen oder manipulieren (lit. bb). Ab dann sind es zehn Verbote.
Der Fall, der Sie direkt betrifft: Emotionserkennung
Punkt 6 verdient besondere Aufmerksamkeit, weil er den Arbeitsplatz meint. Verboten ist der Einsatz von KI, die Emotionen von Beschäftigten ableiten soll — etwa Software, die aus Stimme, Mimik oder Tippverhalten „Stress", „Frustration" oder „Engagement" errechnet und an Vorgesetzte meldet.
Die EU-Kommission legt den Begriff „Arbeitsplatz" weit aus: Er umfasst auch Bewerbungs- und Auswahlverfahren. Eine KI, die im Vorstellungsgespräch die Emotionen der Bewerberinnen und Bewerber bewertet, ist damit unzulässig.
Die einzige Ausnahme sind medizinische oder Sicherheitsgründe — etwa ein System, das Müdigkeit von Fahrpersonal erkennt, um Unfälle zu verhindern. Nicht erfasst ist außerdem das Erkennen von Kundenemotionen, etwa wenn ein Callcenter die Verärgerung von Anrufenden einschätzt, um Beschäftigte zu unterstützen.
Ihre Einschätzung: verboten oder nicht?
Eine Software errechnet aus der Stimme der Beschäftigten im Kundengespräch ihren „Stress" und meldet ihn an die Teamleitung.
Ein Callcenter schätzt die Verärgerung von Anrufenden ein, um die Beschäftigten zu unterstützen.
Ein System erkennt Müdigkeit von Fahrpersonal, um Unfälle zu verhindern.
Im Vorstellungsgespräch per Video bewertet eine KI die Emotionen der Bewerberinnen und Bewerber.
Was das für Sie heißt
Begegnet Ihnen im Arbeitsalltag ein KI-Werkzeug mit solchen Funktionen — Stimmungsanalyse von Mitarbeitenden, Social Scoring, versteckte Manipulation —, dann ist sein Einsatz in der EU rechtswidrig. Melden Sie das der oder dem KI-Verantwortlichen in Ihrem Unternehmen. Auch ein System aus dem Nicht-EU-Ausland ist hier verboten.
Das nehmen Sie mit
- Die KI-Verordnung kennt vier Risikoklassen: minimal, begrenzt, hoch, inakzeptabel.
- Hochrisiko-Systeme (z. B. Bewerberauswahl, Kreditprüfung) sind streng reguliert, aber erlaubt.
- Acht Praktiken sind verboten (Art. 5), seit 2. Februar 2025; ab 2. Dezember 2026 kommen zwei weitere Verbote hinzu (intime Deepfakes ohne Einwilligung, Kindesmissbrauchsdarstellungen — Digital Omnibus).
- Für Beschäftigte am wichtigsten: Emotionserkennung am Arbeitsplatz ist verboten (außer medizinisch/Sicherheit) — auch im Bewerbungsverfahren.
- Verdacht auf eine verbotene Praktik: der oder dem KI-Verantwortlichen melden.
Sitzt das Wichtigste?
Der Wissenscheck ist freiwillig und nur für Sie gedacht. Ihre Antworten werden weder gespeichert noch bewertet, und niemand sonst bekommt sie zu sehen. Wenn Sie ein paar Minuten übrig haben, prüfen Sie hier, ob die Kernpunkte der Lektion angekommen sind.
Wissenschecksechs Fragen · wenige Minuten
Wählen Sie je Frage eine Antwort. Die Rückmeldung erklärt, was hinter jeder Option steckt.
Quellen
- KI-Verordnung, Art. 5 (verbotene Praktiken; konsolidierte Fassung mit lit. ba/bb, abgerufen 1.10.2026): artificialintelligenceact.eu/article/5
- EU-Kommission, AI Act Service Desk — verbotene Praktiken: ai-act-service-desk.ec.europa.eu
- Emotionserkennung am Arbeitsplatz (Analyse): Future of Privacy Forum
- EU-Kommission, Leitlinien zu verbotenen Praktiken C(2025) 884 final (4.2.2025)
- Neue Verbote (Digital Omnibus, VO (EU) 2026/1744, in Kraft seit 27.07.2026): ITMR Legal · activeMind.legal
- KI-Verordnung, Art. 50 (Transparenzpflichten): artificialintelligenceact.eu/article/50
