Verbotene KI-Praktik (Art. 5 EU AI Act)

8 verbotene Anwendungen seit 02.02.2025

· Kategorie: EU AI Act · Compliance-Kit
Praxis-Hinweis: Dieser Artikel ist praxisorientierte Compliance-Dokumentation, keine Rechtsberatung. Wir sind Compliance-Spezialist, keine Anwaltskanzlei. Für rechtsverbindliche Auskünfte konsultieren Sie eine zugelassene Rechtsanwältin oder einen Rechtsanwalt.

TL;DR

Art. 5 EU AI Act listet 8 verbotene KI-Praktiken auf, die seit 02.02.2025 EU-weit unzulässig sind: Manipulation durch unterschwellige Techniken, Ausnutzung von Vulnerabilitäten, Social Scoring durch öffentliche Behörden, Echtzeit-Biometrie im öffentlichen Raum (mit Ausnahmen), Predictive Policing, Bilddatenbanken durch wahlloses Scraping, Emotionserkennung am Arbeitsplatz, biometrische Kategorisierung. Bußgeld bis 35 Mio. EUR / 7 % Umsatz.

Was ist Verbotene KI-Praktik (Art. 5 EU AI Act)?

Die 8 Verbote im Detail:

  1. Subliminale Manipulation, die Schaden zufügen kann
  2. Ausnutzung von Vulnerabilitäten (Alter, Behinderung, soziale Situation)
  3. Social Scoring durch öffentliche Behörden
  4. Echtzeit-Fern-Biometrie im öffentlichen Raum (Strafverfolgungs-Ausnahmen)
  5. Predictive Policing auf Profil-Basis
  6. Untargeted Scraping für Gesichtserkennungs-Datenbanken (Clearview AI war Anlass)
  7. Emotionserkennung am Arbeitsplatz (Ausnahme: Sicherheits-/Gesundheitsgründe)
  8. Biometrische Kategorisierung nach Rasse, politischer Meinung, sexueller Orientierung etc.

Praxisbeispiel

Kommissions-Leitlinien C(2025) 884 final (04.02.2025) konkretisieren die Verbote. Beispiele klar verboten: HR-Tool, das die Stimmung von Mitarbeitenden im Stress erkennt; Versicherer, der biometrisch nach 'Herkunft' kategorisiert; Schul-Tool, das Schüler-Verhalten manipuliert.

Häufig gestellte Fragen

Greifen die Verbote auch außerhalb der EU?
Ja, sofern EU-Bürger oder EU-Markt betroffen. Wie DSGVO-Marktortprinzip.
Was ist mit ChatGPT-basierter Mitarbeiter-Stimmungs-Analyse?
Wenn Emotionen am Arbeitsplatz erkannt werden — verboten. Wenn nur Sentiment-Analyse von Texten zu Arbeitsergebnissen — erlaubt mit DSGVO-Compliance.
Strafverfolgungs-Ausnahmen?
Eng auszulegen — nur bei schweren Straftaten + richterlicher Genehmigung. Praxis: Polizei-Behörden müssen Implementations-Akten dokumentieren.

Siehe auch