Human Oversight (Art. 14 EU AI Act)
Menschliche Aufsicht für Hochrisiko-KI
Praxis-Hinweis: Dieser Artikel ist praxisorientierte Compliance-Dokumentation, keine Rechtsberatung. Wir sind Compliance-Spezialist, keine Anwaltskanzlei. Für rechtsverbindliche Auskünfte konsultieren Sie eine zugelassene Rechtsanwältin oder einen Rechtsanwalt.
TL;DR
Human Oversight nach Art. 14 EU AI Act ist die Pflicht, dass Hochrisiko-KI-Systeme so gestaltet sind, dass natürliche Personen sie wirksam beaufsichtigen können. Anbieter-Pflicht (Design): Stop-Button, Kontroll-Mechanismen, klare Outputs. Betreiber-Pflicht: Menschen mit Kompetenz + Schulung + Befugnis (Art. 26 Abs. 2).
Was ist Human Oversight (Art. 14 EU AI Act)?
Anbieter müssen Human-Oversight-Mechanismen einbauen (Art. 14 Abs. 4):
- Verständnis der Fähigkeiten und Grenzen
- Bewusstsein für Automation Bias
- Korrektur-Eingriffe möglich
- Stop-Button / Override
- Outputs interpretierbar
Betreiber müssen Personen mit Kompetenz, Schulung und Befugnis benennen (Art. 26 Abs. 2). § 22 AGG-Beweislastumkehr i.V.m. Art. 14, 26 KI-VO: fehlende Human Oversight begründet AGG-Haftung — schon vor Anhang-III-Anwendung.
Praxisbeispiel
Praxis-Anforderungen für HR-Recruiting-Tool:
- HR-Mitarbeitende mit Schulung in algorithmischer Entscheidungsfindung
- Override-Möglichkeit für jede automatische Ablehnung
- Bias-Indikator-Display
- Audit-Trail aller Entscheidungen
Häufig gestellte Fragen
Reicht ein 'Stop-Button'?
Nein, das ist Mindestbasis. Human Oversight verlangt VERSTÄNDNIS + Eingriffs-MÖGLICHKEIT + Vermeidung Automation Bias.
Was ist Automation Bias?
Tendenz, automatischen Empfehlungen unkritisch zu folgen. Mensch verlässt sich auf Algorithmus, ohne ihn zu hinterfragen — Art. 14 Abs. 4 lit. b verlangt Bewusstsein dafür.
Müssen alle Mitarbeitenden HR-KI verstehen?
Nein, nur die mit Aufsichts-Rolle. Praxis: dedizierte 'AI-Aufsichts-Rolle' im HR-Team.