Hochrisiko-KI nach Anhang III: Klassifizierungs-Workbook
TL;DR
- 8 Hochrisiko-Bereiche nach Anhang III EU AI Act
- HR/Recruiting (Nr. 4) ist häufigster KMU-Use-Case — § 22 AGG-Beweislastumkehr greift schon JETZT, unabhängig von der KI-VO-Frist
- Kreditscoring + Versicherungsscoring (Nr. 5) — FRIA-Pflicht ab 02.08.2026 unverändert
- Anhang III-Pflichten ab 02.08.2026 rechtsverbindlich (Vorschlag Digital Omnibus 19.11.2025: Verschiebung auf 02.12.2027 — Trilog läuft, noch nicht beschlossen)
- Art. 6 Abs. 3 Ausnahmen eng auslegen — bei Zweifel als Hochrisiko klassifizieren
1. 8 Hochrisiko-Bereiche nach Anhang III
Kurzantwort: Anhang III EU AI Act listet acht Hochrisiko-Bereiche: (1) biometrische Identifizierung und Kategorisierung, (2) kritische Infrastruktur, (3) Bildung und berufliche Bildung, (4) Beschäftigung und Personalmanagement, (5) wesentliche private und öffentliche Dienste (z.B. Kreditscoring), (6) Strafverfolgung, (7) Migration/Asyl/Grenzkontrolle sowie (8) Justiz und demokratische Prozesse.
| Nr. | Bereich | Typische Beispiele |
|---|---|---|
| 1 | Biometrische Identifizierung + Kategorisierung | Gesichtserkennung, Stimmerkennung, biometrische Klassifizierung |
| 2 | Kritische Infrastruktur | Verkehrsmanagement, Wasser-/Strom-/Gas-Versorgung |
| 3 | Bildung + berufliche Bildung | Bewertung von Schülern/Studierenden, Plagiat-Detektoren mit Bewertungs-Effekt |
| 4 | Beschäftigung, Personalmanagement | HR-Screening, Performance-Management, Beförderungs-Empfehlungen |
| 5 | Wesentliche private + öffentliche Dienste | Kreditscoring, Versicherungs-Scoring, Notfall-Triagen |
| 6 | Strafverfolgung | Risikobewertung Straftäter, Predictive Policing |
| 7 | Migration, Asyl, Grenzkontrolle | Visum-Bewertungs-Algorithmen, Asyl-Routing |
| 8 | Justiz + demokratische Prozesse | Urteil-Recherche-Algorithmen, Wahl-Influencing |
2. Decision Tree zur Klassifizierung
Kurzantwort: Die Klassifizierung als Hochrisiko-KI erfolgt in sechs Schritten: Use Case beschreiben, Anhang-III-Bereich prüfen, bei Treffer die Art.-6-Abs.-3-Ausnahme eng prüfen, Rolle als Anbieter (Art. 3 Nr. 3) oder Betreiber (Art. 3 Nr. 4) klären und die jeweiligen Pflichten dokumentieren — Anbieter mit voller Anhang-IV-Doku und Konformitätsbewertung, Betreiber mit Eingabedaten-Relevanzprüfung, Logs und ggf. FRIA.
- Use Case beschreiben: Was tut das KI-System genau? Welche Daten werden eingegeben, welche ausgegeben?
- Anhang III prüfen: Fällt der Use Case unter einen der 8 Bereiche?
- Wenn ja → Art. 6 Abs. 3 Ausnahme prüfen: 'spezifische, eng begrenzte vorbereitende Aufgabe'?
- Wenn nein → Hochrisiko bestätigt
- Rolle klären: sind Sie Anbieter (Art. 3 Nr. 3) oder Betreiber (Art. 3 Nr. 4)?
- Pflichten dokumentieren: Anbieter (volle Anhang IV-Doku, Konformitätsbewertung) vs. Betreiber (Eingabedaten-Relevanz, Logs, ggf. FRIA)
3. Art. 6 Abs. 3 Ausnahmen
Art. 6 Abs. 3 lässt sich nur eng anwenden. Eine Hochrisiko-Klassifizierung entfällt, wenn das System AUSSCHLIESSLICH:
- eine eng begrenzte vorbereitende Aufgabe ausführt (z.B. Sortierung)
- oder eine begrenzte Aufgabe innerhalb des Use-Case erfüllt
- oder eine spezifische Tätigkeit ausführt, die menschliches Handeln nur unterstützt (nicht ersetzt)
WICHTIG: Wenn das System Empfehlungen oder Bewertungen erzeugt, die menschliche Entscheidungen 'wesentlich beeinflussen' können — Hochrisiko trotz Art. 6 Abs. 3.
4. Sonderfall HR/Recruiting (Anhang III Nr. 4)
Kurzantwort: Im HR-Bereich sind bewertende KI-Systeme (CV-Match-Scoring, Performance-Scoring, Workforce-Planning mit Beförderungs-/Kündigungs-Empfehlungen) Hochrisiko-KI nach Anhang III Nr. 4. Reine Informations-Systeme wie HR-FAQ-Chatbots, Newsletter-Personalisierung oder spezifische Termin-Buchungs-Bots fallen nicht darunter (ggf. Art. 6 Abs. 3-Ausnahme). Zusätzlich greift bereits jetzt die §-22-AGG-Beweislastumkehr bei Diskriminierungsindizien.
| System | Hochrisiko? | Begründung |
|---|---|---|
| CV-Match-Score-Tool | Ja | Bewertung von Bewerbern |
| HR-Chatbot für FAQ | Nein | Reine Information |
| Performance-Scoring-System | Ja | Mitarbeiterbewertung |
| Workforce Planning Algorithmus | Ja | Beförderungs-/Kündigungs-Empfehlungen |
| HR-Newsletter-Personalisierung | Nein | Marketing-Kontext |
| Termin-Buchungs-Bot Bewerber | Nein (Art. 6 Abs. 3) | Spezifische, eng begrenzte Aufgabe |
5. Sonderfall Kredit-/Versicherungsscoring
Anhang III Nr. 5 lit. b (Kreditwürdigkeitsbewertung), lit. c (Lebens-/KV-Scoring). Pflichten greifen ab 02.08.2026 (FRIA Art. 27) — vom Digital-Omnibus-Vorschlag (19.11.2025) NICHT betroffen. Vollständige Anhang III-Pflichten ebenfalls ab 02.08.2026 (Vorschlag DO: Verschiebung auf 02.12.2027 — noch nicht beschlossen).
Praxis 05/2026: Banken bauen FRIA-Methodik bereits aktiv auf, BaFin-Prüfungen 2026 erwartet.
6. Anbieter vs. Betreiber-Pflichten
Kurzantwort: Anbieter (Art. 3 Nr. 3) tragen die Hauptlast: Risikomanagement (Art. 9), Tech-Doku Anhang IV (Art. 11), Konformitätsbewertung (Art. 43) und EU-Datenbank-Eintrag (Art. 49). Betreiber (Art. 3 Nr. 4) müssen Eingabedaten-Relevanz prüfen (Art. 26 Abs. 4), Logs mindestens 6 Monate aufbewahren (Art. 26 Abs. 6), Beschäftigte informieren (Art. 26 Abs. 7) und bei öffentlichen Stellen oder Anhang III Nr. 5 lit. b/c eine FRIA durchführen (Art. 27).
| Anbieter (Art. 3 Nr. 3) | Betreiber (Art. 3 Nr. 4) | |
|---|---|---|
| Risikomanagement (Art. 9) | Pflicht | — |
| Tech-Doku Anhang IV (Art. 11) | Pflicht | — |
| Konformitätsbewertung (Art. 43) | Pflicht | — |
| EU-DB-Eintrag (Art. 49) | Pflicht (öffentliche Stellen + Anhang III Nr. 1) | Pflicht (Nr. 1) |
| Eingabedaten-Relevanzprüfung (Art. 26 Abs. 4) | — | Pflicht |
| Logs (Art. 26 Abs. 6) | — | Pflicht (≥6 Monate) |
| FRIA (Art. 27) | — | Pflicht (öffentl. Stellen + Nr. 5b/c) |
| Beschäftigteninformation (Art. 26 Abs. 7) | — | Pflicht |
7. Klassifizierungs-Checkliste
Kurzantwort: Eine vollständige Hochrisiko-Klassifizierung umfasst neun Schritte: KI-System inventarisieren, Use Case und Output beschreiben, Anhang-III-Bereich (1-8) identifizieren, Art. 6 Abs. 3 eng prüfen, Rolle (Anbieter/Betreiber) bestimmen, Pflichten-Matrix erstellen, FRIA durchführen sofern Pflicht, Tech-Doku nach Anhang IV vorbereiten und Logs-Aufbewahrung konfigurieren.
- KI-System dokumentieren (Inventar)
- Use Case + Output beschreiben
- Anhang III-Bereich identifizieren (1-8)
- Art. 6 Abs. 3 prüfen (eng auslegen)
- Rolle bestimmen (Anbieter / Betreiber)
- Pflichten-Matrix erstellen
- FRIA durchführen (sofern Pflicht)
- Tech-Doku Anhang IV vorbereiten (sofern Anbieter)
- Logs-Aufbewahrung konfigurieren (sofern Betreiber)
- Beschäftigten-Information (sofern Betreiber)
Häufig gestellte Fragen
Wann ist eine HR-KI Hochrisiko?
Was ist mit einfacher 'Spam-Filterung' im HR-Posteingang?
Greift Art. 6 Abs. 3 als Ausnahme?
Müssen Banken FRIA bei Kreditscoring durchführen?
Was passiert, wenn ich falsch klassifiziere?
Welche Tools sind Hochrisiko, welche nicht?
Quellen
- Verordnung (EU) 2024/1689 (KI-VO) — Anhang III (EUR-Lex DE) (Stand: 02.05.2026)
- AI Act Annex III — 8 Hochrisiko-Bereiche (Service Desk)
- AI Act Art. 27 — FRIA (gilt ab 02.08.2026)
- EU-Kommission — Digital-Omnibus-Vorschlag (Stand: 02.05.2026; Trilog läuft)
- EU AI Office (Kommission)