Realwelt-Test (Art. 60)
Test im Echtbetrieb außerhalb Sandbox
TL;DR
Art. 60 EU AI Act erlaubt Realwelt-Tests von Hochrisiko-KI-Systemen außerhalb regulatorischer Sandboxes — unter Auflagen wie Aufsichtsbehörden-Notifizierung, Risk-Management, betroffene-Person-Schutz.
Was ist Realwelt-Test (Art. 60)?
Realwelt-Test-Anforderungen:
- Schriftliche Zustimmung der zuständigen Aufsichtsbehörde
- Risk-Management-System (Art. 9)
- Datenschutz-Schutzmaßnahmen für Betroffene
- Stop-Mechanismus bei kritischen Vorfällen
- Dokumentation aller Testdaten + Ergebnisse
- Maximaldauer: 6 Monate, einmal verlängerbar um 6 Monate
Praxisbeispiel
HR-Tool-Anbieter testet neues Bewerber-Scoring-Modell mit 5 Kunden in produktivem Recruiting-Workflow. Realwelt-Test-Notifizierung BfDI + Marktüberwachung. Stop-Mechanismus aktiv bei Bias-Werten >5%.
Häufig gestellte Fragen
Warum nicht Sandbox?
Sandbox bietet keine echten Daten/echten Nutzer. Bei Hochrisiko-KI mit Bewerber-Profilen: Sandbox unrealistisch.
Bußgeld bei Verstoß?
Art. 60 ist in der abschließenden Aufzählung des Art. 99 Abs. 4 (lit. a–g) nicht aufgeführt — diese nennt nur Verstöße gegen Art. 16 (Anbieter), 22 (Bevollmächtigte), 23 (Einführer), 24 (Händler), 26 (Betreiber), 31/33/34 (notifizierte Stellen) und 50 (Transparenz) mit bis zu 15 Mio. EUR / 3% des weltweiten Jahresumsatzes. Verstöße gegen die Realwelt-Test-Pflichten (Art. 60) sind von den harmonisierten Bußgeld-Obergrenzen des Art. 99 Abs. 3–5 daher nicht erfasst; sie unterliegen den von den Mitgliedstaaten nach Art. 99 Abs. 1 festzulegenden wirksamen, verhältnismäßigen und abschreckenden Sanktionen. Die höchste Stufe (35 Mio. EUR / 7%, Art. 99 Abs. 3) gilt ausschließlich für verbotene KI-Praktiken nach Art. 5, nicht für Art. 60.
Wer kann Realwelt-Test machen?
Anbieter UND Betreiber, jeweils mit eigener Notifizierung.
Siehe auch
Praxis-Hinweis: Dieser Artikel ist praxisorientierte Compliance-Dokumentation, keine Rechtsberatung. Wir sind Compliance-Spezialist, keine Anwaltskanzlei. Für rechtsverbindliche Auskünfte konsultieren Sie eine zugelassene Rechtsanwältin oder einen Rechtsanwalt.