Realwelt-Test (Art. 60)
Test im Echtbetrieb außerhalb Sandbox
Praxis-Hinweis: Dieser Artikel ist praxisorientierte Compliance-Dokumentation, keine Rechtsberatung. Wir sind Compliance-Spezialist, keine Anwaltskanzlei. Für rechtsverbindliche Auskünfte konsultieren Sie eine zugelassene Rechtsanwältin oder einen Rechtsanwalt.
TL;DR
Art. 60 EU AI Act erlaubt Realwelt-Tests von Hochrisiko-KI-Systemen außerhalb regulatorischer Sandboxes — unter Auflagen wie Aufsichtsbehörden-Notifizierung, Risk-Management, betroffene-Person-Schutz.
Was ist Realwelt-Test (Art. 60)?
Realwelt-Test-Anforderungen:
- Schriftliche Zustimmung der zuständigen Aufsichtsbehörde
- Risk-Management-System (Art. 9)
- Datenschutz-Schutzmaßnahmen für Betroffene
- Stop-Mechanismus bei kritischen Vorfällen
- Dokumentation aller Testdaten + Ergebnisse
- Maximaldauer: 6 Monate, einmal verlängerbar um 6 Monate
Praxisbeispiel
HR-Tool-Anbieter testet neues Bewerber-Scoring-Modell mit 5 Kunden in produktivem Recruiting-Workflow. Realwelt-Test-Notifizierung BfDI + Marktüberwachung. Stop-Mechanismus aktiv bei Bias-Werten >5%.
Häufig gestellte Fragen
Warum nicht Sandbox?
Sandbox bietet keine echten Daten/echten Nutzer. Bei Hochrisiko-KI mit Bewerber-Profilen: Sandbox unrealistisch.
Bußgeld bei Verstoß?
Art. 99 — bis 35 Mio. EUR / 7% Weltumsatz.
Wer kann Realwelt-Test machen?
Anbieter UND Betreiber, jeweils mit eigener Notifizierung.