AI Act in Bildung (Anhang III, 3): Schulen, Hochschulen, Weiterbildung

Hauptartikel: Hochrisiko-KI Anhang III — die acht Hochrisiko-Bereiche, die enge Ausnahme des Art. 6 Abs. 3 KI-VO und die Pflichten je Rolle.

1. Anhang III, 3 EU AI Act

Anhang III Nr. 3 KI-VO erfasst vier Fallgruppen von KI-Systemen in der allgemeinen und beruflichen Bildung — Zugangsentscheidungen, Leistungsbewertung, Bewertung des Bildungsniveaus und Prüfungsüberwachung.

Anhang III Nr. 3 KI-VO (VO (EU) 2024/1689) erfasst vier Fallgruppen: Buchst. a — KI-Systeme, die bestimmungsgemäß „zur Feststellung des Zugangs oder der Zulassung oder zur Zuweisung natürlicher Personen zu Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung“ verwendet werden sollen; Buchst. b — Systeme „für die Bewertung von Lernergebnissen“, einschließlich des Falles, dass diese Ergebnisse der Steuerung des Lernprozesses dienen; Buchst. c — Systeme „zum Zweck der Bewertung des angemessenen Bildungsniveaus, das eine Person im Rahmen von oder innerhalb von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung erhalten wird oder zu denen sie Zugang erhalten wird“; Buchst. d — Systeme „zur Überwachung und Erkennung von verbotenem Verhalten von Schülern bei Prüfungen“.

Maßgeblich ist der bestimmungsgemäße Zweck, nicht der Produktname; typische Beispiele des Bereichs sind die Bewertung von Schülern und Studierenden sowie Plagiat-Detektoren mit Bewertungs-Effekt. Nach Art. 6 Abs. 3 KI-VO gilt ein in Anhang III genanntes System ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt — die Ausnahme entfällt jedoch, sobald das System ein Profiling natürlicher Personen durchführt. Erzeugt es Empfehlungen oder Bewertungen, die menschliche Entscheidungen wesentlich beeinflussen können, bleibt es trotz Art. 6 Abs. 3 Hochrisiko. Praxisempfehlung: die Ausnahme eng auslegen, im Zweifel als Hochrisiko klassifizieren und die Entscheidung im KI-Inventar begründen.

2. Pflichten ab 02.12.2027 (Verordnung (EU) 2026/1744, in Kraft seit 27.07.2026)

Welche Pflicht eine Bildungseinrichtung trifft, entscheidet sich an ihrer Rolle — Anbieter (Art. 3 Nr. 3) oder Betreiber (Art. 3 Nr. 4); die Pflichten der Kapitel III Abschnitte 1–3 gelten für Anhang-III-Hochrisikosysteme ab dem 02.12.2027 (Art. 113 Abs. 3 lit. c Ziff. i KI-VO in der Fassung der Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026).

Konformitätsbewertung, Bias-Test, Transparenz, Human Oversight — diese Betreiber- und Anbieterpflichten treffen alle betroffenen Einrichtungen, jeweils nach ihrer Rolle als Anbieter oder Betreiber (Tabelle unten). Die FRIA (Grundrechte-Folgenabschätzung, Art. 27) gilt dagegen nicht flächendeckend: Nach Art. 27 Abs. 1 KI-VO führen sie nur Betreiber durch, „bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt“, sowie Betreiber von Hochrisiko-KI-Systemen nach Anhang III Nr. 5 Buchst. b und c. Öffentliche Schulen und Hochschulen sowie private Träger, die öffentliche Dienste erbringen, sind damit erfasst — rein privatwirtschaftliche Weiterbildungsanbieter nicht.

Die Tabelle gibt ausschließlich gesetzliche Pflichten der KI-VO wieder, keine Praxisempfehlungen.

Zur Registrierung eine Präzisierung: Die Anbieterpflicht nach Art. 49 Abs. 1 gilt für alle Anhang-III-Systeme mit der einzigen Ausnahme der Nr. 2 — Bildungssysteme nach Nr. 3 sind erfasst. Nach Art. 49 Abs. 2 registrieren sich zusätzlich Anbieter, die ihr System nach Art. 6 Abs. 3 als nicht hochriskant einstufen. Der Digital-Omnibus ist als Verordnung (EU) 2026/1744 seit dem 27. Juli 2026 in Kraft: Die Pflichten der Kapitel III Abschnitte 1–3 gelten für Anhang-III-Systeme damit ab dem 02.12.2027 (Art. 113 Abs. 3 lit. c Ziff. i KI-VO n. F.).

3. Sondersensible Daten: DSGVO Art. 9

Bei Bildung oft Gesundheits- und Behinderungsdaten — besondere Kategorien personenbezogener Daten nach DSGVO Art. 9 (VO (EU) 2016/679). Die Verarbeitung solcher Daten zur Bias-Erkennung und -Korrektur bei Hochrisiko-KI regelt KI-VO Art. 10 Abs. 5 (Daten und Daten-Governance) — nicht KI-VO Art. 9, der das Risikomanagementsystem betrifft.

Art. 9 Abs. 1 DSGVO stellt diese Daten unter ein grundsätzliches Verarbeitungsverbot — erfasst sind unter anderem Gesundheitsdaten, Daten über die rassische und ethnische Herkunft, religiöse oder weltanschauliche Überzeugungen sowie biometrische Daten zur eindeutigen Identifizierung; Ausnahmen regelt Abs. 2, etwa die ausdrückliche Einwilligung. Unabhängig davon braucht jede Verarbeitung eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO, wobei lit. f (berechtigtes Interesse) für die von Behörden in Erfüllung ihrer Aufgaben vorgenommene Verarbeitung nicht gilt. Wer sich auf eine Einwilligung stützt, muss sie nachweisen können; sie ist jederzeit widerrufbar, und der Widerruf muss so einfach sein wie die Erteilung (Art. 7 Abs. 1 und 3 DSGVO). Praxisempfehlung: Rechtsgrundlage je Zweck getrennt dokumentieren — Zulassung, Leistungsbewertung und Prüfungsaufsicht sind unterschiedliche Zwecke.

4. Verbot Emotion-Detection in Klausuren

Art. 5 Abs. 1 lit. f: Emotion-Detection bei Bildung verboten — auch bei Anti-Cheating-Software.

Das Verbot der Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen gehört zum Katalog verbotener KI-Praktiken des Art. 5 Abs. 1 KI-VO und gilt nach Art. 113 KI-VO seit dem 02.02.2025 (Kapitel I und II); die Verordnung (EU) 2026/1744 (Digital-Omnibus KI), in Kraft seit 27. Juli 2026, hat daran nichts geändert. Für Prüfungen folgt daraus eine scharfe Zweiteilung: Ein Proctoring-System, das Emotionen erkennt oder ableitet, fällt unter das Verbot. Ein Aufsichtssystem ohne Emotionserkennung, das nur verbotenes Verhalten bei Prüfungen erkennen soll, ist zulässig, aber Hochrisiko-KI nach Anhang III Nr. 3 Buchst. d — mit den Pflichten aus Abschnitt 2. Auch der Sanktionsrahmen trennt scharf: Verstöße gegen Art. 5 werden mit bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3). Praxisempfehlung: vor der Beschaffung schriftlich bestätigen lassen, welche Merkmale das System auswertet.

5. Eltern + Schüler-Information

Art. 50 + DSGVO Art. 13: transparente Information über KI-Nutzung. Widerspruchs-Recht.

Die Transparenzpflichten des Art. 50 KI-VO gelten seit dem 02.08.2026 und knüpfen nicht an die Hochrisiko-Einstufung an: Zur direkten Interaktion mit natürlichen Personen bestimmte Systeme müssen die Personen darüber informieren, dass sie mit einem KI-System interagieren (Abs. 1) — für Lern-Chatbots der zentrale Punkt. Anbieter, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert kennzeichnen (Abs. 2); Betreiber, die Deepfakes erzeugen oder manipulieren, müssen dies offenlegen (Abs. 4). Davon zu trennen ist die Information der eigenen Beschäftigten nach Art. 26 Abs. 7 KI-VO — diese Pflicht richtet sich an Lehrkräfte und Verwaltungspersonal und gilt für Anhang-III-Systeme ab dem 02.12.2027 (Art. 113 Abs. 3 lit. c Ziff. i KI-VO in der Fassung der Verordnung (EU) 2026/1744). Auf Anträge betroffener Personen nach Art. 15 bis 22 DSGVO ist unverzüglich, spätestens binnen eines Monats zu reagieren; die Frist ist bei Komplexität um zwei Monate verlängerbar, worüber innerhalb des ersten Monats zu unterrichten ist (Art. 12 Abs. 3 DSGVO).

6. FRIA und DSFA: zwei Prüfungen mit eigenen Auslösern

FRIA und Datenschutz-Folgenabschätzung sind zwei getrennte Prüfungen mit je eigenem Auslöser und eigener Fundstelle — die eine folgt aus der KI-VO, die andere aus der DSGVO.

Die FRIA umfasst inhaltlich die Beschreibung des KI-Einsatzes, die betroffenen Personen, die Risiken für Grundrechte und die Schutzmaßnahmen. In Bildungseinrichtungen fallen beide Auslöser häufig zusammen: Ein Lern-Analytics-System, das Leistungsdaten systematisch bewertet und dabei Gesundheits- oder Behinderungsdaten verarbeitet, berührt das Profiling-Kriterium und die besonderen Datenkategorien des Art. 9 DSGVO. Praxisempfehlung: beide Prüfungen in einem Erhebungslauf, aber getrennt ausweisen — Prüfer erwarten die jeweilige Fundstelle, kein Mischdokument.

7. EdTech-Beschaffung: Rollen, Verträge, Rollenwechsel

Wer ein Bildungs-KI-System einkauft, ist in der Regel Betreiber — Anbieterpflichten entstehen erst bei wesentlicher Änderung oder Inverkehrbringen unter eigenem Namen (Art. 25 KI-VO).

Drei Punkte gehören in jede Beschaffung. Rollenklärung: Anbieter ist, wer ein KI-System entwickelt oder in Verkehr bringt; Betreiber, wer es unter eigener Verantwortung verwendet. Baut eine Hochschule ein zugekauftes System zu einem eigenen, anders vermarkteten um, greift der Rollenwechsel nach Art. 25 KI-VO mit dem vollen Anbieterpaket aus Abschnitt 2. Auftragsverarbeitungsvertrag: Es dürfen nur Auftragsverarbeiter eingesetzt werden, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten; der Vertrag muss Gegenstand und Dauer, Art und Zweck der Verarbeitung, die Art der Daten, die Kategorien betroffener Personen sowie Pflichten und Rechte des Verantwortlichen festlegen (Art. 28 Abs. 1 und 3 DSGVO). Lernplattform-Technik: In Deutschland ist die Speicherung von Informationen auf der Endeinrichtung oder der Zugriff darauf nur mit vorheriger, informierter Einwilligung zulässig; keine Einwilligung ist erforderlich, wenn der Zugriff unbedingt erforderlich ist, damit ein ausdrücklich gewünschter digitaler Dienst bereitgestellt werden kann (TDDDG § 25 Abs. 1 und 2). Praxisempfehlung: ISO 42001 als Baustein werten, nicht als Vollersatz — Konformitätsbewertung (Art. 43), EU-Datenbank-Eintrag (Art. 49) und FRIA (Art. 27) sind davon nicht abgedeckt.

8. Datenschutzbeauftragte: Benennungspflicht in DE und AT

Die Benennungspflicht folgt zunächst unmittelbar aus Art. 37 Abs. 1 DSGVO — Verarbeitung durch eine Behörde oder öffentliche Stelle (lit. a), umfangreiche regelmäßige und systematische Überwachung als Kerntätigkeit (lit. b) oder umfangreiche Verarbeitung besonderer Datenkategorien als Kerntätigkeit (lit. c). Die ergänzende nationale Schwelle unterscheidet sich:

• Deutschland: Ergänzend zu Art. 37 Abs. 1 lit. b und c ist ein Datenschutzbeauftragter zu benennen, soweit in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind — und unabhängig von dieser Zahl, wenn Verarbeitungen einer DSFA nach Art. 35 DSGVO unterliegen (BDSG § 38 Abs. 1).
• Österreich: keine über Art. 37 DSGVO hinausgehende zahlenmäßige Benennungsschwelle; die Pflicht folgt unmittelbar aus Art. 37 DSGVO. § 5 DSG regelt ergänzend Geheimhaltung und Weisungsfreiheit im öffentlichen Bereich (DSG § 5).

Für Bildungseinrichtungen ist der zweite deutsche Auslöser der praktisch relevantere: Wer für ein Lern-Analytics- oder Prüfungssystem eine DSFA durchführen muss, benennt in Deutschland unabhängig von der 20-Personen-Grenze.

9. Diskriminierungsschutz beim Bildungszugang: AGG und GlBG

Neben der KI-VO greift das Antidiskriminierungsrecht — und dort weichen Deutschland und Österreich in Anknüpfung und Beweismaßstab voneinander ab.

Zugang zu Bildungsleistungen. In Deutschland ist eine Benachteiligung aus Gründen der Rasse oder der ethnischen Herkunft, des Geschlechts, der Religion, einer Behinderung, des Alters oder der sexuellen Identität bei zivilrechtlichen Schuldverhältnissen unzulässig, die typischerweise ohne Ansehen der Person in einer Vielzahl von Fällen zustande kommen (Massengeschäfte) oder eine privatrechtliche Versicherung betreffen; für Rasse und ethnische Herkunft gilt das Verbot darüber hinaus umfassend (AGG § 19 Abs. 1 und 2). Zivilrechtliche Ansprüche sind binnen zwei Monaten geltend zu machen (AGG § 21 Abs. 5). In Österreich nennt § 31 GlBG die Bildung ausdrücklich: Auf Grund der ethnischen Zugehörigkeit darf niemand unmittelbar oder mittelbar diskriminiert werden, unter anderem beim Zugang zu Gütern und Dienstleistungen, beim Sozialschutz, bei sozialen Vergünstigungen und bei der Bildung.

Personalauswahl der Einrichtung. Setzt eine Schule oder Hochschule KI bei der eigenen Personalauswahl ein, liegt der Fall in Anhang III Nr. 4, nicht Nr. 3. Der Beweismaßstab unterscheidet sich: In Deutschland trägt nach § 22 AGG die Gegenseite die Beweislast dafür, dass kein Verstoß vorlag, sobald Indizien für eine Benachteiligung bewiesen sind. In Österreich hat die betroffene Person den Diskriminierungstatbestand glaubhaft zu machen; der beklagten Partei obliegt dann der Beweis, dass bei Abwägung aller Umstände wahrscheinlicher ein anderes Motiv ausschlaggebend war oder ein Rechtfertigungsgrund vorliegt (GlBG § 12 Abs. 12 für das Geschlecht, § 26 Abs. 12 für die übrigen Gründe).

10. Sanktionsrahmen: KI-VO und DSGVO nebeneinander

Ein fehlerhafter KI-Einsatz in der Bildung kann zwei Sanktionsregime auslösen — das der KI-VO und das der DSGVO samt nationaler Ergänzungen.

Drei Präzisierungen: Für die Ordnungswidrigkeiten des § 43 BDSG — er erfasst die § 30-Fälle, also die fehlerhafte Behandlung eines Auskunftsverlangens und die Verbraucherunterrichtung, Rahmen bis 50.000 Euro — werden gegen Behörden und sonstige öffentliche Stellen keine Geldbußen verhängt; das betrifft ausschließlich § 43 BDSG, nicht den Rahmen des Art. 83 DSGVO. In Österreich greift § 62 Abs. 1 DSG nur subsidiär: Sofern die Tat nicht bereits einen Tatbestand nach Art. 83 DSGVO verwirklicht oder nach anderen Verwaltungsstrafbestimmungen strenger bedroht ist, liegt eine Verwaltungsübertretung vor — etwa der vorsätzliche widerrechtliche Zugang zu einer Datenverarbeitung —, die mit Geldstrafe bis zu 50.000 Euro zu ahnden ist; zuständig ist die Datenschutzbehörde. Und Verstöße gegen Art. 4 KI-VO (KI-Kompetenz) fallen nicht unter Art. 99 Abs. 4 — sie haben keinen eigenen EU-Bußgeldrahmen, Sanktionen richten sich insoweit nach nationalem Recht (Art. 99 Abs. 1).

11. Umsetzungsschritte für Bildungseinrichtungen (Praxisempfehlung)

Die folgende Reihenfolge ist eine Praxisempfehlung, keine gesetzliche Frist — die gesetzlichen Termine stehen in den Abschnitten 2, 4 und 5.

1. KI-Inventar aufbauen — je System: Name und Anbieter, Use Case, Rolle, Risikoklasse, Datenarten inklusive besonderer Kategorien nach Art. 9 DSGVO, Verantwortliche für Aufsicht und Eskalation.
2. Art.-5-Screening jedes Prüfungs- und Aufsichtssystems (Abschnitt 4), anschließend Anhang-III-Zuordnung und enge Prüfung von Art. 6 Abs. 3 (Abschnitt 1).
3. Rolle festschreiben und die Pflichten aus der Tabelle in Abschnitt 2 zuordnen; FRIA und DSFA nach den Auslösern aus Abschnitt 6 planen.
4. Betreiberpflichten technisch verankern — Log-Aufbewahrung, Eingabedaten-Relevanzprüfung als Arbeitsschritt, Information der Beschäftigten dokumentieren (Art. 26 Abs. 4, 6 und 7 KI-VO).
5. Menschliche Letztentscheidung festhalten — die menschliche Aufsicht nach Art. 14 KI-VO gehört zum Pflichtenkatalog für Anhang-III-Systeme; Bewertungs- und Zulassungsentscheidungen brauchen eine benannte entscheidende Person.
6. KI-Kompetenz nach Art. 4 KI-VO für alle Personen sicherstellen, die mit KI in Berührung kommen — diese Pflicht gilt seit dem 02.02.2025.

Praxis-Rhythmus (keine gesetzliche Frist): Inventar und Rollenzuordnung einmal jährlich sowie anlassbezogen bei jedem Release-Wechsel eines Prüfungs- oder Bewertungssystems nachziehen; neue Werkzeuge vor dem Pilotbetrieb einordnen, nicht danach.