AI Act + Open-Source-Modelle: Llama, Mistral, Falcon

Hauptartikel: GPAI-Anbieter-Pflichten — die Anbieterpflichten nach Kapitel V KI-VO (Art. 53 bis 55) im Zusammenhang.

Quellenstand: Die Rechtsaussagen dieses Artikels beruhen auf einer Quellenprüfung vom 02.05.2026, nachgeführt zum 17.08.2026. Der Digital-Omnibus für die KI-VO ist als Verordnung (EU) 2026/1744 seit dem 27. Juli 2026 in Kraft und hier berücksichtigt.

1. Art. 2 Abs. 12-Ausnahme

Open-Source mit zugänglichen Gewichten ist von vielen Pflichten ausgenommen. ABER: GPAI-Pflichten Art. 53 gelten dennoch.

Wie weit die Ausnahme im GPAI-Kapitel reicht, staffelt Art. 53 Abs. 1 KI-VO selbst nach Buchstaben — die Aufschlüsselung je Pflicht steht in Abschnitt 3.

Sobald Sie ein solches Modell in eine Anwendung einbauen, verschiebt sich der Prüfgegenstand. Bewertet wird dann das KI-System nach Art. 3 Nr. 1 KI-VO — ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus Eingaben ableitet, wie es Ausgaben erzeugt — samt seiner Risikoklasse nach Art. 5, Art. 6 mit Anhang III und Art. 50.

Eine Angabe ist dabei besonders wichtig: Ist das Modell als Modell mit systemischem Risiko nach Art. 51 eingestuft, endet die Erleichterung des Art. 53 Abs. 1 vollständig (Abschnitt 6). Welche Angaben Sie je Modell erheben und wo Sie sie ablegen, steht in Abschnitt 2. Die übrigen Voraussetzungen des Art. 2 Abs. 12 deckt die Quellenprüfung dieses Artikels nicht ab; sie sind im Einzelfall am Verordnungstext zu klären.

2. Was IST Open-Source nach AI Act?

Modell + Gewichte + Architektur frei zugänglich. In der Praxis wird nach Lizenztyp unterschieden: Apache und MIT auf der einen Seite, Lizenzen mit Nutzungs- oder Nutzerzahl-Beschränkung auf der anderen; die Llama-Lizenz gehört teilweise in die zweite Gruppe (Restriktionen bei kommerzieller Nutzung). Welchen Typ ein konkretes Modell trägt, ist je Modell und Version am Lizenztext zu prüfen und im Inventar festzuhalten.

Für die Pflichtenlage ist diese Einordnung nur die halbe Antwort. Ob ein Modell überhaupt in das GPAI-Kapitel fällt, entscheidet Art. 3 Nr. 63 KI-VO: ein KI-Modell mit erheblicher allgemeiner Verwendbarkeit, das ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen kann und in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann — ausgenommen sind Modelle, die vor dem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder das Prototyping eingesetzt werden. Die Definition in Art. 3 Nr. 63 stellt nicht auf die Lizenz ab; die Erleichterung in Art. 53 Abs. 1 knüpft dagegen an freie und quelloffene Modelle an — welche Modelle das sind, ist am Verordnungstext im Einzelfall zu klären und von der Quellenprüfung dieses Artikels nicht abgedeckt.

Bei Lizenzen der zweiten Gruppe zieht die Llama-Lizenz die Grenze bei 700 Millionen monatlich aktiven Nutzern. Praxisempfehlung für Anbieter solcher Modelle (zur Rollenabgrenzung Abschnitt 4): die Pflichten aus Art. 53 Abs. 1 lit. a und lit. b vorsorglich als anwendbar behandeln und die Einordnung im Inventar begründen.

Für die drei im Titel genannten Modelle ist die folgende Tabelle ein Erhebungsraster, kein Ergebnis. Die gefüllten Felder geben den Stand der geprüften Quellen wieder — modellspezifisch belegt sind allein der Anbieter und die Lizenzschwelle von Llama sowie die Einordnung von Mistral AI als GPAI-Anbieter. Die offenen Felder sind beim Anbieter zu erfragen; keine der Angaben ist ein Rechtsschluss. Ein offenes Feld ist kein Nein, sondern eine Frage an den Anbieter. Die letzte Spalte füllen Sie selbst mit Fundstelle und Datum der Auskunft:

Praxisempfehlung — kopierfertige Anfrage an den Anbieter, je Modell und Version:

1. Unter welcher Lizenz steht Version X, und enthält sie Nutzungs- oder Nutzerzahl-Beschränkungen?
2. Sind Gewichte und Architektur öffentlich zugänglich?
3. Führen Sie das Modell als Modell mit systemischem Risiko nach Art. 51 KI-VO, und wie hoch war die kumulierte, für das Training verwendete Rechenleistung in FLOP?
4. Wo ist die Trainingsdaten-Zusammenfassung nach Art. 53 Abs. 1 lit. d veröffentlicht?

Legen Sie die Antwort mit dem Datum der Auskunft im KI-System-Inventar ab — zusammen mit Lizenz, Bezugsquelle und Version und zusätzlich zu den sechs Feldern, die ein KI-System-Inventar ohnehin führen sollte: Name und Anbieter, Use Case, Rolle (Anbieter, Betreiber oder beides), Risikoklasse, verarbeitete Datenarten einschließlich besonderer Kategorien sowie Zuständigkeit für Aufsicht und Eskalation.

3. GPAI-Pflichten gelten dennoch

Die Buchstaben c und d treffen jeden GPAI-Anbieter, unabhängig davon, ob das Modell frei und quelloffen veröffentlicht wurde: Anbieter Llama 3 (Meta) muss die Urheberrechts-Policy (Art. 53 Abs. 1 lit. c) und die Trainingsdaten-Zusammenfassung (Art. 53 Abs. 1 lit. d) erfüllen.

Art. 53 Abs. 1 kennt vier Basis-Pflichten. Die Spalte „Freie und quelloffene Modelle“ gibt für jede Pflicht wieder, ob sie für solche Modelle eingeschränkt oder uneingeschränkt gilt.

Zum Nachweismittel: Bis zur Veröffentlichung einer harmonisierten Norm können sich Anbieter nach Art. 53 Abs. 4 auf Praxisleitfäden im Sinne des Art. 56 stützen — bei Modellen mit systemischem Risiko über Art. 55 Abs. 2. Der GPAI-Code of Practice ist damit ein anerkanntes Nachweismittel, keine gesetzliche Konformitätsvermutung — diese begründet nur die Einhaltung einer harmonisierten Norm, soweit sie die Pflichten abdeckt. Wer weder Praxisleitfaden noch harmonisierte Norm einhält, muss geeignete alternative Verfahren der Einhaltung aufzeigen.

Praxisempfehlung für Anbieter freier und quelloffener Modelle: Auch wer die Buchstaben a und b nur eingeschränkt schuldet, belegt die Einhaltung am einfachsten über einen Praxisleitfaden im Sinne des Art. 56 — andernfalls sind die geeigneten alternativen Verfahren eigenständig zu dokumentieren; bewertet werden sie von der Kommission.

4. Self-Hosting + Fine-Tuning

Bei wesentlicher Anpassung: Sie werden ggf. selbst zum Anbieter (Art. 25). Risiko: alle Anbieter-Pflichten.

Nach Art. 25 wechselt ein Betreiber in die Anbieterrolle, wenn er Zweck oder Funktionalität wesentlich ändert oder das System unter eigenem Namen in Verkehr bringt. In der Praxis entsteht der Anbieter-Status vor allem in drei Konstellationen: eigenes Modell-Training, eine wesentliche Fine-Tuning-Anpassung — etwa ein medizinisches Sprachmodell auf Basis eines quelloffenen Modells — oder ein Wrapper mit White-Label-Branding und eigener Vermarktung. Ein Custom-GPT auf einer gehosteten Plattform oder ein Wrapper ohne eigene Vermarktung begründet ihn nicht.

Der Unterschied ist erheblich. Als Anbieter eines Hochrisiko-Systems tragen Sie unter anderem Risikomanagement (Art. 9), Data Governance (Art. 10), technische Dokumentation nach Anhang IV (Art. 11), Logging (Art. 12), menschliche Aufsicht (Art. 14), Genauigkeit, Robustheit und Cybersicherheit (Art. 15), die Konformitätsbewertung (Art. 43) und den Eintrag in die EU-Datenbank (Art. 49 Abs. 1, für alle Anhang-III-Systeme außer Nr. 2) — für Anhang-III-Systeme ab dem 02.12.2027, für die regulierten Produkte nach Anhang I ab dem 02.08.2028 (Art. 113 Abs. 3 lit. c KI-VO in der Fassung der Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026; Abschnitt 8). Praxisempfehlung: Entscheiden und dokumentieren Sie die Rolle je Modell, bevor Sie mit dem Fine-Tuning beginnen — nicht danach.

5. Empfehlung KMU

Self-Host nur bei hochsensitiven Daten + technischer Expertise. Sonst: GPAI-Anbieter-Wrapper nutzen (z.B. Aleph Alpha, Mistral La Plateforme). Die Abwägung selbst ist eine Praxisempfehlung, keine Rechtsfolge; die in der Tabelle genannten Normen gelten unabhängig von der Entscheidung für oder gegen Self-Hosting. Die oben genannten Anbieter sind Beispiele aus der Erstfassung dieses Artikels, keine Auswahlempfehlung.

Unabhängig vom Betriebsmodell bleiben zwei datenschutzrechtliche Anforderungen bestehen: Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO. Und führt der Einsatz voraussichtlich zu einem hohen Risiko für die Rechte und Freiheiten natürlicher Personen — insbesondere bei Verwendung neuer Technologien —, ist vorab eine Datenschutz-Folgenabschätzung nach Art. 35 Abs. 1 DSGVO durchzuführen. Zu den Bußgeldrahmen beider Regime siehe Abschnitt 9.

6. Systemisches Risiko: wann die Erleichterung endet

Die Erleichterung für freie und quelloffene Modelle endet, sobald das Modell als GPAI-Modell mit systemischem Risiko eingestuft ist — dann gelten die Buchstaben a und b uneingeschränkt, und Art. 55 kommt hinzu.

Eingestuft wird nach Art. 51 Abs. 1, wenn das Modell Fähigkeiten mit hohem Wirkungsgrad besitzt — bewertet anhand geeigneter technischer Instrumente, Indikatoren und Benchmarks — oder wenn die Kommission dies aufgrund der Kriterien des Anhangs XIII entscheidet. Nach Art. 51 Abs. 2 wird angenommen, dass solche Fähigkeiten vorliegen, wenn die kumulierte, für das Training verwendete Rechenleistung mehr als 10²⁵ Gleitkommaoperationen beträgt.

Drei Schritte machen die Schwelle anwendbar (Praxisempfehlung): Erstens die Trainings-Rechenleistung des Basismodells beim Anbieter erfragen und im Inventar festhalten — die technische Dokumentation nach Anhang XI führt den Trainingsaufwand, gilt für freie und quelloffene Modelle unterhalb der Systemrisiko-Schwelle aber nur eingeschränkt. Zweitens den eigenen Fine-Tuning-Aufwand mitprotokollieren: Art. 51 Abs. 2 stellt auf die kumulierte, für das Training verwendete Rechenleistung ab; wie eigener Nachtrainings-Aufwand dabei zu berücksichtigen ist, deckt die Quellenprüfung dieses Artikels nicht ab. Drittens im Blick behalten, dass die Einstufung auch ohne Schwellenwert durch Entscheidung der Kommission nach den Kriterien des Anhangs XIII erfolgen kann — die Schwelle ist eine Vermutung, keine Obergrenze.

Diesen dritten Weg können Sie selbst nicht prüfen; die Einstufung nimmt die Kommission vor. Praxisempfehlung: Beim Bezug oder Fine-Tuning eines quelloffenen Modells eine Mitteilungspflicht des Anbieters bei Änderung der Einstufung nach Art. 51 vereinbaren und die Einstufung je Modell mit Abfragedatum im Inventar führen; ändert sie sich, greift unmittelbar der im ersten Absatz dieses Abschnitts beschriebene Pflichtenumfang.

Für Llama, Mistral und Falcon liegt keine geprüfte Angabe zur Einstufung nach Art. 51 vor; die entsprechende Spalte der Tabelle in Abschnitt 2 bleibt für alle drei offen und ist beim jeweiligen Anbieter zu erfragen.

Die Zusatzpflichten aus Art. 55 Abs. 1 KI-VO sind vier: Modellbewertung nach standardisierten Protokollen einschließlich Angriffstests (lit. a), Bewertung und Minderung möglicher systemischer Risiken auf Unionsebene (lit. b), Erfassung, Dokumentation und unverzügliche Meldung schwerwiegender Vorfälle an das Büro für Künstliche Intelligenz und gegebenenfalls die zuständigen nationalen Behörden (lit. c) sowie ein angemessenes Maß an Cybersicherheit für das Modell und seine physische Infrastruktur (lit. d).

7. Was für unternehmensinterne Verwender folgt

Wer ein Open-Source-Modell ausschließlich intern und unverändert einsetzt, bleibt in aller Regel Betreiber — und trägt damit einen kleineren, aber eigenständigen Pflichtenkatalog. Die Tabelle nennt die Pflichten, die einen solchen internen Verwender treffen — aus der KI-VO in der Betreiberrolle, aus der DSGVO als Verantwortlicher; die Spalte „Auslöser“ gibt wieder, woran die jeweils genannte Norm anknüpft.

Ob die Zeilen zu Art. 26 und Art. 27 greifen, entscheidet die Einstufung nach Art. 6: als Sicherheitsbauteil eines Produkts nach Anhang I mit Drittkonformitätsbewertung (Abs. 1) oder über die Zuordnung zu einem der acht Bereiche des Anhangs III (Abs. 2) — Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden Diensten, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Rechtspflege und demokratische Prozesse. Die Rückausnahme in Art. 6 Abs. 3 für Systeme ohne erhebliches Risiko gilt nicht, wenn das System ein Profiling natürlicher Personen durchführt; Praxisempfehlung: eng auslegen und im Zweifel höher klassifizieren.

8. Fristen: was wann gilt

Für GPAI-Modelle änderte sich die Pflichtenlage nicht zum 02.08.2026, sondern bereits ein Jahr früher; zum 02.08.2026 kam allein die Geldbußenbefugnis der Kommission hinzu. Alle Angaben der Tabelle sind Anwendungsbeginne aus der KI-VO, keine Praxisempfehlungen.

Für Bestandsmodelle ist die Nachziehfrist die praktisch wichtigste Zeile. Praxisempfehlung: Wer ein quelloffenes Modell einsetzt, das vor dem 02.08.2025 in Verkehr gebracht wurde, fragt beim Anbieter nach, wie dieser die Frist bis zum 02.08.2027 belegt — die öffentliche Trainingsdaten-Zusammenfassung nach Art. 53 Abs. 1 lit. d ist dabei das am leichtesten prüfbare Dokument, weil sie ohnehin zu veröffentlichen ist.

9. Zuständigkeit, Bußgelder, Deutschland und Österreich

Für die GPAI-Anbieterpflichten ist nicht die nationale Aufsicht zuständig, sondern die Kommission: Für Kapitel V verfügt sie über ausschließliche Aufsichts- und Durchsetzungsbefugnisse und überträgt die Durchführung dem Büro für Künstliche Intelligenz (Art. 88 Abs. 1). Die nationalen Behörden — jeder Mitgliedstaat benennt mindestens eine notifizierende und mindestens eine Marktüberwachungsbehörde, davon eine als zentrale Anlaufstelle (Art. 70 Abs. 1 und 2) — sind für die Anbieterpflichten aus Art. 53 und Art. 55 nicht zuständig.

Die Bußgelder staffelt Art. 99: bis 35 Mio. EUR oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres bei Verstößen gegen die verbotenen Praktiken des Art. 5 (Abs. 3), bis 15 Mio. EUR oder 3 % bei bestimmten anderen Pflichtverstößen — unter anderem Anbieterpflichten aus Art. 16, Betreiberpflichten aus Art. 26 und Transparenzpflichten aus Art. 50 (Abs. 4) — und bis 7,5 Mio. EUR oder 1 % für falsche, unvollständige oder irreführende Angaben gegenüber Behörden (Abs. 5). Bei Unternehmen gilt der höhere Betrag; für KMU und Start-ups wird nach Art. 99 Abs. 6 der niedrigere angesetzt. Gegen GPAI-Anbieter kann die Kommission seit dem 02.08.2026 nach Art. 101 Geldbußen bis 15 Mio. EUR oder 3 % verhängen. Art. 4 (KI-Kompetenz) fällt nicht unter Art. 99 Abs. 4; Verstöße gegen die Schulungspflicht haben keinen eigenen EU-Bußgeldrahmen, die Sanktionen richten sich nach nationalem Recht im Rahmen von Art. 99 Abs. 1.

Daneben läuft das Bußgeldregime der DSGVO mit eigenen Rahmen: bis 10 Mio. EUR oder 2 % bei Verstößen gegen Art. 28 und Art. 35 (Art. 83 Abs. 4) und bis 20 Mio. EUR oder 4 % bei Verstößen gegen die Verarbeitungsgrundsätze und Rechtsgrundlagen der Art. 5, 6, 7 und 9 (Art. 83 Abs. 5) — je nachdem, welcher Betrag höher ist.

Die KI-VO gilt in Deutschland und Österreich unmittelbar und wortgleich; national geregelt sind nur Durchführungs- und Behördenstrukturen (Art. 70) und das Sanktionsregime im Rahmen von Art. 99 Abs. 1. Marktüberwachungsbehörde ist in Deutschland seit 29. Juli 2026 die Bundesnetzagentur (§ 2 Abs. 1 KI-MIG), soweit nicht sektorale Behörden — etwa die BaFin — zuständig sind; sie ist zugleich zentrale Anlaufstelle nach Art. 70 Abs. 2 KI-VO (§ 6 Abs. 1 KI-MIG). Österreich hat bis zum Stand dieses Artikels (17.08.2026) keine Marktüberwachungsbehörde nach Art. 70 KI-VO benannt; die KI-Servicestelle der RTR ist eine Informations- und Beratungsstelle ohne Aufsichtsbefugnis. Weitere Abweichungen entstehen im flankierenden Recht: Für den Datenschutz überwachen in Deutschland die nach Landesrecht zuständigen Behörden die nichtöffentlichen Stellen und die oder der BfDI die öffentlichen Stellen des Bundes, in Österreich ist es die Datenschutzbehörde.