KI-Agenten im EU-Recht: Die Architektur jenseits der KI-Verordnung

Für KI-Agenten existiert in der EU kein einzelnes Regelwerk. Es existiert eine Architektur aus übereinander gelagerten Verordnungen und Richtlinien — verankert im New Legislative Framework, zentriert auf die KI-Verordnung, überlagert von DSGVO, CRA, Data Act, DGA, DSA, NIS2, GPSR, überarbeiteter Produkthaftungsrichtlinie sowie ePrivacy. Über diesem horizontalen Stapel liegen sektorale Regime für Finanzdienstleistungen, Medizinprodukte, Maschinen und Luftfahrt. Wirksame Compliance ist eine Funktion disziplinierter Klassifikation, klarer Rollenzuordnung je Regime und der bewussten Nutzung der ausdrücklichen Brücken zwischen den Rechtsakten.

Key Takeaways

• Die KI-VO ist notwendig, aber nie ausreichend. Sie regelt das System; die DSGVO die Verarbeitung; die CRA das Produkt; die PLD die Haftung. Jedes Regime gilt kumulativ.
• Ein einzelner Akteur kann gleichzeitig Anbieter (KI-VO), Hersteller (CRA, PLD), Betreiber (NIS2) und Verantwortlicher (DSGVO) sein — mit nicht deckungsgleichen Pflichtenkaskaden je Rolle.
• Es gibt fünf ausdrückliche Brücken zwischen den Regimen — darunter die Konformitätsvermutung in Art. 12 CRA und die Beweiswirkung in Art. 7 Abs. 2 lit. f PLD.
• Der häufigste strukturelle Compliance-Fehler: das Überspringen der Klassifikationsphase. Ohne präzise Charakterisierung des Agenten bleibt jede nachfolgende Compliance-Arbeit Stückwerk.

Der New Legislative Framework als Rückgrat

Der New Legislative Framework (NLF) bildet das architektonische Rückgrat nahezu jeder horizontalen EU-Produktregulierung — einschließlich der KI-Verordnung und der CRA. Er stellt einen kohärenten Werkzeugkasten bereit: Definitionen von Inverkehrbringen und Bereitstellung auf dem Markt, Rollen der Wirtschaftsakteure, Konformitätsbewertungsverfahren, CE-Kennzeichnung, Marktüberwachung und Akkreditierung.

Die zentralen Bausteine sind Beschluss 768/2008/EG (Referenzwerkzeug), Verordnung (EG) 765/2008 (Akkreditierung), Verordnung (EU) 2019/1020 (Marktüberwachung) sowie der nicht bindende, aber praktisch unverzichtbare Blue Guide 2022.

Jeder KI-Agent, der in ein NLF-konformes Produkt eingebettet ist oder selbst ein solches darstellt, übernimmt die NLF-Logik. Rollen wie Anbieter (KI-VO), Hersteller (CRA, PLD, Maschinenverordnung) und Betreiber sind konzeptionell verwandt — rechtlich aber strikt getrennt und je Regime einzeln zu bestimmen.

Die KI-VO als Zentrum

Die Verordnung (EU) 2024/1689 ist der erste umfassende horizontale Rechtsrahmen für KI in der EU. Sie ist als Risikopyramide aufgebaut: verbotene Praktiken (Art. 5), Hochrisiko-Systeme (Kapitel III), KI-Modelle mit allgemeinem Verwendungszweck einschließlich solcher mit systemischem Risiko (Kapitel V), sowie Systeme mit begrenztem oder minimalem Risiko mit reinen Transparenzpflichten (Art. 50).

Die Anwendung ist gestaffelt: Verbote nach Art. 5 seit 2. Februar 2025; GPAI-Pflichten und Governance seit 2. August 2025; Hauptanwendungstermin einschließlich Hochrisiko-Pflichten am 2. August 2026; Vollanwendung für KI-Systeme als Sicherheitskomponente regulierter Produkte am 2. August 2027.

Hinweis zur Einstufung agentischer Systeme

Bei autonomen Agenten ist die Einstufungsfrage selten binär. Ein typischer Agent fällt regelmäßig unter mehrere Kapitel gleichzeitig: Er nutzt ein GPAI-Modell (Kap. V), stellt im Einsatzkontext ein Hochrisikosystem dar (Kap. III) und löst Transparenzpflichten gegenüber Endnutzern aus (Art. 50). Die Regime addieren sich, sie verdrängen sich nicht.

Die horizontalen Regime im Überblick

Die folgenden Regime gelten parallel zur KI-VO. KI-VO-Konformität erfüllt sie nicht, und ihre Erfüllung ersetzt nicht die KI-VO.

DSGVO — VO (EU) 2016/679

Rechtsgrundlage (Art. 6), besondere Kategorien (Art. 9), automatisierte Einzelentscheidung (Art. 22), DSFA (Art. 35). Art. 22 bleibt unverändert anwendbar — die KI-VO verdrängt diese Norm nicht.

Data Act — VO (EU) 2023/2854 · ab 12.09.2025

Nutzerzugriffsrechte für vernetzte Produkte, unfaire Vertragsklauseln (Kap. IV), Cloud-Wechselpflichten (Kap. VI) — einschlägig für Agenten auf Cloud-Infrastruktur.

DGA — VO (EU) 2022/868 · seit 24.09.2023

Datenvermittlungsdienste und datenaltruistische Organisationen. Strukturelle Grundlage der europäischen Datenräume.

CRA — VO (EU) 2024/2847 · bis 11.12.2027

Security-by-Design, SBOM-Pflicht (Art. 47), Schwachstellen- und Vorfallmeldung an ENISA und CSIRTs. Art. 12 etabliert die Konformitätsvermutung gegenüber Art. 15 KI-VO.

DSA — VO (EU) 2022/2065 · seit 17.02.2024

Inhaltsmoderation, Transparenzberichte, Offenlegung von Empfehlungssystemen; systemische Risikominderung bei VLOP/VLOSE (Art. 34–35).

NIS2 — RL (EU) 2022/2555 · Umsetzungsfrist abgelaufen

Cybersicherheits-Risikomanagement (Art. 21) und Meldepflichten (Art. 23) für wesentliche und wichtige Einrichtungen. Komplementär zu CRA: NIS2 erfasst den Betreiber, CRA das Produkt.

GPSR — VO (EU) 2023/988 · seit 13.12.2024

Auffangnetz für Verbraucherprodukte ohne sektorspezifische Sicherheitsregulierung. Pflicht zur verantwortlichen Person bei Fernabsatz (Art. 16).

Überarbeitete PLD — RL (EU) 2024/2853 · Umsetzung bis 09.12.2026

Verschuldensunabhängige Herstellerhaftung — ausdrücklich auf Software und KI-Systeme erweitert. Beweislasterleichterungen in komplexen Fallkonstellationen (Art. 10).

ePrivacy-Richtlinie — RL 2002/58/EG · in DE: § 25 TDDDG

Einwilligungserfordernis für Speicher- und Zugriffstechnologien auf Endgeräten. Strenger als die DSGVO-Rechtsgrundlagenanalyse.

Operiert der Agent in einem regulierten Sektor, tritt das sektorale Regime kumulativ hinzu: MiFID II und DORA bei Finanzdienstleistungen, MDR/IVDR bei Medizinprodukten, die Maschinenverordnung (VO 2023/1230, anw. ab 14.01.2027), EASA-Rechtsakte in der Luftfahrt. In mehreren Fällen löst gerade das sektorale Regime die Hochrisiko-Einstufung nach Art. 6 Abs. 1 KI-VO über Anhang I aus.

Die fünf zentralen Brücken

Die Regime sind bewusst verschränkt. Fünf Schnittstellen sind in der Beratungspraxis besonders konsequenzreich — sie übersetzen Konformität in Vermutungswirkungen oder Non-Compliance in Haftung.

Brücke 1: Art. 12 CRA – Konformitätsvermutung

CRA-Konformität kann eine Vermutung der Erfüllung des Cybersicherheitsteils von Art. 15 KI-VO bei Hochrisikosystemen begründen. Die Pflicht entfällt nicht, ihr Nachweis wird erleichtert. Strategischer Hebel: ein gemeinsamer Konformitätsnachweis statt zweier paralleler Dokumentationsstränge.

Brücke 2: Art. 50 KI-VO – Horizontale Transparenz

Offenlegungspflichten gegenüber natürlichen Personen, Kennzeichnung von Deepfakes, generierten und manipulierten Inhalten. Gilt unabhängig von der Risikoklasse und wird bei dialogbasierten Agenten regelmäßig übersehen.

Brücke 3: Art. 10 Abs. 5 KI-VO ↔ Art. 9 Abs. 2 lit. g DSGVO

Erlaubte Verarbeitung besonderer Kategorien zur Bias-Überwachung und -Korrektur unter strengen Schutzmaßnahmen. Die KI-VO liefert hier den Aufhänger des erheblichen öffentlichen Interesses, den die DSGVO verlangt. Praktisch die seltene saubere Rechtsgrundlage für Fairness-Audits.

Brücke 4: Erwägungsgrund 118 DSA – Verzahnung mit der KI-VO

Verweist auf die KI-VO für die Behandlung generativer KI-Ausgaben innerhalb der systemischen Risikominderung durch VLOP/VLOSE. Der Erwägungsgrund ist auslegend, nicht operativ; die operative Pflicht bleibt Art. 34–35 DSA.

Brücke 5: Art. 7 Abs. 2 lit. f PLD – Die Prozessbrücke

Verstöße gegen zwingendes Produktsicherheitsrecht — einschließlich KI-VO und CRA — können als Indiz für die Fehlerhaftigkeit eines Produkts herangezogen werden. Das ist der Mechanismus, der regulatorische Non-Compliance in zivilrechtliche Haftungsexposition übersetzt.

Konflikte, Lücken, Reibungsfelder

Die Architektur ist konzeptionell kohärent, erzeugt aber wiederkehrende Konflikte:

• KI-VO vs. DSGVO. Die KI-VO regelt das System, die DSGVO die Verarbeitung. Beide gelten. Art. 22 DSGVO kann der KI-VO inhaltlich strengere Grenzen ziehen; die KI-VO erlaubt nicht, was die DSGVO verbietet.
• Rollenkonflikt Anbieter / Betreiber / Hersteller. Jede Rolle löst eine eigene Pflichtenkaskade aus. Die Anwendungsbereiche sind verwandt, aber nicht deckungsgleich — Subsumtionsarbeit ist je Regime erneut zu leisten.
• Reklassifikation bei wesentlicher Änderung. Ein Betreiber, der ein GPAI-Modell wesentlich modifiziert, wird selbst zum Anbieter (Art. 25 KI-VO). Für autonome Agenten mit Fine-Tuning oder Selbstmodifikation im Einsatz ist das ein strukturelles Lebenszyklusrisiko.
• Parallele Meldepflichten. NIS2-Vorfallmeldung, CRA-Schwachstellenmeldung, DSGVO-Datenpannenmeldung, DORA-Meldung schwerwiegender IKT-Vorfälle: vier Regime, vier Fristen, vier Behörden. Incident-Playbooks müssen parallel laufen können.
• Open-Source-Ausnahmen sind nicht harmonisiert. KI-VO (Art. 2 Abs. 12, enger für GPAI nach Art. 53 Abs. 2), CRA (Art. 13 Abs. 15), PLD — jede Ausnahme funktioniert nach eigener Logik. Eine regimeübergreifende Prüfung ist erforderlich.

Die zentrale strategische Frage in jedem KI-Mandat lautet daher nicht „was sagt die KI-VO?" — sondern „welcher Stapel von Regimen greift bei diesem Akteur, in dieser Rolle, mit diesem Produkt, in diesem Sektor?"

Compliance-Roadmap

1. Den Agenten charakterisieren

Funktionale Beschreibung: Aufgaben, Autonomiegrad, Werkzeugnutzung, persistentes Gedächtnis, Multi-Agenten-Interaktion. Rollen je Regime: Anbieter / Betreiber (KI-VO), Hersteller / Einführer / Händler (CRA, PLD, GPSR), Verantwortlicher / Auftragsverarbeiter (DSGVO), Betreiber (NIS2). Sektoraler Kontext.

2. Risiko klassifizieren

KI-VO: verboten (Art. 5)? Hochrisiko (Art. 6 i.V.m. Anhang I/III)? GPAI? GPAI mit systemischem Risiko (Art. 51)? CRA: wichtiges oder kritisches Produkt (Anhänge III, IV)? DSA: Vermittlungsdienst, Hosting, Online-Plattform, VLOP/VLOSE? NIS2: wesentliche oder wichtige Einrichtung?

3. Dokumentationsarchitektur konsolidieren

Eine zentrale Quelle für technische Dokumentation (Art. 11 / Anhang IV KI-VO), SBOM (Art. 47 CRA), Datenverwaltungsnachweise (Art. 10 KI-VO / Art. 30 DSGVO), Risikomanagement (Art. 9 KI-VO / Art. 21 NIS2 / Art. 24 DSGVO). Versioniert, soweit möglich maschinenlesbar, regimeübergreifend abgestimmt — um widersprüchliche Erklärungen auszuschließen.

4. Integriertes Incident-Response-Runbook

Ein einziges Playbook, das die Meldung schwerwiegender Vorfälle nach KI-VO (Art. 73), DSGVO-Datenpannen (Art. 33), DORA-Meldungen schwerwiegender IKT-Vorfälle, NIS2-Vorfallmeldung und CRA-Schwachstellenmeldung in einem Workflow integriert — mit klar zugeordneten Fristen, Adressaten und internen Verantwortlichkeiten.

5. Vertragskaskade entlang der Rollen

Lieferanten- und Kundenverträge entsprechend der Rollenzuordnung je Regime. AVV (Art. 28 DSGVO), IKT-Vertragsklauseln (Art. 30 DORA), Data-Act-Konformität bei unfairen Klauseln (Art. 13), CRA-Lieferantenpflichten. Haftungsverteilung unter Berücksichtigung der verschuldensunabhängigen Haftung und der Beweislasterleichterungen aus der überarbeiteten PLD.

Fazit

Die EU reguliert KI-Agenten nicht durch ein einzelnes Gesetz, sondern durch einen Stapel horizontaler Regime, verankert im NLF, mit der KI-VO als zentralem, aber nicht abschließendem Instrument. Wirksame Compliance ist eine Funktion disziplinierter Klassifikation, klarer Rollenzuordnung je Regime, der bewussten Nutzung der Brücken und einer einheitlichen Dokumentation. Alles darunter führt zu Stückwerk-Compliance — mit regulatorischer Exposition und, über die überarbeitete PLD, direkter zivilrechtlicher Haftung.

Praxishinweis

Die rechtlichen Stichtage sind in Bewegung. Mehrere der genannten Anwendungstermine sind über 2025–2027 gestaffelt; delegierte Rechtsakte und Durchführungsleitlinien werden laufend ergänzt. Für jedes konkrete Mandat sind das Anwendungsdatum jedes einschlägigen Regimes sowie die jeweils aktuelle Verwaltungspraxis vor einer Strategieentscheidung zu verifizieren.