KI-Kennzeichnungspflichten nach Art. 50 EU AI Act

Ab August 2026 müssen KI-generierte Inhalte gekennzeichnet werden. Art. 50 EU AI Act unterscheidet zwischen Anbietern und Betreibern — mit unterschiedlichen Pflichten.

Der EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen ab dem 2. August 2026 zur Kennzeichnung KI-generierter Inhalte. Art. 50 EU AI Act unterscheidet dabei zwischen audiovisuellen Inhalten — insbesondere Deepfakes — und KI-generierten Texten und sieht unterschiedliche Anforderungen für Anbieter und Betreiber vor. Wer diese Pflichten kennt und frühzeitig umsetzt, vermeidet nicht nur Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, sondern auch wettbewerbsrechtliche Abmahnungen durch Mitbewerber.

Wer ist betroffen: Anbieter oder Betreiber?

Der EU AI Act unterscheidet konsequent zwischen Anbietern (Providers) — also denjenigen, die ein KI-System entwickeln oder unter eigenem Namen vermarkten — und Betreibern (Deployers), die ein fremdes KI-System in eigener Verantwortung nutzen. Private Nutzer, die KI zu nicht-beruflichen Zwecken einsetzen, sind ausdrücklich nicht erfasst. Unternehmen hingegen, die ChatGPT, Midjourney oder vergleichbare Systeme für Marketing, Kundenkommunikation oder Contentproduktion nutzen, handeln als Betreiber und unterliegen den Betreiberpflichten des Art. 50 EU AI Act.

Pflichten der Anbieter: Maschinenlesbare Kennzeichnung

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen oder manipulieren, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als KI-generiert erkennbar sind. Als Kennzeichnungsmethoden nennt Erwägungsgrund 133 EU AI Act: Wasserzeichen, Metadatenidentifizierungen, kryptografische Herkunftsnachweise, Protokollierungsmethoden und Fingerabdrucktechnologien. Die gewählte Methode muss wirksam, interoperabel, belastbar und zuverlässig sein — und dem allgemein anerkannten Stand der Technik entsprechen, was eine laufende Anpassungspflicht begründet.

Pflichten der Betreiber: Deepfakes und Texte von öffentlichem Interesse

Betreiber müssen offenlegen, wenn Inhalte als Deepfakes einzustufen sind oder Texte veröffentlicht werden, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Deepfake ist in Art. 3 Nr. 60 EU AI Act weit definiert: Erfasst sind nicht nur KI-generierte Darstellungen realer Personen, sondern auch täuschend echte Darstellungen von Gegenständen, Orten, Ereignissen und Institutionen — auch wenn diese fiktiv sind. Diese weite Definition wird in der Praxis zu erheblichen Abgrenzungsschwierigkeiten führen.

Ausnahmen: Redaktionelle Kontrolle und künstlerische Nutzung

KI-generierte Texte sind von der Kennzeichnungspflicht befreit, wenn sie einer menschlichen redaktionellen Prüfung unterliegen und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Zeitungsverlage oder Agenturen, die KI-generierte Textbausteine redaktionell überarbeiten und verantworten, müssen diese nicht gesondert kennzeichnen. Für Deepfakes gilt: Inhalte, die offensichtlich künstlerischen, satirischen oder fiktionalen Werken angehören, unterliegen einer abgemilderten Offenlegungspflicht — die Kennzeichnung darf die Darstellung oder den Genuss des Werks nicht beeinträchtigen.

Verhältnis zum Digital Services Act (DSA)

Für sehr große Online-Plattformen wie Amazon, Instagram oder Booking gilt bereits nach Art. 25 Abs. 1 lit. k DSA eine Kennzeichnungspflicht für KI-generierte oder manipulierte Medieninhalte, sofern Täuschungspotenzial besteht. Der EU AI Act ergänzt diese Pflicht und erweitert sie auf alle gewerblichen Betreiber. Unternehmen, die bereits DSA-konform handeln, sind nicht automatisch AI-Act-konform — die Anforderungen überschneiden sich, sind aber nicht deckungsgleich.

Häufig gestellte Fragen (FAQ)

Müssen KI-generierte Werbetexte gekennzeichnet werden?

Nicht automatisch. Die Kennzeichnungspflicht für Texte nach Art. 50 Abs. 4 EU AI Act gilt nur für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Rein kommerzielle Werbetexte fallen grundsätzlich nicht darunter — es sei denn, sie berühren öffentlich relevante Themen oder könnten als solche wahrgenommen werden.

Was gilt für KI-generierte Bilder in Werbekampagnen?

KI-generierte Bilder in gewerblichen Kontexten sind von den Ausnahmen für künstlerische Nutzung nicht erfasst. Anbieter müssen diese maschinenlesbar kennzeichnen. Betreiber sind für die Einhaltung der Betreiberpflichten verantwortlich und können nicht allein auf die Anbieterkennzeichnung verweisen.

Wann tritt die Pflicht in Kraft?

Die Kennzeichnungspflichten nach Art. 50 EU AI Act gelten ab dem 2. August 2026 — 24 Monate nach Inkrafttreten der Verordnung am 1. August 2024. Die Planung der technischen und organisatorischen Umsetzung sollte jetzt beginnen, da insbesondere die Entwicklung robuster, interoperabler Kennzeichnungslösungen Zeit erfordert.