Was Art. 50 verlangt

Art. 50 der Verordnung (EU) 2024/1689 regelt die Transparenzpflichten für KI-Systeme. Die Kernforderung: Wer KI-generierte Inhalte veröffentlicht — insbesondere Deepfakes, synthetische Bilder, synthetischen Text und synthetische Audios — muss diese als maschinell erzeugt kenntlich machen.

Die Pflicht betrifft zwei Gruppen: Anbieter von KI-Systemen, die dafür sorgen müssen, dass ihre Ausgaben technisch markierbar sind, und Betreiber, die diese Systeme einsetzen und sicherstellen müssen, dass die Kennzeichnung beim Veröffentlichen erhalten bleibt.

Die drei Stufen der Kennzeichnungspflicht

• KI-generierte Inhalte allgemein — Texte, Bilder, Audio und Video, die ganz oder überwiegend von einem KI-System erzeugt wurden, müssen als solches erkennbar sein (Art. 50 Abs. 2).
• Deepfakes und manipulierte Inhalte — Wer realistisch wirkende, aber künstlich erzeugte oder veränderte Inhalte veröffentlicht, muss offenlegen, dass es sich um künstliche Inhalte handelt (Art. 50 Abs. 2).
• Emotionserkennung und Biometrik — KI-Systeme, die Emotionen erkennen oder biometrische Kategorien bilden, unterliegen zusätzlichen Transparenzanforderungen gegenüber den betroffenen Personen (Art. 50 Abs. 3).

Wen es konkret trifft

Betroffen sind nicht nur große Plattformanbieter. Jedes Unternehmen, das KI-generierte Inhalte veröffentlicht — sei es für Marketing, internen Kommunikationsauftritt oder Kundenservice — fällt unter die Pflicht. Das schließt ein:

Marketingabteilungen, die Bilder mit Midjourney oder DALL-E erstellen. Kundenservice-Teams, die KI-gestützte Chatbots betreiben. PR-Abteilungen, die synthetischen Text für Pressemitteilungen verwenden. Und Unternehmen, die Deepfake-Videos für Schulungen oder Präsentationen einsetzen.

Wichtig: Auch die Einbindung fremder KI-Dienste löst die Pflicht aus. Wer einen Chatbot-Dienstleister nutzt, muss sicherstellen, dass die Ausgaben seines Chatbots als KI-generiert gekennzeichnet sind.

Was jetzt zu tun ist

• Inventar aufbauen — Welche KI-Systeme sind im Einsatz? Welche Inhalte erzeugen sie? Wo werden sie veröffentlicht?
• Technische Markierung prüfen — Können die verwendeten Systeme C2PA-kompatible Metadaten liefern? Wenn nicht: Anbieter auf Roadmap ansprechen.
• Prozess definieren — Wer ist verantwortlich für die Kennzeichnung? Gibt es einen Freigabe-Workflow für KI-generierte Inhalte?
• Bestand aufarbeiten — Bereits veröffentlichte KI-Inhalte nachträglich kennzeichnen, soweit möglich.
• Dokumentation aufbauen — Nachweise für die Einhaltung führen. Bei einer Prüfung wird gefragt, nicht geglaubt.

Warum halbherzige Lösungen nicht reichen

Ein Hinweis im Impressum reicht nicht. Die Verordnung verlangt, dass die Kennzeichnung beim Inhalt selbst erfolgt — nicht irgendwo auf der Seite vergraben. Wer synthetische Bilder ohne Metadaten veröffentlicht, erfüllt die Anforderung genauso wenig wie der, der einen Chatbot betreibt, ohne dass dieser sich als KI ausweist.

Die Aufsichtsbehörden in Deutschland — überwiegend die Landesdatenschutzbeauftragten — haben bereits signalisiert, dass sie die Einhaltung der Transparenzpflichten als Prüfschwerpunkt betrachten. Der Aufwand für eine nachträgliche Korrektur ist deutlich höher als für eine rechtzeitige Umsetzung.

Die Kennzeichnungspflicht trifft nicht nur Anbieter, sondern jeden, der KI-generierte Inhalte in den Verkehr bringt. Art. 50 Abs. 2 Verordnung (EU) 2024/1689

Die Staffelung nach Art. 113 KI-VO

• 1. August 2024 — die Verordnung (EU) 2024/1689 tritt in Kraft. Gelten heißt das noch nicht.
• 2. Februar 2025 — Kapitel I und II: die verbotenen Praktiken nach Art. 5 und die KI-Kompetenzpflicht nach Art. 4.
• 2. August 2025 — unter anderem Kapitel V (KI-Modelle mit allgemeinem Verwendungszweck), die Governance-Vorschriften und der Sanktionsrahmen.
• 2. August 2026 — der allgemeine Anwendungsbeginn. Hier liegen die Transparenzpflichten des Art. 50.
• 2. August 2027 — Art. 6 Abs. 1 und die daran hängenden Pflichten für Hochrisiko-Systeme, die in Produkte eingebettet sind.

Was Art. 50 verlangt — nach Absätzen getrennt

Die vier Absätze richten sich an unterschiedliche Adressaten, und genau daran entscheidet sich, ob eine Pflicht Sie trifft.

Abs. 1 — Anbieter: Ein System, das unmittelbar mit Menschen interagiert, muss so gestaltet sein, dass die betroffene Person erkennt, mit einer Maschine zu sprechen. Das ist die Chatbot-Regel. Sie entfällt, wenn es aus den Umständen ohnehin offensichtlich ist.

Abs. 2 — Anbieter: Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen ihre Ausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt erkennbar machen. Gemeint ist die technische Markierung, etwa über Wasserzeichen oder Metadaten.

Abs. 3 — Betreiber: Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen darüber informieren.

Abs. 4 — Betreiber: Wer Deepfakes veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, gilt eine eigene Offenlegungspflicht — mit Ausnahmen, unter anderem bei menschlicher redaktioneller Kontrolle.

Anbieter oder Betreiber — die Frage vor allen anderen

Die Rollen sind in Art. 3 Nr. 3 und Nr. 4 definiert. Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen bereitstellt; Betreiber ist, wer es unter eigener Verantwortung einsetzt. Die meisten Unternehmen sind Betreiber — sie nutzen ein zugekauftes Modell.

Das verschiebt die Pflichten erheblich: Die technische Markierung nach Abs. 2 schuldet der Anbieter. Als Betreiber schulden Sie die Offenlegung dort, wo Sie veröffentlichen. Praktisch heißt das, dass Sie prüfen müssen, ob die Markierung Ihres Werkzeugs Ihren Veröffentlichungsweg überlebt — viele Bildbearbeitungen und Formatumwandlungen entfernen Metadaten stillschweigend.

Was sich in den verbleibenden Tagen noch tun lässt

• Bestandsaufnahme — an welchen Stellen erzeugt oder veröffentlicht Ihr Haus KI-Inhalte? Marketing, Support-Antworten, Produktbilder, Untertitel.
• Rolle je Anwendungsfall bestimmen — Anbieter oder Betreiber, je System getrennt.
• Sichtbare Kennzeichnung festlegen — eine Formulierung, ein Ort, eine Zuständigkeit. Uneinheitliche Hinweise sind schlechter als gar keine, weil sie Beliebigkeit signalisieren.
• Markierung im Werkzeug prüfen — bleibt sie nach Export, Zuschnitt und Upload erhalten?
• Ausnahmen dokumentieren — wo Sie sich auf redaktionelle Kontrolle stützen, gehört das schriftlich festgehalten.

Was bei Verstößen droht

Für Verstöße gegen Art. 50 sieht Art. 99 Abs. 4 Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Art. 99 Abs. 6 der jeweils niedrigere der beiden Beträge.

Die Zahl ist der Rahmen, nicht die Erwartung. Für den Alltag zählt etwas anderes: Eine fehlende Kennzeichnung ist der Sorte Mangel, die jeder Wettbewerber und jeder Kunde ohne Prüfung sieht.

Wo wir ansetzen

In unseren AI-Schulungen für Führungskräfte ordnen wir die Fristen ein und arbeiten die Rollenfrage an Ihren konkreten Anwendungsfällen durch. Wer lieber selbst beginnt: Die Bestandsaufnahme oben ist bewusst so geschnitten, dass sie an einem Vormittag zu schaffen ist.