Was Art. 50 verlangt

Art. 50 der Verordnung (EU) 2024/1689 regelt die Transparenzpflichten für KI-Systeme. Die Kernforderung: Wer KI-generierte Inhalte veröffentlicht — insbesondere Deepfakes, synthetische Bilder, synthetischen Text und synthetische Audios — muss diese als maschinell erzeugt kenntlich machen.

Die Pflicht betrifft zwei Gruppen: Anbieter von KI-Systemen, die dafür sorgen müssen, dass ihre Ausgaben technisch markierbar sind, und Betreiber, die diese Systeme einsetzen und sicherstellen müssen, dass die Kennzeichnung beim Veröffentlichen erhalten bleibt.

Die drei Stufen der Kennzeichnungspflicht

• KI-generierte Inhalte allgemein — Texte, Bilder, Audio und Video, die ganz oder überwiegend von einem KI-System erzeugt wurden, müssen als solches erkennbar sein (Art. 50 Abs. 2).
• Deepfakes und manipulierte Inhalte — Wer realistisch wirkende, aber künstlich erzeugte oder veränderte Inhalte veröffentlicht, muss offenlegen, dass es sich um künstliche Inhalte handelt (Art. 50 Abs. 2).
• Emotionserkennung und Biometrik — KI-Systeme, die Emotionen erkennen oder biometrische Kategorien bilden, unterliegen zusätzlichen Transparenzanforderungen gegenüber den betroffenen Personen (Art. 50 Abs. 3).

Wen es konkret trifft

Betroffen sind nicht nur große Plattformanbieter. Jedes Unternehmen, das KI-generierte Inhalte veröffentlicht — sei es für Marketing, internen Kommunikationsauftritt oder Kundenservice — fällt unter die Pflicht. Das schließt ein:

Marketingabteilungen, die Bilder mit Midjourney oder DALL-E erstellen. Kundenservice-Teams, die KI-gestützte Chatbots betreiben. PR-Abteilungen, die synthetischen Text für Pressemitteilungen verwenden. Und Unternehmen, die Deepfake-Videos für Schulungen oder Präsentationen einsetzen.

Wichtig: Auch die Einbindung fremder KI-Dienste löst die Pflicht aus. Wer einen Chatbot-Dienstleister nutzt, muss sicherstellen, dass die Ausgaben seines Chatbots als KI-generiert gekennzeichnet sind.

Was jetzt zu tun ist

• Inventar aufbauen — Welche KI-Systeme sind im Einsatz? Welche Inhalte erzeugen sie? Wo werden sie veröffentlicht?
• Technische Markierung prüfen — Können die verwendeten Systeme C2PA-kompatible Metadaten liefern? Wenn nicht: Anbieter auf Roadmap ansprechen.
• Prozess definieren — Wer ist verantwortlich für die Kennzeichnung? Gibt es einen Freigabe-Workflow für KI-generierte Inhalte?
• Bestand aufarbeiten — Bereits veröffentlichte KI-Inhalte nachträglich kennzeichnen, soweit möglich.
• Dokumentation aufbauen — Nachweise für die Einhaltung führen. Bei einer Prüfung wird gefragt, nicht geglaubt.

Warum halbherzige Lösungen nicht reichen

Ein Hinweis im Impressum reicht nicht. Die Verordnung verlangt, dass die Kennzeichnung beim Inhalt selbst erfolgt — nicht irgendwo auf der Seite vergraben. Wer synthetische Bilder ohne Metadaten veröffentlicht, erfüllt die Anforderung genauso wenig wie der, der einen Chatbot betreibt, ohne dass dieser sich als KI ausweist.

Die Aufsichtsbehörden in Deutschland — überwiegend die Landesdatenschutzbeauftragten — haben bereits signalisiert, dass sie die Einhaltung der Transparenzpflichten als Prüfschwerpunkt betrachten. Der Aufwand für eine nachträgliche Korrektur ist deutlich höher als für eine rechtzeitige Umsetzung.

Die Kennzeichnungspflicht trifft nicht nur Anbieter, sondern jeden, der KI-generierte Inhalte in den Verkehr bringt. Art. 50 Abs. 2 Verordnung (EU) 2024/1689

Die Staffelung nach Art. 113 KI-VO

• 1. August 2024 — die Verordnung (EU) 2024/1689 tritt in Kraft. Gelten heißt das noch nicht.
• 2. Februar 2025 — Kapitel I und II: die verbotenen Praktiken nach Art. 5 und die KI-Kompetenzpflicht nach Art. 4.
• 2. August 2025 — unter anderem Kapitel V (KI-Modelle mit allgemeinem Verwendungszweck), die Governance-Vorschriften und der Sanktionsrahmen.
• 2. August 2026 — der allgemeine Anwendungsbeginn. Hier liegen die Transparenzpflichten des Art. 50.
• 2. August 2027 — Art. 6 Abs. 1 und die daran hängenden Pflichten für Hochrisiko-Systeme, die in Produkte eingebettet sind.

Was Art. 50 verlangt — nach Absätzen getrennt

Die vier Absätze richten sich an unterschiedliche Adressaten, und genau daran entscheidet sich, ob eine Pflicht Sie trifft.

Abs. 1 — Anbieter: Ein System, das unmittelbar mit Menschen interagiert, muss so gestaltet sein, dass die betroffene Person erkennt, mit einer Maschine zu sprechen. Das ist die Chatbot-Regel. Sie entfällt, wenn es aus den Umständen ohnehin offensichtlich ist.

Abs. 2 — Anbieter: Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen ihre Ausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt erkennbar machen. Gemeint ist die technische Markierung, etwa über Wasserzeichen oder Metadaten.

Abs. 3 — Betreiber: Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen darüber informieren.

Abs. 4 — Betreiber: Wer Deepfakes veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, gilt eine eigene Offenlegungspflicht — mit Ausnahmen, unter anderem bei menschlicher redaktioneller Kontrolle.

Anbieter oder Betreiber — die Frage vor allen anderen

Die Rollen sind in Art. 3 Nr. 3 und Nr. 4 definiert. Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen bereitstellt; Betreiber ist, wer es unter eigener Verantwortung einsetzt. Die meisten Unternehmen sind Betreiber — sie nutzen ein zugekauftes Modell.

Das verschiebt die Pflichten erheblich: Die technische Markierung nach Abs. 2 schuldet der Anbieter. Als Betreiber schulden Sie die Offenlegung dort, wo Sie veröffentlichen. Praktisch heißt das, dass Sie prüfen müssen, ob die Markierung Ihres Werkzeugs Ihren Veröffentlichungsweg überlebt — viele Bildbearbeitungen und Formatumwandlungen entfernen Metadaten stillschweigend.

Was sich in den verbleibenden Tagen noch tun lässt

• Bestandsaufnahme — an welchen Stellen erzeugt oder veröffentlicht Ihr Haus KI-Inhalte? Marketing, Support-Antworten, Produktbilder, Untertitel.
• Rolle je Anwendungsfall bestimmen — Anbieter oder Betreiber, je System getrennt.
• Sichtbare Kennzeichnung festlegen — eine Formulierung, ein Ort, eine Zuständigkeit. Uneinheitliche Hinweise sind schlechter als gar keine, weil sie Beliebigkeit signalisieren.
• Markierung im Werkzeug prüfen — bleibt sie nach Export, Zuschnitt und Upload erhalten?
• Ausnahmen dokumentieren — wo Sie sich auf redaktionelle Kontrolle stützen, gehört das schriftlich festgehalten.

Was bei Verstößen droht

Für Verstöße gegen Art. 50 sieht Art. 99 Abs. 4 Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Art. 99 Abs. 6 der jeweils niedrigere der beiden Beträge.

Die Zahl ist der Rahmen, nicht die Erwartung. Für den Alltag zählt etwas anderes: Eine fehlende Kennzeichnung ist der Sorte Mangel, die jeder Wettbewerber und jeder Kunde ohne Prüfung sieht.

Wo wir ansetzen

In unseren AI-Schulungen für Führungskräfte ordnen wir die Fristen ein und arbeiten die Rollenfrage an Ihren konkreten Anwendungsfällen durch. Wer lieber selbst beginnt: Die Bestandsaufnahme oben ist bewusst so geschnitten, dass sie an einem Vormittag zu schaffen ist.

Was die Leitlinien besagen

Die Kernfrage des Papiers: Wenn ein Unternehmen öffentlich zugängliche Webseiten systematisch ausliest, um Sprachmodelle oder Bildgeneratoren zu trainieren — gilt das als Verarbeitung personenbezogener Daten? Die Antwort ist ein klares Ja. Autorennamen, Nutzerfotos in Foren, Kontaktinformationen auf Unternehmensseiten: Alles Daten, die unter die DSGVO fallen, sobald sie systematisch erhoben werden. Die EDPB stellt unmissverständlich klar: Allein die öffentliche Zugänglichkeit einer Information hebt die datenschutzrechtlichen Pflichten nicht auf. Wer Daten sammelt, ist Verantwortlicher im Sinne der Verordnung — unabhängig davon, ob die Quelle eine öffentliche Webseite oder eine geschlossene Datenbank ist.

Drei Pflichten für Unternehmen

• Rechtsgrundlage — Wer Daten für KI-Training sammelt, braucht eine gültige Rechtsgrundlage nach Art. 6 DSGVO. Ein berechtigtes Interesse kann greifen, aber nur mit bestandener Interessenabwägung.
• Widerspruchsrecht — Betroffene können der Verarbeitung widersprechen. Unternehmen müssen ein Verfahren vorhalten, um solche Widersprüche zu bearbeiten und die Daten gegebenenfalls zu entfernen.
• Löschkonzept — Wer Trainingsdaten verarbeitet, muss Auskunfts- und Löschanfragen nach Art. 15 und 17 DSGVO nachkommen können — auch wenn die Daten bereits in ein Modell eingeflossen sind.

Anonymisierung ist nicht Pseudonymisierung

Die EDPB unterscheidet strikt zwischen Pseudonymisierung und Anonymisierung. Pseudonymisierte Daten bleiben personenbezogen — sie unterliegen der vollen DSGVO. Nur wer Daten so verarbeitet, dass eine Zuordnung zu einer natürlichen Person ausgeschlossen ist, bewegt sich außerhalb des Geltungsbereichs. Echte Anonymisierung bei Web-Scraping ist technisch anspruchsvoll: Namensnennungen, eindeutige Bildnisse und verknüpfbare Metadaten müssen zuverlässig entfernt werden. Wer lediglich Namen durch Pseudonyme ersetzt, hat die DSGVO nicht verlassen — das ist die zentrale Aussage der Leitlinien.

Allein die öffentliche Zugänglichkeit von Informationen befreit den Verantwortlichen nicht von seinen Pflichten nach der DSGVO. EDPB, Guidelines on anonymisation and web scraping for generative AI, Juli 2026

Was KMU jetzt tun sollten

Für kleine und mittlere Unternehmen wird die Situation besonders relevant. Viele experimentieren mit KI-Tools, ohne die datenschutzrechtlichen Implikationen zu überschauen. Die Leitlinien machen deutlich: Die DSGVO gilt auch für KI-Trainingsdaten — unabhängig davon, ob ein Konzern oder ein Sechspersonenunternehmen die Daten sammelt. Parallel hat noyb eine Klage gegen LinkedIn eingereicht. Der Vorwurf: Microsofts Netzwerk sperrt DSGVO-Rechte hinter einer Paywall. Dieser Fall zeigt, wie ernst die Durchsetzung genommen wird. Auch die EDPB-Entscheidung, die belgische Aufsichtsbehörde zur Behandlung einer noyb-Cookie-Banner-Beschwerde anzuweisen, unterstreicht den Kurs: Datenschutz wird nicht optional, nur weil die Daten öffentlich sind.

Wo unsere Software ansetzt

Der AISupportDesk unterstützt Unternehmen bei der Dokumentation von Verarbeitungstätigkeiten und der Nachverfolgung von Auskunfts- und Löschbegehren betroffener Personen. Die Beratung im Bereich AI Lab and Data hilft bei der Bewertung von Trainingsdaten auf DSGVO-Konformität und bei der Auswahl geeigneter Anonymisierungsverfahren. Beides zusammen — Dokumentation und technische Umsetzung — bildet die Grundlage für einen datenschutzkonformen KI-Betrieb.

Wen die Richtlinie überhaupt trifft

NIS-2 gilt für wichtige und wesentliche Einrichtungen in 18 Sektoren — darunter Energie, Transport, Gesundheit, digitale Dienste, verarbeitendes Gewerbe und Teile der Lieferkette kritischer Betreiber. Als Faustregel greift sie ab 50 Beschäftigten oder 10 Mio. Euro Jahresumsatz, wobei einzelne Sektoren unabhängig von der Größe erfasst sind.

Entscheidend ist ein Punkt, der oft untergeht: Auch wer selbst nicht unter die Richtlinie fällt, bekommt sie über Verträge zu spüren. Betroffene Unternehmen müssen die Sicherheit ihrer Lieferkette nachweisen — und reichen die Anforderungen an ihre Dienstleister weiter.

Die drei Fristen aus Art. 23

• Binnen 24 Stunden — Frühwarnung: die bloße Meldung, dass ein erheblicher Vorfall vorliegt, mit erster Einschätzung, ob rechtswidriges oder böswilliges Handeln vermutet wird.
• Binnen 72 Stunden — Bewertung: Aktualisierung der Frühwarnung mit Schweregrad, Auswirkungen und, soweit bekannt, Angriffsindikatoren.
• Binnen eines Monats — Abschlussbericht: ausführliche Beschreibung, Ursachenanalyse, ergriffene Abhilfemaßnahmen und grenzüberschreitende Auswirkungen.

Warum die 24 Stunden das eigentliche Problem sind

Die Frist läuft ab Kenntnis des Vorfalls — nicht ab dessen Analyse. In der Praxis heißt das: Der Nachtdienst bemerkt eine Auffälligkeit, und ab diesem Moment tickt die Uhr, unabhängig davon, ob jemand die Tragweite schon einschätzen kann.

Damit ist die Frühwarnung keine technische, sondern eine organisatorische Aufgabe. Sie setzt voraus, dass drei Dinge vorab geklärt sind: Wer darf melden? Über welchen Kanal? Und woher kommen die Angaben, die die Meldung verlangt?

Was die Leitung nicht delegieren kann

Art. 20 verlagert die Verantwortung ausdrücklich nach oben: Die Geschäftsleitung muss die Risikomanagementmaßnahmen billigen und ihre Umsetzung überwachen — und sie haftet bei Verstößen persönlich. Zusätzlich verlangt die Richtlinie, dass sich die Leitung selbst schulen lässt.

Das ist der Grund, warum NIS-2 kein reines IT-Thema ist. Eine Geschäftsführung, die den Nachweis der Schulung nicht erbringen kann, hat unabhängig vom technischen Reifegrad eine Lücke.

Womit sich sinnvoll anfangen lässt

• Asset-Inventar aufbauen oder aktualisieren — ohne zu wissen, was betrieben wird, ist keine Meldung und keine Risikoanalyse möglich.
• Meldeweg festlegen und einmal proben: Wer entscheidet, wer meldet, welcher Kanal, welche Vertretung außerhalb der Geschäftszeiten.
• Vorfallprozess mit Fristenuhr aufsetzen, damit die 24 und 72 Stunden im System sichtbar sind statt in einem Kalendereintrag.
• Nachweise mitlaufen lassen: Prüfer fragen nicht, ob etwas getan wurde, sondern wollen es belegt sehen.
• Schulung der Leitung dokumentieren — Art. 20 verlangt sie ausdrücklich.

Einordnung

NIS-2 wird in Deutschland über das NIS-2-Umsetzungsgesetz und die damit verbundene Anpassung des BSIG in nationales Recht überführt. Für die Vorbereitung ändert das wenig: Die Pflichten aus Art. 21 und 23 sind der Maßstab, an dem später geprüft wird.

Wer jetzt anfängt, hat den Vorteil, die Reihenfolge selbst bestimmen zu können — Inventar, Prozesse, Nachweise. Wer wartet, macht dasselbe unter Termindruck.

Was Formatieren tatsächlich tut

Ein Schnellformat entfernt die Verweise auf die Daten, nicht die Daten selbst. Die Blöcke bleiben belegt, bis sie überschrieben werden — und Werkzeuge, die Dateisignaturen im Rohdatenstrom suchen, finden sie zuverlässig wieder. Für den Betrieb ist das ein Vorteil, für die Aussonderung ein Problem.

Woraus ein belastbarer Nachweis besteht

• Welcher Datenträger — Hersteller, Modell und Seriennummer, nicht nur ein Laufwerksbuchstabe.
• Welches Verfahren — benannter Standard, etwa NIST SP 800-88 Clear oder Purge beziehungsweise BSI-VSITR.
• Wer und wann — verantwortlicher Bediener und Zeitstempel.
• Mit welchem Ergebnis — bestanden oder fehlgeschlagen, idealerweise mit stichprobenartiger Rücklesekontrolle.
• Unveränderbar abgelegt — ein Protokoll, dem man ansieht, wenn nachträglich daran gedreht wurde.

SSDs folgen anderen Regeln

Bei Flash-Speicher greift mehrfaches Überschreiben nicht zuverlässig. Wear-Leveling verteilt Schreibvorgänge über die Zellen, und Reservebereiche sowie Over-Provisioning sind über die normale Adressierung gar nicht erreichbar. Ein siebenfaches Überschreiben kostet dort viel Zeit und garantiert trotzdem nichts.

Der passende Weg ist stattdessen der controller-eigene Befehl — ATA Secure Erase beziehungsweise NVMe Sanitize — oder das kryptografische Löschen, bei dem der interne Schlüssel vernichtet wird und die Daten damit unlesbar zurückbleiben. Wichtig ist, dass das gewählte Verfahren im Nachweis benannt wird, denn es bestimmt, wie belastbar das Ergebnis ist.

Warum sich der Aufwand rechnet

Ohne Nachweis bleiben in der Regel zwei Wege: Datenträger physisch vernichten lassen oder sie unbenutzt einlagern. Beides kostet — im ersten Fall den Restwert des Geräts und die Vernichtungsgebühr, im zweiten Lagerfläche und ein fortbestehendes Risiko.

Mit einem prüfbaren Nachweis lassen sich Geräte dagegen weiterverwenden oder verkaufen. Genau deshalb ist der Löschnachweis weniger eine Compliance-Pflicht als eine Voraussetzung dafür, Hardware überhaupt wirtschaftlich aus dem Bestand zu nehmen.

Wo unsere Software ansetzt

MSLS — die MATIS Storage Lifecycle Suite — deckt genau diesen Lebenszyklus ab: Löschen nach anerkannten Verfahren, gezieltes Schreddern einzelner Dateien, Klonen und Imaging vor der Aussonderung sowie forensische Datenrettung nach ISO/IEC 27037. Jeder Vorgang landet in einem verketteten WORM-Protokoll, und das Zertifikat trägt eine drittprüfbare Signatur samt QR-Code zur unabhängigen Verifikation.