Am 2. August 20261 wird ein weiterer Teil der KI-Verordnung (VO (EU) 2024/1689, „AI Act“) anwendbar, der Anbietern und Betreibern von KI-Systemen neue Transparenzpflichten auferlegt. Eine erste Orientierung für betroffene Unternehmen bilden die entsprechenden Leitlinien der Kommission (vgl. dazu unser Beitrag vom 5. Juni 2026). Mit dem von der Kommission am 10. Juni 2026 veröffentlichten Code of Practice on Transparency of AI-Generated Content (im Folgenden: „Verhaltenskodex“ oder „Kodex“) liegt nun ein zweites Instrument vor, um mit den Transparenzpflichten umzugehen: Während die Leitlinien klären, ob und für wen eine Transparenzpflicht greift, liefert der Kodex die Antwort auf die Frage, wie sich diese Pflichten technisch und organisatorisch umsetzen lassen.
Der folgende Beitrag fasst die wichtigsten Aspekte für Unternehmen zusammen: Was ist bzw. enthält der Kodex, sollte man ihn unterzeichnen und wie erfüllt man die Pflichten aus Art. 50 AI Act praktisch?
I. Was ist der Kodex?
Der Kodex ist ein freiwilliges Instrument: Anbieter und Betreiber generativer KI-Systeme können ihn unterzeichnen, müssen dies aber nicht. Seine Aufgabe ist es, die abstrakten Pflichten des Art. 50 AI Act in konkrete, praktisch umsetzbare Maßnahmen zu übersetzen. Er ersetzt jedoch nicht die gesetzlichen Pflichten und seine Einhaltung gilt auch nicht als abschließender Nachweis der Rechtskonformität. Nach der kürzlich ergangenen positiven Bewertung des Kodex durch die Kommission und das sog. AI Board2 können sich Unternehmen, die den Kodex unterzeichnen, EU-weit auf diese Unterzeichnung berufen, um die Einhaltung ihrer Pflichten aus Art. 50 AI Act nachzuweisen. Das soll den administrativen Aufwand sowohl für Unternehmen als auch für die Aufsichtsbehörden senken, wenngleich letztere in Einzelfällen immer noch – d.h. selbst bei Einhaltung des Kodex – einen Verstoß feststellen können. Selbst ohne Unterzeichnung dürfte der Kodex zum praktischen Maßstab der Aufsichtspraxis werden.
Der Kodex besteht aus zwei Teilen oder „Sections“: Section 1 richtet sich an Anbieter generativer KI-Systeme und konkretisiert in vier Verpflichtungen („Commitments“) die maschinenlesbare Markierung und Erkennung KI-generierter bzw. -manipulierter Inhalte samt der dazugehörigen Qualitäts-, Test- und Dokumentationsanforderungen. Section 2 adressiert dagegen Betreiber (d.h. Unternehmen, die KI-Systeme nicht selbst auf den Markt bringen, sondern bloß verwenden) und regelt in ebenfalls vier Verpflichtungen die wahrnehmbare Kennzeichnung von Deepfakes und KI-generierten Texten zur Information der Öffentlichkeit. Hinzu kommen ein Glossar mit Definitionen und ein Anhang (Annex 1) mit vereinheitlichten Symbolen („Icons“), die zur Erfüllung der Transparenzpflicht EU-weit Anwendung finden sollen.
Die Terminologie des Kodex unterscheidet drei Verbindlichkeitsstufen: „will“ bezeichnet verpflichtende Maßnahmen, deren Einhaltung Marktüberwachungsbehörden einfordern und überwachen sollen; „encouraged“ bezeichnet empfohlene, aber freiwillige Maßnahmen; „may“ bezeichnet optionale Maßnahmen mit Umsetzungsspielraum. Für Unternehmen unterhalb einer gewissen Größe – bis zu 750 Beschäftigte, ein Jahresumsatz bis zu EUR 150 Millionen und eine Jahresbilanz bis zu EUR 129 Millionen – (sog. Small Mid-Cap oder „SMC“) sieht der Kodex durchgehend vereinfachte Compliance-Wege vor.
Der Mehrwert des Kodex liegt darin, dass er die bewusst offenen Vorgaben des Gesetzes mit konkreten, einheitlichen Anforderungen füllt – viele davon finden sich weder im AI Act noch in den Leitlinien. Wo das Gesetz nur eine „maschinenlesbare“ Markierung verlangt, fordert der Kodex einen mehrschichtigen Ansatz mit in der Regel zwei kombinierten Techniken. Er benennt konkrete Verfahren sowie praktische Schwellenwerte und macht die geforderte Erkennungslösung greifbar, einschließlich der Vorgabe, sie grundsätzlich kostenlos bereitzustellen. Für Betreiber stellt der Kodex zudem ein EU-Icon samt Gestaltungs- und Platzierungsvorgaben bereit und konkretisiert, unter welchen organisatorischen Voraussetzungen die gesetzliche Ausnahme für redaktionell verantwortete Texte greift. Schließlich setzt er eigene Umsetzungsfristen und schafft eine Plattform zur Weiterentwicklung der zukünftigen Praxis.
II. Unterzeichnung des Kodex: Für wen und warum?
Der Kodex richtet sich in erster Linie an Anbieter generativer KI-Systeme (Section 1) und an Betreiber von KI-Systemen, die Deepfakes erstellen oder zur Information der Öffentlichkeit vorgesehene Texte mit KI verfassen bzw. bearbeiten (Section 2). Die beiden Abschnitte können getrennt unterzeichnet werden. Beitreten können darüber hinaus auch Akteure, die selbst nicht unmittelbar von Art. 50 AI Act verpflichtet werden – insbesondere Anbieter generativer KI-Modelle, die diese Modelle unabhängig von einem fertigen System vertreiben, sowie Drittanbieter von Markierungs- und Erkennungslösungen. Ihr Beitritt erleichtert es nachgelagerten Anbietern, die auf diese Modelle oder Lösungen aufsetzen, den eigenen Compliance-Nachweis zu führen.
Die Unterzeichnung bringt mehrere praktische Vorteile. Sie signalisiert sowohl Aufsichtsbehörden als auch Kunden die Bereitschaft zur regelkonformen Umsetzung und bietet einen klar gegliederten Rahmen, an dem Unternehmen die Erfüllung ihrer Pflichten aus Art. 50 AI Act nachvollziehbar dokumentieren können. Kodex-Konformität erleichtert damit den Compliance-Nachweis und senkt so Verwaltungsaufwand. Eine echte oder gar unwiderlegliche Konformitätsvermutung begründet sie jedoch nicht.
Allerdings müssen Unternehmen bei einem Beitritt jedenfalls sämtliche „will“-Maßnahmen einhalten. Für Akteure, die bereits über gleichwertige, etablierte Verfahren verfügen – etwa Mediendiensteanbieter, deren bestehenden redaktionelle Prozesse bereits für eine angemessene KI-Transparenz sorgen – kann der Mehrwert einer zusätzlichen Kodex-Unterzeichnung geringer ausfallen. Im Einzelfall kann es sogar vorzugswürdig sein, eine vertretbare abweichende Auslegung des Art. 50 AI Act zu verfolgen, ohne sich an die spezifischen Vorgaben des Kodex zu binden.
Empfehlenswert ist die Unterzeichnung vor allem für Anbieter generativer KI-Systeme und -Modelle mit breitem Marktauftritt, für Unternehmen, die besonders hohen Wert auf Rechtssicherheit und eine einfache Nachweisführung legen, sowie für Anbieter von Markierungs- und Erkennungstechnologie, die die Einhaltung der Kodex-Anforderungen ermöglichen. Eine einmal erklärte Unterzeichnung lässt sich auch später wieder zurückziehen. Wer nicht unterzeichnet, muss die Angemessenheit seiner Maßnahmen im Einzelfall gegenüber der zuständigen Marktüberwachungsbehörde nachweisen – mit entsprechend höherem Aufwand.
III. Die Maßnahmen des Kodex in der Praxis
Ob ein Unternehmen den Kodex förmlich unterzeichnet oder nicht: Er liefert einen detaillierten Umsetzungsleitfaden, an dem sich die praktische Compliance nach Art. 50 AI Act ausrichten lässt. Die Maßnahmen des Kodex gelten als „Best Practice“ und bieten eine verlässliche Orientierung, wie die gesetzlichen Pflichten konkret erfüllt werden können. Auch Unternehmen, die den Kodex nicht unterzeichnen, sollten die von ihnen getroffenen Transparenzmaßnahmen daher mit den Vorgaben des Kodex abzugleichen. Nachfolgend stellen wir die wesentlichen Elemente für Anbieter und Betreiber dar.
1. Maßnahmen für Anbieter generativer KI-Systeme
Ausgangspunkt ist die Erkenntnis des Kodex, dass nach dem gegenwärtigen Stand der Technik keine einzelne Markierungstechnik alle vier Anforderungen des Art. 50 Abs. 2 AI Act (Effektivität, Interoperabilität, Robustheit und Zuverlässigkeit) zugleich erfüllen kann. Der Kodex verlangt daher einen mehrschichtigen Ansatz: grundsätzlich sind mindestens zwei Schichten maschinenlesbarer Markierung erforderlich.
Die Grundpflicht ist dabei ein nicht wahrnehmbares Wasserzeichen, das für alle KI-generierten oder -manipulierten Inhalte anzubringen ist; bei sehr kurzen Texten – unter 200 Tokens – sind die Zuverlässigkeitsanforderungen an das Wasserzeichen jedoch geringer.
Hinzu tritt bei Formaten, die Metadaten unterstützen (Audio, Bild, Video, containerisierter Text), eine zweite Schicht in Form digital signierter, zeitgestempelter und manipulationssicherer Metadaten. Eine einzige Markierungsschicht genügt, wenn ein generatives KI-System in physische Produkte eingebettet ist und synthetische Outputs in einer technisch kontrollierten, geschlossenen Umgebung erzeugt, sofern wirksame Maßnahmen verhindern, dass der Output diese Umgebung verlässt (z.B. KI-generierte Empfehlungen, die nur in einem physischen Automaten angezeigt und nicht weiterverbreitet werden können). Für Freitext, der keine Metadaten transportieren kann, genügt entsprechend das Wasserzeichen als alleinige Schicht. Fingerprinting oder Logging können ergänzend eingesetzt werden, jedoch niemals als alleinige Maßnahme.
Außerdem müssen Anbieter sicherstellen, dass vorgenommene Markierungen erhalten bleiben. In AGB, Nutzungsbedingungen und Dokumentation ist die vorsätzliche Entfernung oder Manipulation zu verbieten. Tools zur Umgehung der Markierungen dürfen nicht bereitgestellt werden. Empfohlen wird zudem, die Metadaten mit reicheren Provenienzinformationen auszustatten – insbesondere Name des KI-Systems, Firmenname des Anbieters und Zeitstempel; optional Modell-Identifier und Versionsnummer.
Anbieter müssen darüber hinaus eine Erkennungslösung bereitstellen, mit der sich prüfen lässt, ob Inhalte vom jeweiligen KI-System stammen. Diese kann als öffentliche Spezifikation, als Software oder als Cloud-API bereitgestellt werden und muss grundsätzlich kostenlos sein. Anbieter mit weniger als 1 Million monatlichen Nutzern, deren Lösung erhebliche Betriebskosten verursacht, dürfen allerdings bei übermäßigem Anfragevolumen eines einzelnen Nutzers eine angemessene Gebühr verlangen. Für Marktüberwachungsbehörden und andere Regulierungsbehörden, Strafverfolgungsbehörden, Medien, Faktenprüfer, Trusted Flagger, unabhängige Forschung, Bildungs- und Forschungseinrichtungen sowie Organisationen der Zivilgesellschaft muss der Zugang jedoch stets unentgeltlich und unbeschränkt bleiben. Die Lösung muss datenschutzkonform arbeiten – insbesondere nach dem Grundsatz der Datenminimierung und mit sofortiger Löschung nach der Erkennung. Die Erkennungsergebnisse sind klar, barrierefrei und nachvollziehbar offenzulegen.
Weist ein Wasserzeichen ein geringeres Maß an Zuverlässigkeit bei der KI-Erkennung auf (wie oben erwähnt zulässig bei sehr kurzen Texten), darf der Zugang zu den Erkennungsergebnissen auf verifizierte Experten-Nutzer beschränkt werden, da diese mit den entsprechend weniger zuverlässigen Ergebnissen besser umgehen können.
Auf Anfrage ist das Erkennungsergebnis in digital signierter Form bereitzustellen.
Die Markierungs- und Erkennungstechniken müssen den ganzheitlichen Qualitätsanforderungen genügen: Effektivität, Zuverlässigkeit, Robustheit gegenüber typischen Bearbeitungen (z.B. Spiegelung von Bildern, Änderung des Parteiformats, Erstellung von Screenshots oder Ausdrucken), böswilligen Manipulationsversuchen bzw. ähnlichen Angriffen sowie Interoperabilität. Das Robustheitserfordernis gilt jedoch nicht für KI-Systeme, die ausnahmsweise nur einer einzigen Metadaten-Markierungsschicht unterliegen. Für Wasserzeichen ist bis zum 2. Februar 2027 eine Interoperabilitätslösung umzusetzen.
Schließlich braucht es einen dokumentierten Compliance-Prozess, der Tests vor Marktbereitstellung und regelmäßig danach umfasst, bei Bedarf unter Einbeziehung unabhängiger Experten (z.B. sog. Red-Teaming-Übungen). Hinzu treten Schulungen des Personals und die Kooperation mit den Marktüberwachungsbehörden.
2. Maßnahmen für Betreiber von KI-Systemen
Die Kernpflicht der Betreiber von KI-Systemen, mit denen Deepfakes oder zur Information der Öffentlichkeit gedachte Texte erstellt werden, besteht nach Art. 50 Abs. 4 AI Act in der Offenlegung des künstlichen Ursprungs bzw. der künstlichen Bearbeitung betroffener Inhalte. Der Kodex stellt hierfür drei EU-Icons bereit: eines für vollständig KI-generierte Inhalte (AI + GENERATED), eines für KI-manipulierte Inhalte (AI + MODIFIED) und ein Basis-Icon zur Ergänzung um eine interaktive Ebene oder ein textuelles Label.
Die Verwendung dieser EU-Icons ist nicht verpflichtend: Betreiber können die Offenlegung ebenso über ein gleichwertiges Icon oder Label umsetzen. Wie bei dem sogar DIN-normierten Piktogramm zur Videoüberwachung (DIN 33450) könnte die breite Nutzung dieser Icons allerdings erheblich zur (Wieder-)Erkennbarkeit und damit Transparenz beitragen.
Auch im Hinblick auf Design und Platzierung der Icons gibt der Kodex konkrete Orientierung: Hauptelement des Icons ist das großgeschriebene Akronym „AI“, das grundsätzlich in englischer Sprache zu verwenden ist. Nur wenn die Verwendung des Englischen mit nationalen Sprachvorschriften für den geschäftlichen oder behördlichen Verkehr unvereinbar ist, darf das Akronym in der Landessprache erfolgen. Empfohlen wird daneben eine zweite, interaktive Ebene mit Zusatzinformationen. Die Kennzeichnung muss ohne Nutzerinteraktion sofort erkennbar sein – grundsätzlich in den Inhalt eingebettet oder über eine gleichwertige Alternative, beispielsweise ein UI-Overlay, spätestens bei der ersten Exposition. Bei Videos hat sie am Anfang zu erscheinen sowie in regelmäßigen Abständen und nach Unterbrechungen. Bei reinen Audioinhalten ist zu Beginn ein hörbarer Disclaimer vorzusehen, der durch akustische Signale („Earcons“) ergänzt werden kann. Bei Texten soll das Icon oben, nahe der Überschrift oder im Einleitungstext (sog. Kolophon) platziert werden. Zu beachten sind dabei auch die Anforderungen an Barrierefreiheit sowie die Berücksichtigung vulnerabler Gruppen (z.B. Kinder).3
Betreiber müssen zudem verhältnismäßige interne Compliance-Prozesse etablieren und dokumentieren. Dazu zählen Schulungen für Personal und externe Dienstleister – insbesondere dazu, wann eine Offenlegung erforderlich ist, wie sie im jeweiligen Workflow umgesetzt wird und wann ggf. Ausnahmen greifen. Die Wirksamkeit der Kennzeichnung müssen Unternehmen durch interne Review-Schleifen und externe Feedback-Kanäle sicherstellen. Wenn sie substantiierte Meldungen von Fehl- oder Falschkennzeichnungen erhalten, müssen Betreiber diese unverzüglich prüfen und die Missstände ggf. abstellen.
Für offensichtlich künstlerische, kreative, satirische, fiktionale oder ähnliche Werke genügt eine abgemilderte Offenlegung, die Darstellung und Genuss des Werkes nicht beeinträchtigt – etwa in Begleittexten, im Vor- oder Abspann oder am Eintritts- bzw. Verkaufspunkt.
Für KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kann die Kennzeichnungspflicht außerdem über die gesetzliche Ausnahme für redaktionell verantwortete Inhalte entfallen. Voraussetzung dafür sind klare Richtlinien, die vor der Veröffentlichung eine menschliche Überprüfung und die entsprechende Übernahme redaktioneller Verantwortung sicherstellen. Diese Richtlinien müssen mindestens zweierlei leisten: Zum einen müssen sie die redaktionell verantwortliche Person mit Namen, Funktion und Kontaktdaten benennen; zum anderen müssen sie die organisatorischen Maßnahmen und Ressourcen beschreiben. Soweit nicht ohnehin schon öffentlich zugänglich, sind die Kontaktdaten der verantwortlichen Person zu veröffentlichen.
3. Übergreifende Hinweise
Schließlich sind mehrere übergreifende Aspekte zu beachten.
Sämtliche Maßnahmen sind an die Unternehmensgröße anzupassen; der Kodex sieht ausdrücklich vereinfachte Wege für SMC und Start-ups vor.
Wer auf Markierungs- und Erkennungslösungen von Drittanbietern oder Upstream-Modellanbietern aufsetzt, bleibt gleichwohl für die Gesamtkonformität verantwortlich.
Die Erfüllung der KI-Transparenzpflichten entbindet schließlich nicht von anderen EU- oder mitgliedstaatlichen Pflichten. Insbesondere das Datenschutzrecht (DSGVO), das Lauterkeitsrecht, das Medienrecht und das Recht des geistigen Eigentums bleiben parallel zu beachten.4
IV. Ausblick
Mit dem Verhaltenskodex liegt erstmals ein konkreter, EU-weit abgestimmter Handlungsrahmen für die Umsetzung der Transparenzpflichten des Art. 50 AI Act vor. Gerade noch rechtzeitig vor der Scharfstellung des „Ob“ im August und Dezember 2026 erhalten Unternehmen so eine Hilfestellung zum „Wie“: Unternehmen sollten spätestens jetzt eine Bestandsaufnahme der von ihnen angebotenen und eingesetzten generativen KI-Systeme vornehmen und Maßnahmen zur Umsetzung der Transparenzpflichten vorbereiten. Dazu gehört auch die Entscheidung, ob der Kodex unterzeichnet oder lediglich als Best-Practice-Maßstab herangezogen wird.
Dabei sollte nicht aus dem Blick geraten, dass der Kodex sowohl für Unternehmen als auch Aufsichtsbehörden nicht zwingend ist und die verbindliche Auslegung des Art. 50 AI Act letztlich den Gerichten vorbehalten bleibt. Der Wert des Kodex liegt daher weniger in einer formalen Bindungswirkung als darin, dass er bei breiter Akzeptanz durch die Praxis fragmentierte Einzellösungen vermeidet und einen einheitlichen, breit anerkannten Standard etabliert. Wie tragfähig dieser Standard langfristig sein wird, wird die beginnende Aufsichts- und Vollzugspraxis zeigen.
1 Die Transparenzpflichten des Art. 50 AI Act gelten grundsätzlich ab dem 2. August 2026. Für zuvor in Verkehr gebrachte KI-Systeme und für die maschinenlesbare Markierungspflicht nach Art. 50 Abs. 2 AI Act besteht – nach der inzwischen verabschiedeten aber noch nicht veröffentlichten KI-Omnibus-Verordnung – eine Übergangsfrist bis zum 2. Dezember 2026. Für die Interoperabilitätslösung bei Wasserzeichen räumt der Kodex sogar Zeit bis zum 2. Februar 2027 ein.
2 Ein durch den AI Act eingerichtetes Beratungsgremium, vgl. hier; für die entsprechende Entscheidung durch Kommission und AI Board siehe hier.
3 Der Kodex verweist hierfür auf die Richtlinien (EU) 2019/882 (European Accessibility Act) und (EU) 2016/2102 (Web Accessibility Directive) sowie auf die Standards ETSI EN 301 549 „Accessibility requirements for ICT products and services” und WCAG 2.1 Level AA “Web Content Accessibility Guidelines”.
4 Die Aufzählung ist nicht abschließend und umfasst nach dem Kodex etwa auch das Verbraucherschutzrecht, den Digital Services Act, die Vorschriften über politische Werbung und das Strafrecht.
Forward
