Synthetische Bilder, Texte, Deepfakes & Co.: Die Transparenzpflichten der KI-Verordnung treffen Anbieter und Betreiber generativer Systeme gleichermaßen. Aktualisiert nach dem finalen Code of Practice „on Transparency of AI-Generated Content“ (10. Juni 2026) samt der drei amtlichen EU-Icons. Wer kennzeichnen muss, wie zu kennzeichnen ist und welche Sanktionen drohen.
Art. 50 der Verordnung (EU) 2024/1689 („AI Act“) bündelt sämtliche Transparenz- und Kennzeichnungspflichten der KI-Verordnung. Adressaten sind sowohl Anbieter generativer KI-Systeme (Abs. 1, 2) als auch Betreiber, die mit solchen Systemen Inhalte erzeugen oder veröffentlichen (Abs. 3, 4). Die EU-Kommission hat ihre Auslegung dieser Pflichten inzwischen in Entwurfs-Leitlinien nach Art. 96 Abs. 1 lit. d KI-VO niedergelegt (rechtlich unverbindlich; verbindliche Auslegung allein durch den EuGH). Erw.-Gründe 132 ff. präzisieren den Schutzzweck: Schutz vor Identitätstäuschung, Desinformation, Manipulation und Betrug sowie Integrität des Informationsökosystems.
Anbieter müssen ihre Systeme so gestalten, dass natürliche Personen, die unmittelbar mit einem KI-System interagieren (z. B. Chatbots, Sprachassistenten, KI-Agenten), darüber informiert werden — es sei denn, dies ist für eine verständige Person offensichtlich.
Anbieter generativer Systeme (Audio, Bild, Video, Text) müssen Outputs maschinenlesbar markieren und zugleich als KI-erzeugt detektierbar machen. Dies sind zwei eigenständige, gleichrangige Pflichten — eine allein genügt nicht. Die technische Lösung muss wirksam, interoperabel, robust und zuverlässig sein.
Betreiber müssen die exponierten natürlichen Personen über den Betrieb des Systems informieren — unabhängig davon, ob die Erfassung in Echtzeit oder ex post erfolgt. Datenschutzrechtliche Informationspflichten treten hinzu.
Betreiber müssen Deepfake-Inhalte (Bild, Audio, Video) sowie KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen — klar und unterscheidbar, spätestens bei Erstkontakt.
KI Bildgeneratoren erzeugen synthetische Standbilder, die von echten Fotografien oft nicht mehr unterscheidbar sind. Die Regulierungsarchitektur des AI Act adressiert dieses Risiko auf zwei Ebenen — beim Anbieter (Abs. 2) und beim Betreiber (Abs. 4).
Der Anbieter eines Bildgenerators muss jeden Output maschinenlesbar markieren und zugleich detektierbar machen. Erw.-Grund 133 nennt als Techniken:
Da nach dem Stand der Technik kein Einzelverfahren alle vier Anforderungen (wirksam, interoperabel, robust, zuverlässig) zugleich erfüllt, ist regelmäßig eine Kombination mehrerer Verfahren erforderlich.
Ein Deepfake (Art. 3 Nr. 60 KI-VO) ist KI-erzeugter oder -manipulierter Bild-, Audio- oder Videoinhalt, der (1) bestehenden (2) Personen, Objekten, Orten, Entitäten oder Ereignissen (3) erkennbar ähnelt (Erw.-Grund 134: „appreciable“) und (4) einer Person fälschlich als echt oder wahr erscheinen würde.
Auf eine Täuschungsabsicht des Betreibers kommt es nicht an. Maßgeblich ist die mögliche Zusammensetzung des Publikums — nicht eine hypothetische „Durchschnittsperson“ (anders als bei Abs. 1). Unrealistische Inhalte (etwa ein Drache oder eine Sphinx über dem Eiffelturm) sind keine Deepfakes.
Die Offenlegung muss für natürliche Personen unmittelbar wahrnehmbar sein (sichtbares oder hörbares Label), ohne dass sie eigene technische Werkzeuge einsetzen oder gesonderte Handlungen vornehmen müssten. Nach Measure 1.2 des Code of Practice ist das Label deutlich kontrastiert am oder im Bild anzubringen und soll bei Weiterverbreitung möglichst erhalten bleiben.
Die Kennzeichnungspflicht steht neben — nicht statt — weiterer Anforderungen: §§ 22, 23 KUG, § 201a StGB, Art. 6, 9 DSGVO bei biometrischen Daten, § 14 UrhG, §§ 823 ff. BGB i. V. m. Art. 1, 2 GG (APR). Auch ein gekennzeichneter Deepfake bleibt rechtswidrig, wenn er Persönlichkeits-, Urheber- oder Markenrechte verletzt; nach den Leitlinien kann unmarkierter KI-Inhalt zugleich „rechtswidriger Inhalt“ i. S. d. Art. 3 lit. h DSA sein.
Art. 50 Abs. 4 UAbs. 2 AI Act fordert die Offenlegung KI-generierter oder manipulierter Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Die Leitlinien konkretisieren den Tatbestand anhand dreier Merkmale.
Erfasst ist Text, der kumulativ (1) veröffentlicht ist — zugänglich für eine unbestimmte, hinreichend große Zahl von Personen (nicht: private oder organisationsinterne Korrespondenz); (2) die Öffentlichkeit informieren soll (Wissen, Meinungen, Fakten — nicht: reine Unterhaltung); und (3) Angelegenheiten von öffentlichem Interesse betrifft: Verwaltung, Grundrechte, öffentliche Gesundheit, Umwelt, Verbraucherschutz, wirtschaftliche, politische, wissenschaftliche oder kulturelle Entwicklungen von Belang.
Die Pflicht entfällt nur, wenn kumulativ (i) der Text einer substanziellen menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde — bloße Rechtschreib-/Grammatikprüfung oder pauschale Freigabe genügen nicht — und (ii) eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Deren Identität und Kontaktdaten sind an leicht auffindbarer Stelle offenzulegen (Impressum/Colophon). Der Begriff ist im Lichte des Art. 2 Nr. 8 EMFA auszulegen.
Die Offenlegung muss klar und unterscheidbar sein — nicht in Handbüchern oder unter Menüebenen versteckt. Wird nur ein Teil des Textes KI-generiert (z. B. ein KI-Abstract), genügt die Kennzeichnung dieses Teils. Für Kurzformate lassen die Vorgaben kontextuelle Hinweise auf Seiten- oder Sitzungsebene zu.
Die Kennzeichnungspflicht berührt die Mediengrundrechte aus Art. 5 Abs. 1 GG und Art. 11 GRCh nicht: Sie betrifft nicht den Inhalt, sondern allein die Transparenz über die Erstellungsmodalität. Der EMFA (Verordnung (EU) 2024/1083) und die AVMD-Richtlinie bleiben unberührt; Quellenschutz und redaktionelle Unabhängigkeit sind gewahrt.
Für audiovisuelle Deepfake-Inhalte gelten die Regelungen des Art. 50 Abs. 4 AI Act. Video umfasst dabei auch zeitbasierte Bildsequenzen sowie VR-/AR-Inhalte; bei Video mit Tonspur sind Bild- und Audioinhalt zu markieren und detektierbar zu halten. Der Code of Practice sieht aufgrund der zeitlichen Dimension differenzierte Anforderungen vor.
Bei Echtzeit-Streams ist das Label durchgängig sichtbar oder zu Beginn und in regelmäßigen Intervallen einzublenden — auch, weil Zuschauer erst nach Beginn einsteigen können. Bei aufgezeichneten Videos genügen Hinweise zu Beginn, an Schlüsselstellen und im Verlauf; Kurzvideos sind durchgehend zu kennzeichnen. Eine Kennzeichnung allein im Abspann genügt nicht (Art. 50 Abs. 5).
Kurze Audio-Inhalte benötigen einen hörbaren Disclaimer am Anfang. Längere Formate (KI-Podcasts, synthetische Anrufe, Radio-Beiträge) erfordern wiederholte Hinweise. Wird das Audio über ein Display ausgespielt, ist zusätzlich ein visuelles Label vorzusehen.
Zwei Instrumente konkretisieren Art. 50. Die rechtlich unverbindlichen Leitlinien der EU-Kommission (Art. 96 Abs. 1 lit. d KI-VO) liegen weiterhin im Entwurfsstadium. Der über das AI Office koordinierte Code of Practice „on Transparency of AI-Generated Content“ wurde dagegen am 10. Juni 2026 final veröffentlicht. Beide adressieren Anbieter- wie Betreiberpflichten. Die abschließende Auslegung des Art. 50 bleibt dem EuGH vorbehalten.
Praktische Auslegungshilfe für zuständige Behörden, Anbieter und Betreiber, mit zahlreichen Anwendungsbeispielen zu allen vier Absätzen. Aus Stakeholder-Konsultation und Beiträgen der Mitgliedstaaten im KI-Ausschuss hervorgegangen. Der Entwurf vom 8. Mai 2026 durchlief eine öffentliche Konsultation, die am 3. Juni 2026 endete. Die finale Fassung steht noch aus und soll vor dem 2. August 2026 vorliegen. Bis dahin bleiben die Leitlinien unverbindlich. Verbindliche Auslegung allein durch den EuGH.
Am 10. Juni 2026 final veröffentlicht. Der Kodex gliedert sich in zwei Abschnitte, einen für Anbieter generativer Systeme (Abschnitt 1, Art. 50 Abs. 2 und 5) und einen für Betreiber (Abschnitt 2, Art. 50 Abs. 4 und 5). Die Befolgung eines vom AI Office als angemessen bewerteten Kodex ist ein unkomplizierter Weg, die Erfüllung der Pflichten aus Art. 50 Abs. 2, 4 und 5 nachzuweisen, und kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd wirken. Der Beitritt erfolgt über ein Signatory Form gegenüber dem AI Office. Nicht-Unterzeichner müssen die Einhaltung über andere geeignete Mittel belegen (z. B. Gap-Analyse). Kommt kein angemessener Kodex zustande, kann die Kommission per Durchführungsrechtsakt gemeinsame Regeln festlegen.
Mit dem finalen Code of Practice (10. Juni 2026) stehen die in Anhang I bereitgestellten EU-Icons nunmehr fest. Ihre Gestaltung wurde in mehreren Mitgliedstaaten empirisch nutzergetestet. Varianten mit erläuterndem Textzusatz schnitten in Wahrnehmbarkeit und Klarheit deutlich besser ab. Der Kodex stellt daher drei Icons bereit, frei verwendbar ohne Quellenangabe gegenüber Kommission oder AI Office.
Zwingendes Hauptelement ist das kapitalisierte Akronym „AI“ in englischer Sprache. Eine Wiedergabe in der Landessprache (etwa „KI“) ist nur zulässig, soweit die Verwendung des Englischen mit nationalen Sprachvorgaben für den geschäftlichen oder behördlichen Verkehr unvereinbar ist, was in Deutschland regelmäßig nicht der Fall ist. Maßgeblich ist damit „AI“, nicht „KI“.
Der Zusatz zur Art der KI-Beteiligung ist eine empfohlene, nicht zwingende Ergänzung. Die fertigen Icons (Figur 1, 2) setzen ihn bereits um. Größe, Kontrast, Farbe und Typografie dürfen variieren, solange das Label klar, zugänglich und unterscheidbar bleibt. Das Basis-Icon kann um einen interaktiven Second Layer mit Provenance-Informationen erweitert werden.
Der AI Act und Art. 50 sehen begrenzte Ausschlüsse und Ausnahmen vor. Sie sind eng auszulegen; der Schutzzweck — Transparenz und Integrität des Informationsökosystems — setzt der Auslegung Grenzen. Die Leitlinien systematisieren drei Ebenen.
Befreit nur die Betreiberpflichten — der Anbieter muss den Output weiterhin nach Abs. 2 markieren. Jede regelmäßig wirtschaftliche oder berufliche Tätigkeit ist „beruflich“. Kriminelle sowie öffentlich wirksame (politisch/wirtschaftlich relevante) Deepfakes sind nicht „rein persönlich“. Beispiel: private Weihnachtskarte mit Familien-Deepfake = ausgenommen; öffentlich geteilter Deepfake des Bürgermeisters = kennzeichnungspflichtig.
Ausgeschlossen sind Systeme/Outputs, die ausschließlich für wissenschaftliche Forschung und Entwicklung bestimmt sind, sowie Forschungs-, Test- und Entwicklungstätigkeiten vor der Marktbereitstellung. Werden die Systeme oder ihre Outputs außerhalb des Forschungskontexts eingesetzt, greift Art. 50 vollumfänglich.
Eine Freigabe unter freier und Open-Source-Lizenz befreit nicht von Art. 50: Anbieter und Betreiber von Open-Source-Systemen, die in den Anwendungsbereich des Art. 50 fallen, bleiben zur Transparenz verpflichtet.
Keine Markierungspflicht bei rein assistiver Standardbearbeitung (Grammatik-/Format-/Rausch-/Farbkorrektur, Zuschnitt, Kompression) oder wenn das System die Eingabedaten bzw. deren Semantik nicht wesentlich verändert. Semantische Eingriffe — Übersetzung, Zusammenfassung, Hinzufügen/Entfernen von Objekten, starke Farb-/Kontrasteingriffe, Komposit-Bilder — lösen die Pflicht hingegen aus.
Rein technische, organisationsintern verbleibende Outputs (kumulative Voraussetzungen: technischer Charakter; nur für eine begrenzte, professionelle interne Empfängergruppe bestimmt) können ausgenommen sein. Gleiches gilt für ephemere, sofort konsumierte Echtzeit-Inhalte (z. B. in Videospielen), wenn die Nutzer um die KI-Erzeugung wissen.
Gesetzlich zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten zugelassene Systeme sind ausgenommen — bei angemessenen Garantien für Rechte Dritter. Öffentlich zugängliche Tools, mit denen Bürger Straftaten melden können, bleiben jedoch nach Abs. 1 hinweispflichtig.
Ist ein Deepfake Teil eines evident künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, beschränkt sich die Pflicht auf eine Offenlegung „in geeigneter Weise, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen“. Die Zugehörigkeit zu einer der fünf Kategorien ist einzelfallbezogen und muss offensichtlich sein; vorrangig informierende oder werbliche Inhalte fallen nicht darunter. Rechte Dritter (Bild-, Urheber-, Persönlichkeitsrechte) bleiben uneingeschränkt zu wahren.
Für KI-generierte Texte zu öffentlichem Interesse entfällt die Kennzeichnungspflicht bei substanzieller menschlicher Prüfung/redaktioneller Kontrolle und Übernahme der redaktionellen Verantwortung durch eine identifizierbare natürliche oder juristische Person (vgl. Abschnitt 03). Bloß formale Prüfungen genügen nicht.
Verstöße gegen die Transparenzpflichten des Art. 50 AI Act sind bußgeldbewehrt. Durchgesetzt wird Art. 50 von den nach Art. 70 KI-VO benannten Marktüberwachungsbehörden; für KI-Systeme auf Basis hauseigener GPAI-Modelle ist das AI Office zuständig (Art. 75), für EU-Organe der EDSB. Jede betroffene Person kann nach Art. 85 KI-VO Beschwerde einlegen.
Die Befolgung eines angemessenen Code of Practice kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd berücksichtigt werden. Hinzu treten zivilrechtliche Ansprüche (UWG, BGB), datenschutzrechtliche Konsequenzen sowie ggf. strafrechtliche Folgen (§ 201a StGB).
Bei Verstößen gegen die Transparenzpflichten des Art. 50 AI Act drohen Geldbußen von bis zu 15 Mio. Euro oder — bei Unternehmen — bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für EU-Organe, -Einrichtungen und -Stellen gilt ein Rahmen von bis zu 750.000 Euro.
Antworten auf die häufigsten Fragen von Anbietern und Betreibern generativer KI-Systeme — auf Basis der Kommissions-Leitlinien zu Art. 50. Sie ersetzen keine Beratung im Einzelfall.
Betreiber (Art. 3 Nr. 4 AI Act) ist jede natürliche oder juristische Person, die ein KI-System in eigener Verantwortung beruflich einsetzt. Eine Werbeagentur, die mit Midjourney KI-Bilder erstellt, oder ein Verlag, der ChatGPT in der Redaktion einsetzt, ist Betreiber. Einzelne Angestellte, die innerhalb der Weisungen einer juristischen Person handeln (z. B. Journalisten, Mediengestalter), sind keine gesonderten Betreiber; die juristische Person bleibt Betreiber auch beim Einsatz von Freelancern oder Dienstleistern. Wer Inhalte lediglich verbreitet oder weiterleitet (auch Online-Plattformen), ohne Herrschaft über den Einsatz des Systems, ist kein Betreiber.
Art. 50 Abs. 4 AI Act setzt voraus, dass der Inhalt einen Deepfake darstellt und Personen exponiert sind. Bei rein interner, nicht veröffentlichter Verwendung (z. B. Konzeptbilder im Pitch-Deck) kann der Anwendungsbereich der Betreiberpflicht zweifelhaft sein; für bestimmte rein technische, organisationsinterne Outputs sieht Abs. 2 eine Ausnahme vor. Sobald der Inhalt extern publiziert oder gegenüber Dritten verwendet wird, greift die Pflicht. Im Zweifel ist eine Kennzeichnung anzuraten.
Der Begriff ist autonom unionsrechtlich auszulegen und erfasst Themen, die für die Gesellschaft auf lokaler, nationaler, europäischer oder internationaler Ebene relevant und debattenwürdig sind — etwa öffentliche Verwaltung und Dienste, Grundrechte (einschließlich Justiz und Strafverfolgung), öffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche, politische, wissenschaftliche oder kulturelle Entwicklungen von Belang. Die Aufzählung ist nicht abschließend. Reine Unterhaltung sowie Service- oder Werbetexte ohne Informationsanspruch fallen regelmäßig nicht darunter.
Nein. Art. 50 Abs. 5 AI Act fordert die Bereitstellung „klar und unterscheidbar spätestens zum Zeitpunkt der ersten Interaktion oder Konfrontation“. Hinweise allein im Impressum, in Handbüchern oder unter Menüebenen genügen nach den Leitlinien nicht; ebenso wenig eine Offenlegung erst am Ende (Abspann, Ende der Interaktion). Die Kennzeichnung ist am oder im Inhalt selbst anzubringen.
Die Befolgung eines vom AI Office als angemessen bewerteten Code of Practice ist nach Art. 50 Abs. 7 AI Act ein unkomplizierter Weg, die Erfüllung der Pflichten aus Art. 50 Abs. 2, 4 und 5 nachzuweisen, und kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd wirken. Nicht-Unterzeichner müssen die Einhaltung über andere geeignete Mittel belegen — etwa durch eine Gap-Analyse gegenüber dem Kodex — und müssen mit detaillierteren Auskunfts- und Zugangsersuchen der Behörden rechnen. Die Kommissions-Leitlinien selbst sind rechtlich unverbindlich; verbindlich auslegen kann Art. 50 nur der EuGH.
Art. 50 gilt ab dem 2. August 2026 grundsätzlich für alle in Verkehr gebrachten oder in Betrieb genommenen Systeme im Anwendungsbereich. Der Digital-Omnibus (vorläufige Trilog-Einigung vom 7. Mai 2026, förmliche Annahme noch ausstehend) sieht eine gezielte Übergangsregel allein für die Markierungs- und Detektionspflichten der Anbieter nach Art. 50 Abs. 2 vor. Generative Systeme, die vor dem 2.8.2026 bereitgestellt wurden, erhalten danach bis zum 2. Dezember 2026 Zeit zur Umsetzung. Die übrigen Transparenzpflichten, namentlich die Deepfake-Kennzeichnung nach Art. 50 Abs. 4, bleiben hiervon unberührt und gelten ab dem 2.8.2026. Vor diesem Datum erzeugte und bereits verfügbar gemachte Inhalte (auch Deepfakes) müssen nicht rückwirkend gekennzeichnet werden. Eine freiwillige Kennzeichnung wird empfohlen.
Die Pflichten gelten kumulativ. Art. 35 Abs. 1 lit. k DSA listet die Kennzeichnung manipulierter Inhalte als Risikominderungsmaßnahme sehr großer Online-Plattformen (VLOPs) auf — sachlich weiter gefasst und an die Plattformen adressiert; Art. 50 Abs. 4 AI Act richtet sich an die Betreiber der KI-Systeme. Stellt eine Plattform Labelling-Werkzeuge bereit, können Betreiber diese zur Erfüllung ihrer Pflicht nutzen. Nach den Leitlinien kann zudem unmarkierter KI-Inhalt „rechtswidriger Inhalt“ i. S. d. Art. 3 lit. h DSA sein.
Der Code of Practice verpflichtet Anbieter, ihre Markierung robust gegen Manipulation zu gestalten. Wird sie dennoch entfernt, können sich Ansprüche aus § 95a UrhG (analog), aus Wettbewerbsrecht (UWG) sowie aus den Nutzungsbedingungen ergeben. Die Pflicht des Betreibers zur Offenlegung nach Art. 50 Abs. 4 AI Act bleibt unberührt; unmarkierter oder nicht offengelegter KI-Inhalt kann überdies als rechtswidriger Inhalt i. S. d. DSA gelten.
Wir unterstützen Anbieter und Betreiber generativer KI-Systeme bei der Umsetzung der Kennzeichnungspflichten — von der Pflichtenanalyse über die Gap-Analyse gegenüber dem Code of Practice bis zur Anpassung von Nutzungsbedingungen und redaktionellen Workflows.
