Seit dem 2. August 2026 gelten neue Transparenzpflichten des EU AI Act. Unternehmen, Agenturen und andere professionelle Anwender müssen seitdem in bestimmten Fällen offenlegen, wenn Bilder, Videos, Audios oder Texte mit künstlicher Intelligenz erzeugt oder wesentlich verändert wurden.
Das bedeutet allerdings nicht, dass jedes KI-Bild und jeder mit ChatGPT formulierte Absatz sichtbar als KI-Inhalt gekennzeichnet werden muss. Entscheidend sind die Art des Inhalts, seine Wirkung, der Veröffentlichungskontext und die Frage, wer für den Einsatz des KI-Systems verantwortlich ist.
Dieser Überblick zeigt, wann die KI-Kennzeichnungspflicht greift, wann keine sichtbare Kennzeichnung erforderlich ist und wie Unternehmen ihre Content-Prozesse jetzt organisieren sollten.
Hinweis: Dieser Beitrag bietet eine allgemeine Einordnung und ersetzt keine Rechtsberatung.
Das Wichtigste in Kürze
- Die Transparenzpflichten aus Artikel 50 des EU AI Act gelten seit dem 2. August 2026.
- Für Unternehmen ist vor allem die sichtbare Kennzeichnung von Deepfakes relevant. Dazu können auch realistisch wirkende KI-Personen, synthetische Influencer oder irreführend veränderte Produktbilder in der Werbung gehören.
- KI-Texte müssen sichtbar gekennzeichnet werden, wenn sie veröffentlicht werden, die Öffentlichkeit über Themen von öffentlichem Interesse informieren und keine ausreichende menschliche Prüfung mit klarer redaktioneller Verantwortung stattgefunden hat.
- Gewöhnliche Werbetexte und Produktbeschreibungen fallen grundsätzlich nicht unter diese spezielle Kennzeichnungspflicht. Anders kann es bei Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit aussehen.
- Die maschinenlesbare Markierung von KI-Ausgaben ist in erster Linie Aufgabe der Anbieter generativer KI-Systeme. Die sichtbare Offenlegung bestimmter veröffentlichter Inhalte ist Aufgabe der professionellen Anwender.
- Die von der EU bereitgestellten KI-Symbole sind freiwillig. Die gesetzlich erforderliche Information muss jedoch klar, erkennbar, verständlich und barrierefrei sein.
Was hat sich am 2. August 2026 geändert?
Der European AI Act, offiziell die Verordnung (EU) 2024/1689, ist bereits 2024 in Kraft getreten. Seine Regelungen werden schrittweise anwendbar. Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 für bestimmte KI-Systeme und KI-generierte Inhalte.
Die Vorgaben unterscheiden zwischen zwei Rollen:
| Rolle | Typisches Beispiel | Zentrale Pflicht bei KI-Inhalten |
|---|---|---|
| Anbieter, im AI Act „Provider“ | Unternehmen, das einen Bildgenerator, ein Sprachmodell oder ein anderes KI-System unter eigenem Namen anbietet | Synthetische Ausgaben maschinenlesbar markieren und als KI-generiert oder KI-manipuliert erkennbar machen |
| Betreiber, im AI Act „Deployer“ | Unternehmen oder Agentur, die ein KI-Tool professionell für Kommunikation, Marketing oder Publikationen nutzt | Deepfakes und bestimmte ungeprüfte Texte zu Themen von öffentlichem Interesse sichtbar offenlegen |
Die meisten Unternehmen, die Dienste wie ChatGPT, Claude, Gemini, Midjourney oder integrierte KI-Funktionen in Kreativsoftware verwenden, handeln in der Regel als Betreiber. Entwickelt ein Unternehmen ein eigenes KI-System oder bringt es ein angepasstes System unter dem eigenen Namen in Verkehr, kann es zusätzlich zum Anbieter werden.
Wer eine Agentur lediglich mit der Produktion einer Kampagne beauftragt und weder entscheidet noch kontrolliert, ob und wie dabei KI eingesetzt wird, ist nach den Leitlinien der EU-Kommission nicht allein deshalb Betreiber des KI-Systems. In diesem Fall kann die Agentur die verantwortliche Betreiberin sein. Bei gemeinsam gesteuerten Workflows sollte die Verantwortung vertraglich eindeutig geregelt werden.
Müssen Unternehmen jedes KI-Bild kennzeichnen?
Nein. Eine sichtbare Kennzeichnung ist nach Artikel 50 Absatz 4 vor allem dann erforderlich, wenn ein KI-generiertes oder KI-manipuliertes Bild, Video oder Audio als Deepfake einzustufen ist.
Ein Deepfake liegt vereinfacht vor, wenn der Inhalt realistisch wirkende Personen, Gegenstände, Orte, Lebewesen oder Ereignisse zeigt und beim Publikum fälschlich den Eindruck erwecken kann, authentisch oder wahr zu sein. Eine Täuschungsabsicht ist dafür nicht erforderlich. Relevant ist, wie der Inhalt im konkreten Kontext voraussichtlich wahrgenommen wird.
Der Begriff ist weiter gefasst, als viele vermuten. Nach den Leitlinien können auch Personen oder Situationen erfasst sein, die zwar nicht tatsächlich existieren, aber plausibel existieren könnten. Ein realistischer synthetischer Mensch in einem Werbevideo kann daher kennzeichnungspflichtig sein, obwohl er keine konkrete reale Person imitiert.
Beispiele für kennzeichnungspflichtige KI-Bilder und KI-Videos
Eine sichtbare Kennzeichnung ist insbesondere zu prüfen bei:
- realistisch erzeugten oder manipulierten Aufnahmen bekannter Personen
- geklonten Stimmen oder realistisch simulierten Aussagen von Geschäftsführern, Mitarbeitenden oder Testimonials
- virtuellen Influencern, die wie reale Menschen erscheinen und Produkte präsentieren
- realistisch erzeugten Kundenszenen, Dienstleistungen oder Ereignissen, die tatsächlich nicht stattgefunden haben
- KI-generierten Produktabbildungen, wenn Aussehen, Qualität, Eigenschaften oder Nutzung des realen Produkts irreführend dargestellt werden
- virtuellen Vorher-nachher-Darstellungen, die als reales Ergebnis verstanden werden könnten
Beispiele, die in der Regel nicht als Deepfake gelten
Nach den Leitlinien der EU-Kommission fallen unter anderem folgende Anwendungen regelmäßig nicht unter die Deepfake-Kennzeichnungspflicht, sofern sie das Publikum nicht über die Wirklichkeit täuschen:
- eindeutig fantastische oder physikalisch unmögliche Szenen
- klar erkennbare Illustrationen und Cartoons
- rein technische Optimierungen wie Rauschreduzierung, Farbkorrektur, Kompression oder Größenanpassung
- das Entfernen unwesentlicher Hintergrundelemente
- ein reales Produkt vor einem KI-generierten Hintergrund, wenn das Produkt selbst korrekt dargestellt wird
- ästhetische Hintergrundanpassungen oder Produktanordnungen ohne relevante Veränderung der Aussage
Die Grenze bleibt kontextabhängig. Je fotorealistischer ein Motiv ist und je eher es als Dokumentation einer realen Person, eines realen Produkts oder eines realen Ereignisses verstanden werden kann, desto genauer sollte die Kennzeichnungspflicht geprüft werden.
Was gilt für kreative Kampagnen, Kunst und Satire?
Auch kreative, künstlerische, satirische oder fiktionale Deepfakes sind nicht vollständig von der Transparenzpflicht ausgenommen. Für sie gilt jedoch eine erleichterte Form der Offenlegung. Der Hinweis darf so gestaltet und platziert werden, dass er die Wahrnehmung oder den Genuss des Werks nicht unangemessen beeinträchtigt.
Bei Werbung ist diese Ausnahme mit Vorsicht anzuwenden. Die Kommission betont, dass Werbeinhalte nur in bestimmten Einzelfällen eindeutig als kreative oder fiktionale Werke gelten. Ein realistischer synthetischer Influencer, der ein echtes Produkt testet, wird in den Leitlinien ausdrücklich als Beispiel genannt, das nicht unter die erleichterte Regelung fällt.
Müssen KI-Texte seit August 2026 gekennzeichnet werden?
Auch hier lautet die Antwort: nicht pauschal.
Eine sichtbare Kennzeichnung ist erforderlich, wenn alle folgenden Voraussetzungen erfüllt sind:
- Der Text wurde mit einem KI-System erzeugt oder wesentlich manipuliert.
- Der Text wird für eine größere, unbestimmte Öffentlichkeit veröffentlicht.
- Er soll die Öffentlichkeit informieren.
- Er behandelt ein Thema von öffentlichem Interesse.
- Es gab keine ausreichende menschliche Prüfung oder redaktionelle Kontrolle mit klarer redaktioneller Verantwortung.
Zu Themen von öffentlichem Interesse zählen nach den Leitlinien beispielsweise Politik, öffentliche Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umweltschutz, Verbrauchersicherheit sowie relevante wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen.
Typische kennzeichnungspflichtige KI-Texte
Eine Kennzeichnung kann beispielsweise erforderlich sein bei:
- automatisiert veröffentlichten Nachrichten oder Zusammenfassungen zu politischen Entscheidungen
- ungeprüften KI-Artikeln über Gesundheit, Krankheiten oder Verbrauchersicherheit
- automatisch erstellten öffentlichen Warnmeldungen
- KI-generierten oder wesentlich veränderten Investor-Informationen eines börsennotierten Unternehmens
- öffentlichen Beiträgen über gesellschaftlich relevante Wirtschafts-, Umwelt- oder Wissenschaftsthemen, die ohne substanzielle menschliche Prüfung erscheinen
Wann keine spezielle KI-Kennzeichnung erforderlich ist
Die EU-Kommission nennt ausdrücklich auch Inhalte, die nicht unter diese Regelung fallen. Dazu gehören:
- übliche Werbetexte
- gewöhnliche Produktbeschreibungen
- interne Unternehmenskommunikation
- individuelle Beratungstexte für einzelne Kunden
- kurze Texte, die keine wesentlichen Fakten, Meinungen oder Kenntnisse vermitteln
- KI-unterstützte Texte zu Themen von öffentlichem Interesse, wenn sie substanziell von einem fachkundigen Menschen geprüft wurden und eine Person oder ein Unternehmen die redaktionelle Verantwortung übernimmt
Bei Werbe- und Produkttexten gilt eine wichtige Einschränkung: Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit können ein Thema von öffentlichem Interesse betreffen. Unabhängig vom AI Act müssen Werbeaussagen außerdem wahr, belegbar und mit dem Wettbewerbsrecht vereinbar sein.
Reicht es, einen KI-Text kurz gegenzulesen?
Nein. Eine reine Rechtschreibprüfung oder ein oberflächliches Freigeben genügt für die Ausnahme bei Texten von öffentlichem Interesse nicht.
Die menschliche Prüfung muss sich auf den Inhalt beziehen. Nach den Leitlinien gehört die Überprüfung der Fakten zum Mindestumfang. Die prüfende Person benötigt ausreichende Fachkenntnis und muss Quellen, Aussagen und Schlussfolgerungen tatsächlich bewerten können. Redaktionelle Kontrolle bedeutet zudem, dass eine verantwortliche Stelle den Text aus inhaltlichen Gründen ändern, ablehnen oder freigeben darf.
Wird der Text nach dieser Prüfung nochmals substanziell durch KI verändert, greift die Ausnahme für die vorher geprüfte Fassung nicht mehr. Die finale veröffentlichte Version muss deshalb Teil des menschlichen Review-Prozesses sein.
Für Unternehmen empfiehlt sich ein dokumentierter Ablauf:
- KI-Entwurf erstellen
- Aussagen und Quellen fachlich prüfen
- Inhalt redaktionell überarbeiten
- finale Fassung durch eine verantwortliche Person freigeben
- Prüfung, Verantwortlichkeit und Veröffentlichungsstand intern dokumentieren
Muss KI-generierte Musik gekennzeichnet werden?
Nicht jede mit KI erzeugte Musik muss sichtbar gekennzeichnet werden. Relevant wird die Kennzeichnungspflicht insbesondere dann, wenn reale Stimmen geklont werden, ein bestimmter Künstler erkennbar imitiert wird oder die Aufnahme fälschlich wie eine authentische menschliche Darbietung wirkt. Da Musik als künstlerisches Werk gilt, kann ein dezenter Hinweis ausreichen, der den Musikgenuss nicht beeinträchtigt. Bei einem eigenständigen KI-Instrumentaltrack ohne reales Vorbild besteht dagegen wahrscheinlich keine verpflichtende sichtbare Kennzeichnung. Unabhängig davon müssen Unternehmen die Lizenzbedingungen des verwendeten KI-Musiktools und mögliche Rechte Dritter beachten.
Das erweitert den Nutzwert, ohne aus dem Artikel einen vollständigen Überblick über sämtliche KI-Medien zu machen. Gleichzeitig nehmt ihr Suchanfragen wie „KI Musik kennzeichnen“ und „Suno Musik Kennzeichnungspflicht“ mit. Den Titel würde ich dafür nicht ändern.
Maschinenlesbare Markierung und sichtbares Label sind nicht dasselbe
Artikel 50 unterscheidet zwischen technischer Markierung und sichtbarer Information:
| Form | Verantwortlich | Zweck |
|---|---|---|
| Maschinenlesbare Markierung | Anbieter des generativen KI-Systems | Ermöglicht technischen Systemen, die künstliche Herkunft einer Ausgabe zu erkennen, zum Beispiel über Metadaten, Provenienzsignale oder andere technische Verfahren |
| Sichtbare oder wahrnehmbare Kennzeichnung | Professioneller Betreiber bei Deepfakes und bestimmten Textpublikationen | Informiert Menschen unmittelbar beim ersten Kontakt mit dem Inhalt |
Ein unsichtbarer Eintrag in den Metadaten ersetzt ein sichtbares Label bei einem kennzeichnungspflichtigen Deepfake nicht. Umgekehrt entbindet ein sichtbarer Hinweis den Anbieter des KI-Systems nicht von seiner technischen Markierungspflicht.
Für generative KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, gilt für die technische Markierung durch den Anbieter eine Übergangsfrist bis zum 2. Dezember 2026. Diese Frist betrifft nicht die sichtbaren Offenlegungspflichten professioneller Anwender. Inhalte, die vor dem 2. August 2026 erstellt und veröffentlicht wurden, müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Wird ein zuvor erzeugter Text erst ab diesem Datum veröffentlicht, kann die Pflicht jedoch greifen.
Wie sollten Unternehmen KI-Inhalte kennzeichnen?
Das Gesetz schreibt nicht für jeden Inhalt einen einzigen festen Wortlaut oder eine bestimmte Gestaltung vor. Die Information muss spätestens bei der ersten Wahrnehmung klar, unterscheidbar, verständlich und entsprechend den anwendbaren Anforderungen barrierefrei sein.
Geeignete Formulierungen können je nach Inhalt sein:
- „Dieses Bild wurde vollständig mit KI erzeugt.“
- „Diese Abbildung wurde teilweise mit KI verändert.“
- „Die dargestellte Person ist KI-generiert und existiert nicht real.“
- „Stimme und Bild wurden künstlich erzeugt.“
- „Dieser Text wurde mit KI erstellt und nicht redaktionell geprüft.“
Die EU stellt freiwillig nutzbare Symbole für vollständig KI-generierte und teilweise KI-veränderte Inhalte bereit. Ein ergänzender Klartext ist in der Praxis meist verständlicher als ein alleinstehendes Symbol.
Bei Social-Media-Inhalten kann eine deutlich sichtbare Plattformkennzeichnung geeignet sein. Das veröffentlichende Unternehmen bleibt jedoch dafür verantwortlich, dass der Hinweis tatsächlich beim ersten Kontakt erkennbar ist. Wird derselbe Inhalt auf der eigenen Website, in einer Präsentation oder in Printmedien weiterverwendet, muss die Kennzeichnung auch dort funktionieren.
Versteckte Hinweise im Impressum, in Allgemeinen Geschäftsbedingungen oder hinter mehreren Menüpunkten reichen nicht aus. Bei einem Bild sollte der Hinweis unmittelbar am Motiv oder in einer direkt zugeordneten Bildunterschrift stehen. Bei Videos muss er so erscheinen, dass auch Personen, die später einsteigen, ihn wahrnehmen können.
Was Unternehmen jetzt konkret tun sollten
1. KI-Einsatz erfassen
Dokumentieren Sie, welche Teams, Agenturen und Dienstleister generative KI für Texte, Bilder, Audio und Video einsetzen. Erfassen Sie auch integrierte KI-Funktionen in Design-, Video- und Marketingsoftware.
2. Inhalte nach Risiko unterscheiden
Führen Sie vor der Veröffentlichung eine einfache Prüfung durch:
- Wirkt der Inhalt real oder eindeutig künstlich?
- Zeigt er eine plausible Person, ein Produkt, einen Ort, eine Dienstleistung oder ein Ereignis?
- Kann er einen falschen Eindruck über Echtheit, Eigenschaften oder tatsächliche Abläufe vermitteln?
- Informiert der Text die Öffentlichkeit über ein Thema von öffentlichem Interesse?
- Wurde die finale Fassung substanziell von einer fachkundigen Person geprüft?
3. Einen verbindlichen Review-Prozess festlegen
Bestimmen Sie, wer Fakten prüft, Inhalte freigibt und redaktionelle Verantwortung trägt. Die Freigabe sollte sich immer auf die tatsächlich veröffentlichte Fassung beziehen.
4. Kennzeichnungen als Gestaltungselement vorbereiten
Definieren Sie einheitliche Textbausteine und Positionen für Website, Social Media, Bewegtbild, Präsentationen und Print. Berücksichtigen Sie Lesbarkeit, Kontrast und Barrierefreiheit.
5. Verantwortlichkeiten mit Agenturen regeln
Legen Sie in Briefings und Verträgen fest, wer über den KI-Einsatz entscheidet, wer einen möglichen Deepfake bewertet, wer kennzeichnet und wer die finale Freigabe dokumentiert.
6. Herkunftsinformationen erhalten
Bewahren Sie Originaldateien und vorhandene Herkunftsmetadaten möglichst auf. Exporte, Screenshots oder erneutes Komprimieren können technische Markierungen entfernen. Für die sichtbare Kennzeichnung kennzeichnungspflichtiger Inhalte bleibt deshalb ein eigener Prozess notwendig.
Welche Strafen drohen bei Verstößen?
Verstöße gegen die Transparenzpflichten können mit Geldbußen von bis zu 15 Millionen Euro oder bei Unternehmen mit bis zu 3 Prozent des weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres geahndet werden. Für kleine und mittlere Unternehmen gilt grundsätzlich der jeweils niedrigere Höchstbetrag. Die konkrete Sanktion muss verhältnismäßig sein und berücksichtigt unter anderem Schwere, Dauer und Vorsatz oder Fahrlässigkeit des Verstoßes.
Neben dem AI Act können weitere Vorschriften relevant sein, etwa Datenschutzrecht, Urheberrecht, Persönlichkeitsrechte, Markenrecht und das Verbot irreführender Werbung. Eine Kennzeichnung macht einen ansonsten rechtswidrigen Inhalt nicht zulässig.
Häufige Fragen zur KI-Kennzeichnungspflicht
Muss ein mit ChatGPT geschriebener Blogartikel gekennzeichnet werden?
Nicht automatisch. Bei einem veröffentlichten Text zu einem Thema von öffentlichem Interesse ist eine Kennzeichnung erforderlich, wenn keine substanzielle menschliche Prüfung und keine redaktionelle Verantwortung vorliegen. Ein fachlich geprüfter und verantworteter Artikel kann unter die Ausnahme fallen.
Muss ein KI-generiertes Bild auf Instagram gekennzeichnet werden?
Nur weil KI eingesetzt wurde, besteht nach dem AI Act nicht in jedem Fall eine sichtbare Kennzeichnungspflicht. Wirkt das Bild jedoch wie eine authentische Darstellung einer realen oder plausibel realen Person, eines Produkts, Ortes oder Ereignisses und kann es das Publikum über seine Echtheit täuschen, kann es als Deepfake gelten und muss erkennbar gekennzeichnet werden.
Müssen KI-generierte Produktbilder gekennzeichnet werden?
Ein reales Produkt vor einem künstlich erzeugten Hintergrund muss nach den Leitlinien nicht zwangsläufig gekennzeichnet werden, wenn das Produkt korrekt dargestellt wird. Verändert die KI jedoch Aussehen, Qualität, Eigenschaften oder Verwendung des Produkts in irreführender Weise, kann eine Kennzeichnungspflicht bestehen. Zusätzlich ist das Wettbewerbsrecht zu beachten.
Genügt ein Hinweis im Alt-Text oder in den Metadaten?
Nein, wenn eine sichtbare Offenlegung nach Artikel 50 Absatz 4 erforderlich ist. Der Hinweis muss für Menschen beim ersten Kontakt klar wahrnehmbar sein. Metadaten und Alt-Texte können ergänzen, ersetzen aber kein sichtbares oder hörbares Label.
Muss „KI-generiert“ direkt im Bild stehen?
Nicht zwingend in jedem Fall. Der Hinweis kann abhängig vom Medium auch unmittelbar daneben oder in einer klar zugeordneten Bildunterschrift stehen. Er darf unter normalen Nutzungsbedingungen nicht leicht übersehen werden. Bei Social-Media-Feeds ist deshalb eine Kennzeichnung direkt am Inhalt besonders sinnvoll.
Fazit: Nicht alles kennzeichnen, aber jeden KI-Einsatz bewusst prüfen
Der EU AI Act führt keine pauschale Kennzeichnungspflicht für sämtliche KI-Inhalte ein. Für Unternehmen liegt der Schwerpunkt auf realistisch wirkenden, potenziell irreführenden KI-Bildern, Videos und Audios sowie auf ungeprüften KI-Texten zu Themen von öffentlichem Interesse.
Der wichtigste Schritt ist deshalb kein pauschales Label auf jedem Inhalt, sondern ein verlässlicher Prozess: KI-Einsatz erkennen, Kontext bewerten, Fakten und Wirkung prüfen, Verantwortung festlegen und dort klar kennzeichnen, wo der AI Act es verlangt.
Quellen
- Artikel 50 des EU AI Act im AI Act Service Desk der Europäischen Kommission
- Leitlinien der Europäischen Kommission zu den Transparenzpflichten nach Artikel 50
- Fragen und Antworten der Europäischen Kommission zu Artikel 50
- Code of Practice on Transparency of AI-generated Content
- EU-Symbole zur Kennzeichnung KI-generierter Inhalte
- Offizielle Leitlinien der EU-Kommission als PDF
