Warum ein KI-generierter Gummibär kennzeichnungspflichtig ist: Der EU AI Act kompakt erklärt

„Ich hatte schon Kund*innen, die mich gefragt haben, ob ein Bild von einem Gummibär kennzeichnungspflichtig ist. Und tatsächlich: ja. Wenn er realistisch aussieht und vollständig mit KI generiert wurde.“

Olivia Satchel, Datenschutz- und KI-Consultant im Auftrag der activeMind AG, im Webinar

Der Gummibär ist kein Scherz, sondern die logische Folge einer Definition, die weiter gefasst ist, als fast alle erwartet haben. Seit Anfang August lassen sich in Marketing-Teams zwei Verhaltensweisen beobachten: gar nichts kennzeichnen, weil man die Regel für Unsinn hält, oder vorsichtshalber alles, bis das Label nichts mehr aussagt. Beides ist eine Reaktion auf dieselbe Lücke, nämlich auf fehlende Kriterien für den Alltag.

Der AI Act zielt auf Irreführung, nicht auf eure Grafikabteilung

Wer die Transparenzpflichten sinnvoll anwenden will, muss wissen, wogegen sie sich richten. Der AI Act will Irreführung ahnbar machen: KI-generierte Vorher-Nachher-Bilder bei Abnehmprodukten, vollständig synthetische politische Inhalte – Fälle also, in denen Menschen bewusst getäuscht werden sollen. Geschützt werden sollen also vor allem die Konsument*innen von den Inhalten, nicht die Reinheit der Produktionskette oder die Art der Produktion selbst.

Diese Zielrichtung hilft bei fast jeder Zweifelsfrage. Als Umkehrprobe funktioniert sie so: Würdet ihr selbst erkennen, dass der Inhalt aus einer KI kommt? Oder würdet ihr darauf hereinfallen? Wenn letzteres zutrifft, braucht euer Content ein Label.

Die Deepfake-Definition reicht weiter, als sie klingt

Ein Deepfake im Sinne des AI Act ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt erscheinen würde.

Die abgebildete Sache muss nicht einmal real existieren, sondern nur plausibel existieren können. Deshalb reicht schon eine echt wirkende, KI-generierte Tasse aus und deshalb ist auch der Gummibär kennzeichnungspflichtig, sobald er realistisch aussieht.

Der Umkehrschluss kann euch ebenfalls helfen, wenn ihr nicht wisst, ob ein Inhalt gekennzeichnet werden sollte oder nicht: Alles, was den Natur- und Physikgesetzen widerspricht, biologisch nicht anerkannte Lebensformen und eindeutig fantastische Motive fallen heraus. Ein fotorealistischer fliegender Drache ist kein Deepfake, weil er keiner wirklichen Sache ähnelt. Comics und stilisierte Grafiken genauso. Aber sobald der Stil fotorealistisch wird, greift die Definition wieder.

Ob ein Inhalt täuscht, entscheidet euer Publikum

Der zweite Ausschlussgrund neben der fehlenden Ähnlichkeit ist fehlendes Täuschungspotenzial. Das bekannteste Beispiel dafür ist der Papst im Balenciaga-Mantel von 2023: Heute wäre das Bild wohl kein Deepfake mehr, weil inzwischen fast alle wissen, dass es nicht echt ist.

An dieser Stelle wird aber häufig falsch abgebogen. Das Täuschungspotenzial bemisst sich nicht an einem gedachten Durchschnittsmenschen, sondern am tatsächlichen Publikum des Inhalts. Denselben Papst-Balenciaga vor einer Schulklasse zu zeigen, wäre weiterhin kennzeichnungspflichtig, weil Zehnjährige das kaum einordnen können. Für ältere Zielgruppen gilt aus demselben Grund eher die Empfehlung, zu kennzeichnen.

Die Frage lautet dementsprechend nicht „Ist das erkennbar KI?“, sondern „Ist das für mein Publikum erkennbar KI?“. Wie unterschiedlich dieselbe Regel dadurch ausfällt, zeigt ein Motiv aus unserer eigenen Produktion. Für die Stadtmarketing-Kampagne „(Oder) geboren“ haben wir Heinrich von Kleist per KI zum Leben erweckt, damit er in einem Video über Frankfurt (Oder) spricht. Vor einem historisch bewanderten Publikum ist offensichtlich, dass Kleist keine Videos mehr aufnimmt, und die Kennzeichnung wäre verzichtbar. Auf einem Stadtmarketing-Account ist sein Publikum aber die Allgemeinheit, und dort wissen möglicherweise nicht alle User, wer Kleist war. Wir kennzeichnen also mit „AI generated“.

Bei Texten fällt die Pflicht fast immer weg

Für Texte gilt eine eigene Regel, und sie ist die größte Entlastung des ganzen Themas. Die Kennzeichnungspflicht greift nur, wenn drei Bedingungen zusammen erfüllt sind: Der Text ist KI-generiert oder KI-manipuliert, er wird veröffentlicht, und er soll die Öffentlichkeit über ein Thema von öffentlichem Interesse informieren. Gemeint sind Artikel, Blogbeiträge, Presse, Nachrichten oder Jahresabschlussberichte. Eine Produktbeschreibung erfüllt die dritte Bedingung nicht.

Selbst wenn alle drei Punkte zutreffen, seid ihr wieder auf der sicheren Seite, sobald eine redaktionelle Kontrolle stattgefunden hat und jemand die redaktionelle Verantwortung trägt. Beides ist erfüllt, wenn ein Mensch den Text inhaltlich prüft und der Text unter einem Personen- oder Unternehmensnamen erscheint. Laut Datenschutz- und KI-Consultant Olivia Satchel müssen Texte deshalb in etwa 99 Prozent der Fälle nicht gekennzeichnet werden.

Und die Hürde für „redaktionelle Kontrolle“ liegt niedriger, als viele annehmen. Der Moment, in dem ihr lest, den Faktencheck macht und entscheidet „das passt so“, gilt schon als menschliche Redaktion. Ihr müsst nichts umschreiben, damit die Ausnahme greift. Dasselbe gilt für Übersetzungen aus DeepL und für KI-Korrekturen an eigenen Texten: Die Basis bleibt euer Text, und angeschaut habt ihr ihn auch.

Die Grenze verläuft bei vollautomatischer Veröffentlichung ohne jeden menschlichen Blick. Websites, auf denen Agenten laufend Blogbeiträge generieren und direkt publizieren, sind eindeutig kennzeichnungspflichtig. Was massenhaft generierter Content mit Sichtbarkeit macht, ist eine eigene Diskussion, die wir an anderer Stelle geführt haben.

Der Moment, in dem ihr lest, den Faktencheck macht und entscheidet „das passt so“, gilt als menschliche Redaktion.

Ihr müsst nichts umschreiben, damit die Ausnahme greift.

Das Bußgeld ist nicht euer eigentliches Risiko

Die Höchstbeträge klingen dramatisch: 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Das ist aber ein Höchstbetrag und kein Regelbußgeld. Sanktionen müssen verhältnismäßig sein, und die Höhe bemisst sich nach Art, Schwere und Dauer des Verstoßes, den Folgen, der Unternehmensgröße und der Kooperation mit den Behörden. Für ein fehlendes Label an einem einzelnen Motiv in einem mittelständischen Unternehmen ist eine Millionensumme nicht verhältnismäßig. Zuständig ist in Deutschland die Bundesnetzagentur, seit Juli regelt das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) die Durchführung.

Der wahrscheinlichere Ärger kommt aus einer anderen Richtung. Ein Verstoß gegen die Transparenzpflichten kann als Verstoß gegen eine Marktverhaltensregel im Sinne des UWG gelten und damit von Mitbewerbern oder Wettbewerbsverbänden verfolgt werden. Für Marketing-Teams ist die Konkurrenz dementsprechend die realistischere Gefahr als die Behörde.

Ein weiterer Aspekt, der nebenbei schnell vergessen werden kann: Wenn die KI eurem Produkt Eigenschaften andichtet, die es nicht hat, landet ihr automatisch im Wettbewerbsrecht, ganz unabhängig von jedem KI-Label. Fragt euch bei Inhalten deshalb nicht nur, ob ein Label dran muss, sondern auch, ob ihr das überhaupt behaupten dürft.

Die Bild-Kennzeichnung funktioniert auf drei Ebenen

Wenn ihr kennzeichnet, sollte das an insgesamt drei Stellen passieren: Im Asset selbst sollte ein dezentes, standardisiertes Icon an sichtbarer Position sitzen, „AI generated“ oder „AI modified“. Das ist die Kennzeichnung, die zählt, wenn ein Bild geteilt, eingebettet und aus dem Kontext gerissen wird. Ein Hinweis im Text oder im Copyright-Feld reicht nicht aus.

Welche der beiden Formulierungen greift, hängt davon ab, wo der Inhalt herkommt: Ein vollständig generiertes Recruiting-Motiv, ist „AI generated“. Ein Glitzern und Funkeln auf einem Produkt, das so in der Realität nicht vorkommt, ist „AI modified“, weil das Bild echt ist und die KI die Wirkung verändert hat. In den Dateidaten dokumentieren Content Credentials nach dem C2PA-Standard die KI-Bearbeitung maschinenlesbar. Für Betrachter*innen ist das natürlich unsichtbar, aber es macht euch vor dem Gesetz trotzdem belastbar.

Auf den Plattformen aktivieren wir außerdem zusätzlich das systemeigene Label und setzen einen kurzen Hinweis in die Caption. Allein auf diese Labels würden wir uns übrigens an eurer Stelle nicht verlassen: Die Plattformen bauen ihre Label-Funktionen laufend um, die rechtliche Verantwortung bleibt bei euch. Wie sich das entwickelt, dazu halten wir euch übrigens wöchentlich und monatlich in unseren Newslettern auf dem Laufenden.

Gestalterisch seid ihr frei: Das Gesetz macht keine Vorgaben zum Aussehen der Labels, außer dass die Kennzeichnung deutlich und klar sichtbar sein muss. Nur eindeutig muss die Formulierung bleiben: Bei „KI hat mitgebastelt“ weiß z. B. niemand, ob das Bild direkt von der KI erstellt oder nur bearbeitet wurde. Zu Größe, Sprache und Platzierung haben wir konkrete Fälle aus dem Marketingalltag gesammelt.

Die EU schlägt Label-Varianten auf der offiziellen Seite zum AI Act vor:

Euer Redaktionsprozess ist der eigentliche Nachweis

Wie oben bereits angesprochen, entfällt die Kennzeichnungspflicht für Texte entfällt durch die redaktionelle Kontrolle. Das heißt aber auch: Diese Kontrolle muss belegbar sein, wenn jemand fragt.

Bei uns läuft jeder Inhalt durch einen Vier-Augen-Check, den es lange vor dem AI Act gab. Dokumentiert wird er in Trello, z. B. mit einem eigenen Feld „AI-Check“, das abgehakt wird, sobald ein Mensch draufgeschaut hat. Wer einen Inhalt wann abgenommen hat, ist auf der Trello-Karte dokumentiert. Damit ist der Nachweis ein Nebenprodukt eines Prozesses, den ihr wahrscheinlich sowieso habt. Bei einem WordPress-Blog kann im Zweifel schon die Bearbeitungshistorie ausreichen.

Für Bilder im Graubereich, also nach der Art „Wir veröffentlichen diese Art von Bildern auf diesen Plattformen und kennzeichnen sie nicht, weil das Täuschungspotenzial nicht gegeben ist“, ist keine Einzelfalldokumentation notwendig. Eine solche Festlegung, einmal geschrieben, trägt für eine ganze Bildproduktion.

Was offen bleibt

Drei Lücken sind nicht durch bessere Prozesse zu schließen, und es lohnt sich, sie zu kennen:

• Es gibt keinen bestimmten Schwellenwert für die Bildbearbeitung. Die Leitlinien der EU-Kommission zählen unkritische Touch-ups auf, wie Rauschunterdrückung, Komprimierung, Helligkeitsretusche, und diese Liste ist eng zu lesen. Ab wann eine Bearbeitung jedoch „zu viel“ ist, ist nirgends definiert. Ein T-Shirt von Hellrot auf Dunkelrot zu ändern ist schon offene Grauzone. Auf eine Antwort werden wir womöglich bis zu den ersten öffentlichen Rechtsstreitigkeiten warten.
• Ob Plattform-Labels allein die Transparenzpflichten erfüllen, ist im Einzelfall offen. Nutzen könnt ihr sie, aber sich darauf zu verlassen würden wir euch nicht empfehlen.
• Die Wasserzeichen der KI-Anbieter erzeugen gerade einen Effekt, den noch niemand einordnen kann. Anthropic hat bei Claude ein statistisches Wasserzeichen implementiert, weil der AI Act die Anbieter dazu verpflichtet. An euren Kennzeichnungspflichten ändert das nichts, an der Aussagekraft von Labels recht viel: Wenn am Ende jeder Text als KI-generiert erkennbar ist, erübrigt sich diese Information etwas.

Unser Fazit

Der AI Act verlangt von Marketing-Teams weniger, als die Schlagzeilen nahelegen, und mehr Systematik, als die meisten heute haben. „Fotorealistisch“ und „KI-generiert“ heißt: am besten kennzeichnen, auch im Zweifel. Texte mit menschlicher Redaktion brauchen kein Label, die Redaktion muss aber wirklich stattfinden und nachvollziehbar sein.

Ein Praxistipp – Sortiert euren Content einmal in drei Stapeln: unkritisch, kennzeichnungspflichtig, Graubereich. Ist der dritte Stapel groß, holt euch am besten rechtlichen Rat.

Häufige Fragen

Muss ich KI-generierte Website-Texte kennzeichnen?

In aller Regel nicht. Die Pflicht greift nur bei veröffentlichten Texten zu Themen von öffentlichem Interesse und entfällt, sobald ein Mensch den Text inhaltlich prüft und die redaktionelle Verantwortung trägt. Ein Text, der unter eurem Unternehmensnamen erscheint und vor der Veröffentlichung gelesen wurde, erfüllt beides.

Was gilt als Deepfake nach dem EU AI Act?

Jeder KI-erzeugte oder KI-manipulierte Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen könnte. Die abgebildete Sache muss nicht existieren, sie muss nur plausibel existieren können. Ein fotorealistisch generierter Alltagsgegenstand fällt darunter.

Seit wann gelten die Transparenzpflichten des AI Act?

Seit dem 2. August 2026. Der AI Act wirkt nicht rückwirkend, ältere Inhalte müssen also nicht nachträglich gekennzeichnet werden. Die Verpflichtung zur KI-Kompetenz gilt bereits seit Februar 2025. In Deutschland regelt seit Juli 2026 das KI-MIG die Durchführung, zuständig ist die Bundesnetzagentur.

Wie muss ein KI-Label aussehen?

Das Gesetz macht keine Gestaltungsvorgaben, außer dass die Kennzeichnung deutlich und klar sichtbar sein muss. Eigene Labels sind erlaubt, die EU-Icons sind keine Pflicht, eine bestimmte Sprache auch nicht. Die Formulierung aber muss eindeutig erkennen lassen, dass der Inhalt KI-generiert oder KI-manipuliert ist.

Wie weise ich nach, dass ein KI-Text redaktionell geprüft wurde?

Am besten über den Prozess, nicht über das einzelne Dokument. Ein dokumentierter Freigabeschritt reicht: ein Vier-Augen-Check mit Vermerk im Redaktionstool, ein eigenes Feld für die KI-Prüfung oder die Bearbeitungshistorie im CMS. Wichtig ist, dass erkennbar bleibt, wer wann die Inhalte abgenommen hat.