Kennzeichnungspflicht von KI-Inhalten: Was Unternehmen jetzt wissen müssen
Künstliche Intelligenz verändert die Erstellung digitaler Inhalte grundlegend. Texte entstehen mithilfe von Sprachmodellen, Produktbilder werden künstlich generiert, Stimmen lassen sich täuschend echt nachbilden und Videos können Personen bei Ereignissen zeigen, die niemals stattgefunden haben. Damit Nutzerinnen und Nutzer solche Inhalte besser einordnen können, führt der europäische AI Act konkrete Transparenzpflichten ein. Die entsprechenden Regelungen aus Artikel 50 gelten ab dem 2. August 2026. Sie betreffen unter anderem generative KI-Systeme, Chatbots, Deepfakes und bestimmte automatisch erzeugte Texte.
Dabei gilt jedoch ein wichtiger Grundsatz: Nicht jeder Inhalt, bei dessen Erstellung KI eingesetzt wurde, muss automatisch sichtbar als KI-Inhalt gekennzeichnet werden.
Gibt es eine allgemeine Kennzeichnungspflicht für alle KI-Inhalte?
Eine pauschale Pflicht, jeden mit Künstlicher Intelligenz erstellten Satz oder jedes mithilfe einer Bild-KI bearbeitete Foto sichtbar zu kennzeichnen, enthält der AI Act nicht. Stattdessen unterscheidet die Verordnung zwischen den Pflichten der Anbieter eines KI-Systems und den Pflichten der Unternehmen, Organisationen oder Personen, die das System einsetzen und die erzeugten Inhalte veröffentlichen.
Pflichten der Anbieter von KI-Systemen
Anbieter generativer KI-Systeme müssen ihre Systeme grundsätzlich so gestalten, dass künstlich erzeugte oder manipulierte Texte, Bilder, Audioinhalte und Videos in einem maschinenlesbaren Format gekennzeichnet und als KI-Inhalte erkennbar sind. Die eingesetzten technischen Verfahren sollen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch möglich ist. Ausnahmen können insbesondere für Systeme gelten, die lediglich unterstützende Standardbearbeitungen durchführen oder Inhalte nicht wesentlich verändern. Dabei kann es sich beispielsweise um Metadaten, digitale Herkunftsinformationen oder technische Wasserzeichen handeln. Eine solche maschinenlesbare Markierung ist nicht zwingend mit einem sichtbaren Hinweis im Bild oder Text gleichzusetzen.
Pflichten der Betreiber und Anwender
Wer ein KI-System einsetzt und dessen Ergebnisse veröffentlicht, muss vor allem in bestimmten sensiblen Fällen eine für Menschen erkennbare Kennzeichnung vornehmen.
Dies betrifft insbesondere:
- Deepfakes in Form von Bild-, Audio- oder Videoinhalten,
- bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse,
- KI-Systeme zur direkten Interaktion mit Menschen,
- Systeme zur Emotionserkennung oder biometrischen Kategorisierung.
Welche Verpflichtung konkret besteht, hängt somit von der Art des Inhalts, dem Einsatzgebiet und der redaktionellen Bearbeitung ab.
Wann müssen Deepfakes gekennzeichnet werden?
Ein Deepfake ist ein künstlich erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der existierende Personen, Gegenstände, Orte, Organisationen oder Ereignisse darstellt und dabei fälschlicherweise authentisch oder wahr wirken kann.
Typische Beispiele sind:
- eine künstlich erzeugte Videoaufnahme eines Politikers,
- die nachgebildete Stimme einer realen Führungskraft,
- ein manipuliertes Foto eines tatsächlich existierenden Gebäudes,
- ein Video eines Ereignisses, das in dieser Form nie stattgefunden hat.
Wer solche Inhalte mithilfe eines KI-Systems erstellt oder verändert und anschließend veröffentlicht, muss grundsätzlich offenlegen, dass das Material künstlich erzeugt oder manipuliert wurde. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken gelten erleichterte Anforderungen. Der Hinweis muss dann in einer geeigneten Form erfolgen, darf aber die Darstellung oder den Genuss des Werkes nicht unangemessen beeinträchtigen.
Müssen KI-generierte Blogartikel und Texte gekennzeichnet werden?
Bei Texten ist die Rechtslage differenzierter. Eine besondere Offenlegungspflicht besteht für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Ein Beispiel wäre ein vollständig automatisch erzeugter und ohne Prüfung veröffentlichter Nachrichtenbeitrag über eine Wahl, eine politische Entscheidung oder ein gesellschaftlich relevantes Ereignis.
Die Kennzeichnungspflicht greift jedoch nicht, wenn der Text:
1. durch einen Menschen überprüft oder redaktionell kontrolliert wurde und
2. eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Ein mithilfe von KI vorbereiteter Blogartikel muss daher nicht allein deshalb gekennzeichnet werden, weil einzelne Formulierungen, Gliederungen oder Entwürfe von einem KI-System stammen. Entscheidend sind der Inhalt, der Veröffentlichungszweck und die tatsächliche redaktionelle Kontrolle. Unternehmen sollten dennoch dokumentieren, wer einen Inhalt geprüft, freigegeben und veröffentlicht hat. Dies erleichtert nicht nur die rechtliche Bewertung, sondern verbessert auch die interne Qualitätssicherung.
Müssen KI-generierte Produktbilder gekennzeichnet werden?
Auch bei Produkt- und Werbebildern kommt es auf die konkrete Darstellung an. Ein vollständig künstlich erzeugtes Symbolbild fällt nicht automatisch unter die sichtbare Deepfake-Kennzeichnungspflicht. Wird jedoch ein reales Produkt, ein bestehender Ort oder eine tatsächlich existierende Person so dargestellt, dass das Ergebnis authentisch wirkt, obwohl es künstlich erzeugt oder wesentlich verändert wurde, kann eine Kennzeichnung erforderlich sein. Unabhängig vom AI Act gelten bestehende Vorschriften des Wettbewerbs-, Verbraucher- und Werberechts weiter. Die KI-Verordnung ersetzt diese Regelungen nicht. Unternehmen dürfen deshalb beispielsweise keine Produkteigenschaften, Referenzen oder Nutzungssituationen vortäuschen, die Verbraucherinnen und Verbraucher in die Irre führen könnten. Die Bundesnetzagentur weist ausdrücklich darauf hin, dass weitere Transparenzpflichten nach europäischem und nationalem Recht bestehen bleiben.
Wie sollte die Kennzeichnung aussehen?
Der Hinweis muss klar, wahrnehmbar und verständlich sein. Er sollte spätestens zu dem Zeitpunkt erkennbar werden, an dem eine Person erstmals mit dem Inhalt konfrontiert wird.
Mögliche Formulierungen sind:
- „Dieser Inhalt wurde mit künstlicher Intelligenz erstellt.“
- „Dieses Bild wurde vollständig durch KI generiert.“
- „Dieses Foto wurde teilweise mithilfe von KI verändert.“
- „Stimme und Bild wurden künstlich erzeugt.“
- „Dieser Text wurde automatisiert erstellt und nicht redaktionell geprüft.“
Bei einem Bild kann der Hinweis direkt im Bild, unmittelbar in der Bildunterschrift oder über eine deutlich erkennbare Benutzeroberfläche eingebunden werden. Bei Videos bietet sich ein Hinweis zu Beginn sowie in der Beschreibung an. Audioinhalte können durch eine Ansage oder einen eindeutig zugeordneten schriftlichen Hinweis gekennzeichnet werden. Die EU stellt inzwischen eigene Symbole für vollständig KI-generierte und teilweise KI-veränderte Inhalte zur Verfügung. Die Verwendung dieser Symbole ist freiwillig. Die gesetzliche Kennzeichnungspflicht selbst ist dagegen verbindlich, sofern der jeweilige Anwendungsfall unter Artikel 50 fällt.
Anforderungen an eine barrierefreie Kennzeichnung
Eine Kennzeichnung sollte nicht ausschließlich über ein kleines Symbol oder eine bestimmte Farbe erfolgen. Empfehlenswert ist die Kombination aus Symbol und verständlichem Text.
Die Europäische Kommission empfiehlt unter anderem:
- eine ausreichend große und gut sichtbare Darstellung,
- eine einfache und verständliche Sprache,
- Alternativtexte oder ARIA-Beschriftungen für assistive Technologien,
- eine ausreichend lange Einblendungsdauer bei Videos,
- eine technisch zugängliche Gestaltung zusätzlicher Informationen.
Der Hinweis sollte nach Möglichkeit auch erhalten bleiben, wenn der Inhalt heruntergeladen oder auf einer anderen Plattform weiterverbreitet wird.
Kennzeichnung von Chatbots und KI-Assistenten
Transparenzpflichten betreffen nicht nur veröffentlichte Medieninhalte. Anbieter von KI-Systemen, die direkt mit Menschen kommunizieren, müssen die Systeme so gestalten, dass Nutzerinnen und Nutzer darüber informiert werden, dass sie mit einer KI interagieren.
Eine Ausnahme kann bestehen, wenn dies aus dem Kontext offensichtlich ist. Auf einer Website sollte dennoch möglichst früh ein eindeutiger Hinweis erfolgen, beispielsweise:
„Sie kommunizieren mit einem KI-gestützten Assistenten. Antworten können automatisiert erstellt werden.“
Der Hinweis sollte sichtbar sein, bevor die eigentliche Interaktion beginnt oder spätestens mit der ersten Antwort erscheinen.
Praktische Checkliste für Unternehmen
Unternehmen sollten ihre Prozesse zur Content-Erstellung jetzt überprüfen:
1. KI-Anwendungen erfassen: Welche Tools werden für Texte, Bilder, Audio, Videos oder Kundenkommunikation eingesetzt?
2. Verantwortlichkeiten festlegen: Wer kontrolliert und genehmigt KI-generierte Inhalte?
3. Deepfakes identifizieren: Werden reale Personen, Orte, Produkte oder Ereignisse künstlich dargestellt?
4. Redaktionelle Kontrolle dokumentieren: Werden Texte vor ihrer Veröffentlichung fachlich und inhaltlich geprüft?
5. Kennzeichnungen definieren: Welche Formulierungen und Symbole werden auf Website, Social Media und in Videos verwendet?
6. Metadaten erhalten: Werden technische Herkunftskennzeichnungen beim Export oder Upload entfernt?
7. Mitarbeitende schulen: Kennen Marketing, Redaktion und Social-Media-Team die relevanten Anforderungen?
8. Freigabeprozesse einführen: Besonders sensible Inhalte sollten vor der Veröffentlichung rechtlich oder redaktionell geprüft werden. Eine interne KI-Richtlinie kann festlegen, welche Anwendungen erlaubt sind, wann eine menschliche Kontrolle erforderlich ist und in welchen Fällen Inhalte sichtbar gekennzeichnet werden müssen.
Welche Sanktionen drohen?
Der AI Act sieht für Verstöße gegen zahlreiche sonstige Pflichten der Verordnung Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vor. Bei kleinen und mittleren Unternehmen ist grundsätzlich der niedrigere der jeweils vorgesehenen Höchstbeträge maßgeblich. Die tatsächliche Sanktion hängt jedoch vom Einzelfall, der Schwere des Verstoßes und der zuständigen Aufsichtsbehörde ab.
Neben möglichen Bußgeldern bestehen weitere Risiken: Eine fehlende oder irreführende Kennzeichnung kann das Vertrauen in eine Marke beschädigen, Beschwerden auslösen und zu wettbewerbsrechtlichen Auseinandersetzungen führen.
Fazit:
Nicht jede KI-Nutzung muss gekennzeichnet werden
Die Kennzeichnungspflicht für KI-Inhalte ist differenzierter, als es viele vereinfachte Aussagen vermuten lassen. Es besteht keine allgemeine Verpflichtung, jeden KI-unterstützten Text oder jedes bearbeitete Bild mit einem sichtbaren KI-Hinweis zu versehen. Besonders relevant sind jedoch Deepfakes, ungeprüfte KI-Texte zu Angelegenheiten von öffentlichem Interesse und Systeme, die unmittelbar mit Menschen interagieren. Unternehmen sollten deshalb nicht erst bei der Veröffentlichung über eine Kennzeichnung nachdenken, sondern bereits bei der Auswahl der KI-Systeme und der Gestaltung ihrer redaktionellen Prozesse. Transparenz sollte dabei nicht ausschließlich als gesetzliche Pflicht betrachtet werden. Eine klare Kommunikation über den Einsatz künstlicher Intelligenz stärkt die Glaubwürdigkeit und hilft Nutzerinnen und Nutzern, digitale Inhalte angemessen einzuordnen.
Hinweis: Dieser Beitrag bietet eine allgemeine Übersicht und ersetzt keine rechtliche Beratung. Die konkrete Kennzeichnungspflicht sollte anhand des jeweiligen Inhalts und Einsatzszenarios geprüft werden.
Stand: 31. Juli 2026, Forward Marketing eGbR
