Müssen alle KI-Inhalte gekennzeichnet werden?
Was Unternehmen zur Transparenzpflicht nach dem AI Act wirklich wissen müssen
Müssen alle mit ChatGPT erstellten Texte einen Hinweis tragen? Müssen Marketingbeiträge, Blogartikel oder Social-Media-Posts generell als KI-generiert gekennzeichnet werden? Das sorgt in vielen Unternehmen für Unsicherheit.
Die kurze Antwort lautet: Nein. Der AI Act führt keine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Inhalte ein. Vielmehr gelten Transparenzpflichten nur für bestimmte Anwendungsfälle nach Artikel 50 der KI-Verordnung.
Worum geht es bei den Transparenzpflichten?
Ziel der Regelungen ist es, Menschen vor Täuschungen zu schützen. Daher verlangt der AI Act in bestimmten Situationen Transparenz darüber, dass Inhalte durch künstliche Intelligenz erzeugt oder verändert wurden oder dass Nutzer mit einem KI-System interagieren. Betroffen sind insbesondere Anwendungen, bei denen ein erhöhtes Risiko besteht, dass Menschen den künstlichen Ursprung eines Inhalts oder einer Interaktion nicht erkennen.
Besonders relevant sind dabei sogenannte Deep Fakes. Darunter versteht der AI Act KI-generierte oder mithilfe von KI manipulierte Bild-, Audio- oder Videoinhalte, die echten Personen, Gegenständen, Orten oder Ereignissen täuschend ähnlich sehen und dadurch den Eindruck erwecken können, authentisch zu sein.
In der Praxis ist die Abgrenzung jedoch nicht immer eindeutig. Moderne KI-Systeme werden heute nicht nur zur vollständigen Erstellung neuer Inhalte eingesetzt, sondern auch zur Unterstützung alltäglicher Bearbeitungsfunktionen. Etwa beim Entfernen störender Objekte, beim Schärfen von Bildern oder beim Austausch einzelner Bildbestandteile. Dadurch stellt sich die Frage, ab wann eine zulässige KI-gestützte Bearbeitung in einen kennzeichnungspflichtigen Deep Fake übergeht.
Nicht jeder KI-generierte Text muss gekennzeichnet werden
In deIn der öffentlichen Diskussion entsteht derzeit häufig der Eindruck, jeder mit ChatGPT oder einem anderen KI-System erstellte Text müsse entsprechend gekennzeichnet werden.
So pauschal ist das jedoch nicht. Wer beispielsweise einen Blogbeitrag oder einen Fachartikel mithilfe von KI erstellt, diesen anschließend sorgfältig prüft, überarbeitet und die inhaltliche Verantwortung übernimmt, unterliegt nicht automatisch einer Kennzeichnungspflicht. Entscheidend ist immer der konkrete Anwendungsfall und die jeweiligen Transparenzvorgaben des AI Acts.
Bei Bildern und Videos kommt es auf den konkreten Einsatz an
Moderne Smartphones und Bildbearbeitungsprogramme nutzen KI, um Fotos zu optimieren, Hintergründe zu verändern oder störende Objekte zu entfernen. Daraus folgt nicht automatisch, dass jedes bearbeitete Bild als Deepfake offengelegt werden muss.
Entscheidend ist, ob ein Bild-, Audio- oder Videoinhalt in einer Weise künstlich erzeugt oder manipuliert wird, dass er authentisch erscheinen kann. Gerade bei Mischformen aus gewöhnlicher Bildbearbeitung und generativer Veränderung können Abgrenzungsfragen entstehen.
Auch bei Chatbots, KI-Avataren und anderen direkten KI-Interaktionen sind die jeweiligen Transparenzpflichten gesondert zu prüfen.
Co firmy powinny teraz sprawdzić
Nicht jeder Einsatz generativer KI muss angepasst werden. Unternehmen sollten jedoch erfassen, welche Systeme sie einsetzen, wo Inhalte automatisch erzeugt oder verändert werden und welche Pflichten nach Artikel 50 für die jeweilige Rolle und Nutzung gelten.
Zusätzliche Orientierung bieten die im Juli 2026 veröffentlichten Leitlinien der Europäischen Kommission zu Artikel 50 KI-VO sowie der freiwillige Verhaltenskodex zur Transparenz KI-generierter Inhalte. Der Kodex konkretisiert praktische Maßnahmen zur technischen Kennzeichnung und Offenlegung. Seine Anwendung ist freiwillig; die gesetzlichen Transparenzpflichten bleiben unabhängig davon verbindlich.
Transparenz ist nur ein Baustein der KI-Compliance
Die Kennzeichnungspflichten sind nur ein Teil der Anforderungen des AI Acts. Ebenso wichtig sind beispielsweise die KI-Kompetenz der Mitarbeitenden, klare interne Regelungen zum Einsatz generativer KI sowie eine funktionierende KI-Governance.
Unternehmen sollten den AI Act deshalb nicht auf die Frage reduzieren, ob ein Hinweis unter einem KI-generierten Bild oder Text erforderlich ist. Vielmehr geht es darum, den Einsatz künstlicher Intelligenz insgesamt verantwortungsvoll und rechtskonform zu gestalten.
Podsumowanie
Der AI Act verlangt keine pauschale Kennzeichnung sämtlicher KI-generierter Inhalte. Maßgeblich sind der konkrete Anwendungsfall und die jeweils einschlägigen Pflichten aus Artikel 50.
Unternehmen sollten ihre KI-Anwendungen kennen, Verantwortlichkeiten festlegen und die weitere Konkretisierung der Anforderungen im Blick behalten. So lässt sich Transparenz dort herstellen, wo sie tatsächlich erforderlich ist.
FAQ
Müssen alle KI-generierten Inhalte gekennzeichnet werden?
Nein. Artikel 50 des AI Acts sieht keine pauschale Kennzeichnungspflicht für sämtliche KI-Inhalte vor. Entscheidend sind die Art des Inhalts, die Rolle des Unternehmens und der konkrete Einsatz. Quelle: Art. 50 KI-VO
Muss ein mit ChatGPT erstellter Blogartikel gekennzeichnet werden?
Nicht automatisch. Eine Offenlegungspflicht nach Artikel 50 Absatz 4 KI-VO kann bestehen, wenn KI-generierte oder KI-manipulierte Texte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Die Pflicht entfällt insbesondere dann, wenn eine inhaltliche menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Eine rein formale Kontrolle, etwa auf Rechtschreibung, genügt hierfür nicht. Quelle: Europäische Kommission – Leitlinien zu Art. 50
Was gilt für KI-generierte Bilder und Videos?
Bei Deepfakes bestehen besondere Offenlegungspflichten. Für andere synthetische Inhalte können technische Kennzeichnungspflichten des KI-Anbieters gelten. Quelle: Art. 50 Abs. 2 und 4 KI-VO
Müssen Unternehmen ihre Chatbots als KI kennzeichnen?
Bei KI-Systemen, die unmittelbar mit Menschen interagieren, müssen Anbieter grundsätzlich sicherstellen, dass die betroffenen Personen über die KI-Interaktion informiert werden. Eine Ausnahme gilt, wenn die Interaktion mit einem KI-System offensichtlich ist. Unternehmen, die solche Systeme einsetzen, sollten prüfen, ob die erforderlichen Hinweise tatsächlich bereitgestellt werden. Quelle: Art. 50 Abs. 1 KI-VO
Ist jede KI-gestützte Bildbearbeitung ein Deepfake?
Nein. Ob ein Deepfake vorliegt, hängt insbesondere davon ab, ob ein KI-generierter oder manipulierter Inhalt authentisch wirken kann. Die Abgrenzung bei alltäglichen Bearbeitungsfunktionen kann schwierig sein. Quelle: Europäische Kommission – Leitlinien zu Art. 50
Was sollten Unternehmen seit dem 2. August 2026 prüfen?
Sie sollten eingesetzte KI-Systeme und ihre Anwendungsfälle erfassen, die einschlägigen Pflichten aus Artikel 50 zuordnen und Verantwortlichkeiten sowie Kennzeichnungsprozesse festlegen. Quelle: Europäische Kommission – Transparenzpflichten
