AI zmienia zdjęcia – ale czy trzeba to oznaczać?
Dwie ustawy – dwa różne pytania
To, czy zdjęcie zostało przetworzone przy użyciu sztucznej inteligencji, nie jest samo w sobie kwestią ochrony danych.
RODO dotyczy tego,
AI Act ma natomiast inny cel.
Chodzi w nim o zapewnienie przejrzystości przy stosowaniu sztucznej inteligencji. W określonych sytuacjach odbiorcy mają móc rozpoznać, że treści zostały wygenerowane lub istotnie zmienione za pomocą systemu AI.
Dlatego nie wystarczy analizować wyłącznie RODO albo wyłącznie AI Act.
Kiedy obowiązuje wymóg przejrzystości z art. 50 AI Act?
Art. 50 AI Act unterscheidet zwischen den Transparenzpflichten der Anbieter und der Betreiber von KI-Systemen. Anbieter bestimmter generativer KI-Systeme müssen dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar gekennzeichnet und als solche erkennbar sind.
Für Unternehmen, die solche Systeme einsetzen, ist insbesondere Art. 50 Abs. 4 AI Act relevant. Danach müssen Betreiber offenlegen, wenn sie mithilfe eines KI-Systems Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die als sogenannte Deepfakes einzustufen sind.
Ein Deepfake liegt vor, wenn künstlich erzeugte oder manipulierte Inhalte wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und fälschlicherweise als echt oder wahrheitsgemäß wahrgenommen werden könnten.
Nicht jede KI-gestützte Bildbearbeitung führt daher automatisch zu einer Offenlegungspflicht. Entscheidend sind die konkrete Veränderung, die Wirkung auf die Betrachter und die Frage, ob der Inhalt als Deepfake im Sinne der KI-Verordnung einzustufen ist.
Czym właściwie jest istotna zmiana?
Właśnie tu pojawia się obecnie najwięcej nieporozumień.
Nie każda obróbka zdjęcia jest automatycznie manipulacją przy użyciu AI w rozumieniu AI Act.
Typowymi przykładami obróbki, która z reguły nie stanowi istotnej zmiany, są np.:
Inaczej jest na przykład wtedy, gdy
Ausschlaggebend für die Offenlegungspflicht des Betreibers ist nicht allein, wie umfangreich ein Bild mithilfe künstlicher Intelligenz verändert wurde. Entscheidend ist vielmehr, ob durch die Bearbeitung ein Inhalt entsteht, der wirklichen Personen, Gegenständen, Orten oder Ereignissen merklich ähnelt und fälschlicherweise als authentisch wahrgenommen werden könnte.
Auch kleinere Veränderungen können deshalb rechtlich relevant sein, wenn sie einen täuschenden Eindruck erzeugen. Umgekehrt führt nicht jede umfangreiche KI-Bearbeitung automatisch zu einer Offenlegungspflicht nach Art. 50 Abs. 4 AI Act.
Nasz przykład z praktyki z poprzedniego artykułu
Pracownik cofa zgodę na publikację zdjęcia grupowego. Firma postanawia nie usuwać całego zdjęcia, lecz usunąć z niego tę osobę za pomocą edytora zdjęć opartego na AI.
Aus Sicht der DSGVO ist zunächst zu prüfen, ob die betroffene Person auf dem bearbeiteten Foto weiterhin identifizierbar ist. Wird sie vollständig entfernt und ist auch anhand weiterer verfügbarer Informationen keine Identifizierung mehr möglich, kann das bearbeitete Bild insoweit keinen Personenbezug mehr aufweisen. Die Verarbeitung des ursprünglichen Fotos und etwaige weiterhin gespeicherte personenbezogene Daten sind jedoch gesondert zu beurteilen.
Damit ist die Prüfung jedoch nicht zwangsläufig abgeschlossen. Denn unabhängig davon stellt sich eine zweite Frage: Führt die KI-Bearbeitung zu einer Transparenzpflicht nach Art. 50 AI Act?
Wird beispielsweise ein Beschäftigter mithilfe künstlicher Intelligenz aus einem Gruppenfoto entfernt, ist zu prüfen, ob das bearbeitete Bild als Deepfake im Sinne des AI Act einzustufen ist. Eine Kennzeichnungspflicht besteht nicht allein deshalb, weil eine Person entfernt wurde. Erweckt das bearbeitete Foto jedoch einen falschen Eindruck über eine tatsächlich stattgefundene Situation, kann eine Offenlegungspflicht nach Art. 50 Abs. 4 AI Act bestehen.
Usunięcie jednej osoby nie oznacza automatycznie, że wymowa zdjęcia istotnie się zmienia. Inaczej może być, jeśli obróbka nadaje zdjęciu nową treść lub zmienia jego ogólny wydźwięk – na przykład gdy dodaje się lub podmienia osoby, zmienia całe sceny albo generuje zupełnie nowe treści obrazu. W takich przypadkach należy starannie sprawdzić, czy zastosowanie ma obowiązek przejrzystości z art. 50 AI Act.
Kiedy trzeba oznaczać?
Firmy powinny w szczególności sprawdzić,
Praktyczna zasada brzmi: im mocniej AI zmienia treść zdjęcia i im bardziej realistycznie wygląda efekt, tym dokładniej należy sprawdzić, czy istnieje obowiązek przejrzystości z art. 50 AI Act. Czysto techniczne poprawki, takie jak korekta jasności czy kolorów, z reguły ocenia się inaczej niż usuwanie lub podmienianie osób albo generowanie zupełnie nowych treści obrazu.
RODO i AI Act – porównanie
Uwaga: Ten schemat powstał przy wsparciu sztucznej inteligencji, a następnie został merytorycznie sprawdzony i poprawiony przez naszych ekspertów ds. ochrony danych i AI.
Schemat służy wstępnej orientacji i nie zastępuje indywidualnej oceny prawnej. Szczególnie w przypadku działań marketingowych lub publikacji skierowanych do szerokiego grona odbiorców zalecamy staranną ocenę konkretnej obróbki zdjęcia.
Co firmy powinny teraz sprawdzić
Z naszej praktyki doradczej wynika, że warto w szczególności
Ponieważ funkcje obróbki zdjęć oparte na AI są dziś wbudowane w wiele standardowych programów, takie zmiany często wprowadza się bez należytego uwzględnienia ich skutków prawnych.
Die Transparenzpflichten nach Art. 50 AI Act gelten seit dem 2. August 2026. Unternehmen sollten daher bestehende Prozesse zur KI-gestützten Bildbearbeitung überprüfen und erforderliche Offenlegungen bei der Veröffentlichung entsprechender Inhalte berücksichtigen.
Podsumowanie
Wbudowanie obróbki zdjęć opartej na AI w popularne oprogramowanie ułatwia firmom wiele procesów. Jednocześnie rodzi to jednak nowe pytania z zakresu ochrony danych i regulacji, które często są niedoceniane.
W skrócie: RODO odpowiada na pytanie, czy dane osobowe wolno przetwarzać. AI Act odpowiada na pytanie, czy wykorzystanie sztucznej inteligencji trzeba ujawnić wobec osób trzecich.
Z naszego doświadczenia wynika, że te dwie analizy są często ze sobą mieszane. Kto wyraźnie oddzieli oba obszary regulacji i odpowiednio wcześnie uwzględni wynikające z nich wymogi w istniejących procesach, zyska większą pewność prawną i ograniczy ryzyko późniejszych poprawek.
FAQ
Czy zdjęcia poddane obróbce przez AI zawsze trzeba oznaczać?
Nein. Eine allgemeine sichtbare Kennzeichnungspflicht für sämtliche KI-generierten Bilder besteht nach Art. 50 AI Act nicht. Unternehmen müssen insbesondere offenlegen, wenn sie KI-generierte oder manipulierte Bildinhalte verwenden, die als Deepfakes einzustufen sind. Davon zu unterscheiden sind die technischen Kennzeichnungspflichten für Anbieter bestimmter KI-Systeme.
Czym różni się RODO od AI Act w przypadku zdjęć poddanych obróbce przez AI?
RODO reguluje przede wszystkim to, czy przetwarzane są dane osobowe, czy istnieje do tego podstawa prawna i jakie prawa przysługują osobom, których dane dotyczą. AI Act ma natomiast zapewnić przejrzystość przy stosowaniu sztucznej inteligencji. Oba obszary regulacji trzeba więc analizować oddzielnie.
Jakie rodzaje obróbki zdjęć z reguły nie są uznawane za istotną zmianę?
Reine technische Optimierungen wie Anpassungen von Helligkeit, Kontrast oder Farben, das Entfernen von Bildrauschen sowie kleinere Retuschen führen regelmäßig nicht zu einer Offenlegungspflicht nach Art. 50 Abs. 4 AI Act. Entscheidend ist jedoch nicht allein der Umfang der Veränderung, sondern ob durch die KI-Bearbeitung ein Deepfake entsteht, der fälschlicherweise als authentisch wahrgenommen werden könnte.
Kiedy obróbka zdjęcia przez AI może stanowić istotną zmianę?
Eine KI-Bildbearbeitung kann insbesondere dann rechtlich relevant sein, wenn Personen entfernt oder ergänzt, Gesichter ausgetauscht, Hintergründe vollständig ersetzt oder realistische Bildinhalte neu erzeugt werden. Eine Offenlegungspflicht nach Art. 50 Abs. 4 AI Act kommt insbesondere dann in Betracht, wenn dadurch ein Deepfake entsteht, der fälschlicherweise als authentisch wahrgenommen werden könnte.
Czy zdjęcie grupowe trzeba oznaczyć, jeśli usunięto z niego osobę za pomocą AI?
Nicht automatisch. Wird eine Person mithilfe künstlicher Intelligenz aus einem Gruppenfoto entfernt, ist zu prüfen, ob dadurch ein Deepfake im Sinne des AI Act entsteht. Eine Offenlegungspflicht kann insbesondere bestehen, wenn das bearbeitete Bild einen falschen Eindruck über eine tatsächlich stattgefundene Situation vermittelt. Entscheidend ist die mögliche Täuschung über die Authentizität des Bildinhalts.
Na co firmy powinny zwrócić uwagę od strony organizacyjnej, korzystając z obróbki zdjęć przez AI?
Firmy powinny oceniać ochronę danych i AI Act oddzielnie, dokumentować obróbkę zdjęć przez AI, sprawdzać, czy osoby pozostają identyfikowalne, oraz wprowadzić wiążące procedury zatwierdzania i jasno określić, kto odpowiada za ewentualne obowiązki oznaczania.
