Niebezpieczne dla każdego Kowalskiego czy Lewandowskiego ale w rękach szaleńców mogłyby zdestabilizować demokracje – wg The Guardianprawda umiera tam gdzie deepfake[1], wg The Timesdeepfake zagraża porządkowi świata”[2] Czy te obawy są uzasadnione będzie zależało od jakości deepfake-ów, sposobu ich wykorzystania w praktyce oraz zdolność opinii publicznej do odróżniania faktów od fikcji.

Ostatnio w Polsce, przy okazji wyborów prezydenckich, pojawiły się spekulacje na temat prawdziwości wystąpień niektórych osób publicznych. O prawnych ocenach “deepfake”, komputerowej zamiany i rekonstrukcji twarzy, manipulowania wizerunkiem i głosem w tak tworzonych filmach, rozmawialiśmy przy kancelaryjnym stole.

 

Naszym zdaniem…

Małgorzata Gradek Lewandowska: Wygląda na to, że świat przechodzi do kolejnej fazy „twórczości” w ramach cyberkultury. Po obróbkach obrazów za pomocą Photoshopa w wielu przypadkach przybierających formę mema, kolej na film. Wiemy, że zdjęcie może być świetnie podretuszowane i zmontowane, a nagranie w formie wideo może zostać przedstawione jedynie we fragmencie z odpowiednim komentarzem, tak, aby zmienić jego przekaz. Co jednak w przypadku, gdy otrzymujemy pełen obraz, np. wypowiedź polityka, który podczas konferencji prasowej wygłasza swoje przemówienie. Jest spójne, nie zawiera żadnych podejrzanych pauz, cięć, nienaturalnych przejść…i ten film udostępniany jest z komentarzami w social mediach. Czy nadal możemy mieć pewność, że to co widzimy i słyszymy ma miejsce w rzeczywistości? Przy czym treść wypowiedzi może mieć poważny charakter, nie wskazywać na żart.

Definicję „deepfake” zaproponował pod koniec 2018 roku republikański senator Ben Sasse z Nebraski w ramach ustawy znanej jako “Malicious Deep Fake Prohibition Act of 2018”[3], jako „nagranie audiowizualne stworzone lub zmienione w taki sposób, że nagranie mogłoby fałszywie wydawać się rozsądnemu obserwatorowi autentycznym zapisem rzeczywistego przemówienia lub zachowania danej osoby”. W takiej definicji podkreślony jest dezinformujący, wprowadzający w błąd charakter przekazu.

Czy zatem na tym polega problem z filmami tworzonymi w ten sposób? Na wprowadzeniu w błąd? Jak deepfake można ocenić czy zaklasyfikować z naszej prawniczej perspektywy?

 

Anna Dębska: Trzeba zacząć od początku. Deepfake to technika syntezy ludzkiego obrazu oparta na sztucznej inteligencji. Rozwijając to hasło, deepfake to zbitka wyrazowa pochodząca od słów z języka angielskiego deep learning, czyli głębokie uczenie oraz fake, czyli fałszywy, imitacja. Technologia bazuje na możliwości łączenia i nakładania na wyjściowe, źródłowe obrazy kolejnych obrazów. A precyzyjniej: jest to wykorzystanie sztucznej inteligencji używanej do tworzenia lub modyfikowania obrazu odwzorowanej twarzy, do tworzenia ultra-realistycznych fałszywych filmów, w których ludzie mówią i robią rzeczy, w rzeczywistości nie mające miejsca.[4] Do tej pory rozróżniamy cztery rodzaje deepfake-ów:

  1. face reenactmentz ang. face – twarz, reenactment – przywrócenie, rekonstrukcja – sterowanie mimiką danej osoby (przykładem film Hillary Clinton’s face is digitally ‘stitched’ onto Saturday Night Live actress Kate McKinnon, źródło: Derpfakes)
  2. faceswapz ang. face – twarz, swap – zamiana, dosłownie zamiana twarzy jednej osoby na twarz innej osoby (przykładem film źródło: The Visual Computing Lab at TUM)
  3. face generation – polega na tworzeniu zupełnie nowych obrazów twarzy nie istniejących w rzeczywistości, Generative Adversarial Networks jest platformą uczenia maszynowego, która działa poprzez przeciwstawienie sobie dwóch sieci neuronowych: pierwsza generuje obraz, a druga ocenia czy ten wynik jest realistyczny (przykłady na ThisPersonDoesNotExist.com – jest to popularna witryna internetowa, która za każdym razem generuje nową twarz osoby, która faktycznie nie istnieje)
  4. speech synthesis – synteza mowy polega na stworzeniu modelu czyjegoś głosu, który może odczytać tekst w taki sam sposób, jak osoba docelowa (przykładem narzędzie Modulate.ai)

Czyli podsumowując: deepfake to zespół algorytmów składający się na program komputerowy służący do wizualnych przeróbek głosu i twarzy.

 

Anna Maślanka: Pojawienie się w 2017 r. deepfake nie powinno być zaskoczeniem. Skoro tworzone są oprogramowania, które nie wymagają wielu danych, aby program mógł „nauczyć się” mimiki czy sposobu poruszania osoby (do tego w zupełności wystarczą dwa pliki: docelowy, do którego chcemy wprowadzić zmiany i drugi, od którego chcemy pozyskać ruch). Jednocześnie istnieją również technologie, które po kilkusekundowej próbce głosu danej osoby mogą odczytywać dowolny tekst głosem tej osoby. Ostatni element, czyli dopasowanie ruchu ust pod daną ścieżkę audio również nie stanowi problemu. Możliwe zatem stało się stworzenie filmu, w którym dana osoba będzie mówiła to co chcemy, a czego nigdy nie wypowiedziała naprawdę. Znanym przykładem[5] jest film wykorzystujący wizerunek Baracka Obamy.

 

MGL: Powstaje zatem pytanie czy w tym przypadku mamy do czynienia z twórczością? Czy próbując dokonać analizy deepfake-ów pod kątem prawnym należy odnieść się do regulacji dotyczących twórczości zatem do praw własności intelektualnej.

Czy możemy przyjąć, że proces tworzenia deepfake i efekt w postaci tak stworzonego filmu (nazwijmy go dla uproszczenia deepfake) są w jakikolwiek sposób regulowane?

 

AD: Oczywiście nie mamy obecnie przepisów prawa regulujących wprost deepfake (zmiany prawa nie nadążają za tempem postępu technologicznego ostatnich lat) ale analizując sposób powstawania filmów oraz ich wykorzystywania można wskazać obecnie istniejące normy prawne, które mogą mieć w takim przypadku zastosowanie.

Pierwszy akt prawny jaki przychodzi mi na myśl to ustawa o prawie autorskim i prawach pokrewnych, czyli: prawo autorskie. Na podstawie zawartych tam przepisów możemy chronić program komputerowy do tworzenia deepfake-ów. Zgodnie z art. 74 prawa autorskiego programy komputerowe podlegają ochronie jak utwory literackie, z uwzględnieniem innych pól, zakresu dozwolonego użytku publicznego czy praw osobistych twórców programu komputerowego

Ponadto, autorskie prawa majątkowe do programu komputerowego obejmują prawo do:

  • reprodukcji (zwielokrotnienia) programu, w całości lub części, jakimikolwiek środkami i w jakiejkolwiek formie;
  • tłumaczenia, przystosowania (adaptacji) programu, zmiany układu oraz wprowadzania innych zmian w programie
  • rozpowszechniania, w tym użyczania lub najmu programu lub jego kopii.

Legalny posiadacz programu, czyli najczęściej nabywca kopii programu, licencjobiorca, może bez zgody autorsko uprawnionego zwielokrotniać program w całości lub części, a także tłumaczyć, przystosowywać i zmieniać go w takim zakresie, w jakim jest to niezbędne do korzystania z programu zgodnie z jego przeznaczeniem. Jeśli oczywiście nie zostało to wyłączone czy ograniczone umową licencyjną lub umową sprzedaży egzemplarza programu.

Czyli program do tworzenia deepfake-ów jest chroniony prawem autorskim i można z niego korzystać jeśli osoba, która napisała ten program udostępni go np. na zasadzie otwartych licencji. Z jednej strony oznacza to możliwość udoskonalania programów do tworzenia deepfake, a tym samym do lepszej jakości tak powstających filmów – czyli ciągły rozwój i utrudnienie wykrycia deepfake. Z drugiej strony daje to możliwość praktycznie każdemu korzystania z programu komputerowego i stworzenia własnej postaci deepfake-owej. Oznacza to, że możliwe będzie również wykorzystanie tak stworzonej postaci deepfake-owej do celów komercyjnych, a nie tylko prywatnych.

 

MGL: Ok, czyli program komputerowy to narzędzie do tworzenia postaci deepfake-owych, które może dostać się w ręce dowolnej osoby. Zatem, zakładając legalność korzystania z programu komputerowego, ważne jest kto, a raczej z jakim zamiarem i w jaki sposób będzie tworzył deepfake-owe filmy i postaci. Zucconi wymienia 3 etapy powstania deepfake[6]:

  • ekstrakcja – zebranie wystarczającej liczby obrazów do trenowania modelu zastępujący twarz
  • szkolenie – wyszkolenie modelu zastępującego twarz przy użyciu zebranych obrazów za pomocą autoenkodera, którym jest sieć neuronowa składająca się z dwóch części: kodera i dekodera (koder pobiera obraz twarzy i kompresuje go do małego wymiaru a następnie dekoder rekonstruuje twarz do jej pierwotnej formy)
  • tworzenie – najtrudniejszy technicznie etap polegający na wstawieniu fałszywych obrazów do wideo (dla każdej klatki wideo kąt syntetyzowanej twarzy musi pasować do kąta głowy osoby docelowej), wg Zucconiego to jedyny etap procesu, który opiera się na ręcznie napisanym kodzie, a nie na maszynowym i dlatego jest podatny na więcej błędów.

Tworzenie to przypomina cyfrowy kolaż składający się z różnych elementów. Żeby go stworzyć trzeba korzystać z nagrań wizerunków osoby, jej głosu oraz nagrania osoby, która „użycza” swojego ruchu tworzonej postaci.

Czy deepfake rozumiany jako film to utwór? A postaci tworzone w ten sposób, bohaterowie filmu, jak można je zaklasyfikować?

AM: Zacznijmy może od tego że zgodnie z art. 1 prawa autorskiego utworem jest każdy przejaw działalności twórczej. Trzeba zatem ustalić czy film deepfake stanowi rezultat działania człowieka? Zakładając, że co najmniej trzeci etap tworzenia deepfake wydzielony przez Zucconiego zależy od człowieka to dla dalszej analizy możemy przyjąć, iż rezultat w postaci filmu został stworzony przez człowieka. Jednak to założenie będzie błędne, gdy rezultat w postaci filmu deepfake jest wyłącznym efektem działalności szablonowej, w przystosowanych do tego generatorach, wówczas do powstania utworu nie dojdzie.

Zakładając, że mamy do czynienia z tym pierwszym przypadkiem (efektem działalności człowieka), kontrowersyjne jest ustalenie czy połączenie, a raczej przekształcenie zebranych obrazów twarzy, zmiana jej mimiki oraz „włożenie” w usta tak powstałej postaci innego tekstu powoduje, że film ma twórczy, indywidualny charakter. Przyjmuje się, że „cecha twórczości jest spełniona wówczas, gdy istnieje subiektywnie nowy wytwór intelektu”[7]. Prof. J. Błeszyński, uważa, że utwór musi być „osobistą wizją” autora, tzn. „musi polegać na uformowaniu własnego obrazu, zjawiska, procesu, idei”[8]

Generowanie deepfake-ów odbywa się, za pomocą programów komputerowych, co nie tylko wymaga pewnych umiejętności, ale również wcześniej zamierzonej wizji autora. Zgodnie z wyrokiem Sądu Najwyższego z dnia 25 stycznia 2006r.[9] „utworem może być nawet kompilacja wykorzystująca dane powszechnie dostępne pod warunkiem, że ich wybór, segregacja, sposób przedstawienia ma znamiona oryginalności”. Podobnie Sąd Apelacyjny w Warszawie w wyroku z 26 listopada 2014 r. uznał, że „spełnienia przesłanki twórczości (oryginalności i indywidualności) utworu można doszukiwać się nawet w doborze, układzie lub uporządkowaniu składników utworu, tj. poszczególnych ujęć czy nawet doborze podkładu muzycznego”[10]. Zatem realizacja wizji autora deepfake przemawia za zakwalifikowaniem deepfake-ów do utworów, z tym zastrzeżeniem, iż być może nie każdą modyfikację lub fotomontaż, w rezultacie której powstaje deepfake, będzie można uznać za utwór z powodu braku indywidualności.

MGL: Jakie więc, regulacje prawne mogą mieć zastosowanie do tworzenia deepfake za pomocą łączenia poszczególnych elementów: głosu, wizerunku, wygłaszanego tekstu? Na jakie przepisy mogą powoływać się twórcy deepfake-ów? Z jakich materiałów wyjściowych mogą korzystać?

 

AD: Tak, sporo pytań. Może zacznijmy od materiałów wykorzystywanych do tworzenia deepfake. Na pewno twórcy deepfake muszą korzystać z innych nagrań (wideogramów), z wizerunków osób i muszą mieć drugie nagranie z „podstawionym” głosem: wideogram lub fonogram.  Co do zasady aby móc korzystać z cudzego utworu musimy mieć na to zgodę twórcy. W prawie autorskim przewidziane są jednak wyjątki, które zezwalają na włączanie części cudzego utworu lub jego przeróbkę. Jedną z takich „instytucji” jest prawo cytatu. Ustawodawca wskazał w art. 29 prawa autorskiego, iż wolno przytaczać w utworach stanowiących samoistną całość urywki rozpowszechnionych utworów oraz rozpowszechnione utwory plastyczne, utwory fotograficzne lub drobne utwory w całości, w zakresie uzasadnionym celami cytatu, takimi jak wyjaśnianie, polemika, analiza krytyczna lub naukowa, nauczanie lub prawami gatunku twórczości. Tym samym wykorzystywanie przez twórcę deepfake fragmentu innego utworu może być uzasadnione prawem cytatu.

Przeszkodą może być wykorzystanie przy tym cudzego wizerunku, ale tu także mamy wyjątki zezwalające na ich rozpowszechnianie. Wizerunek znanej osoby utrwalony podczas wykonywania przez nią obowiązków służbowych to idealna definicja polityka. Trzeba jednak pamiętać, by nie przekroczyć przy tym granicy, która będzie naruszała nie tylko wizerunek ale także inne dobra osobiste np. godność, dobre imię. Za przykład mogą tutaj posłużyć coraz częściej tworzone za pomocą technologii deepfake filmy pornograficzne, w których gwiazdy porno mają twarze znanych osób – aktorów, muzyków, a nawet polityków.

AM: Najciekawsza jest jednak analiza tworzenia deepfake-ów w kontekście prawa do korzystania z cudzego utworu w ramach parodii, pastiszu i karykatury. W 2015 r. rozszerzono ten przepis o art. 291 podkreślając tym samym specyfikę takich praw gatunków twórczości, jak parodia, pastisz czy karykatura jako gatunków szczególnych. Nie powinno to nikogo dziwić, biorąc pod uwagę, że wraz z rozwojem technologii pojawiają się także nowe gatunki twórczości, a niektóre nabierają zupełnie innego wymiaru. Każdy z nas chyba kojarzy z wakacji artystów siedzących na deptaku i rysujących karykatury znanych osób lub nas, czyli świadome przedstawienie osoby, zjawiska lub przedmiotu w sposób zdeformowany, które ma na celu podkreślenie negatywnego charakteru elementów, właściwości, cech.

Czy nie tym właśnie są memy czyli najczęściej zabawne, prześmiewcze kolaże, na których do zdjęcia lub grafiki dodaje się teksty nawiązujące np. do obecnej sytuacji w kraju czy na świecie, wyśmiewa się wpadki znanych gwiazd itp. Czy filmik przedstawiający znaną postać, mówiącą coś zupełnie innego niż byśmy się mogli spodziewać nie będzie więc parodią? Bardzo często w przypadku deepfake-ów będziemy mówić o satyrze, zwłaszcza politycznej, za pomocą której twórcy chcą ośmieszyć czy też postawić w niezręcznej sytuacji znane postaci ze świata polityki. Wydaje się, że te przepisy dają prawo twórcom wykorzystywania technologii deepfake.

MGL: Na pewno każdy przypadek trzeba będzie oceniać indywidulanie. Zapewne nie zawsze sądy będą skłonne uznawać, że tego typu ingerencja w prawa autorskie twórcy utworu macierzystego mieści się w graniach parodii, pastiszu i karykatury. To jest o tyle istotne, że parodię, pastisz oraz karykaturę zalicza się głównie do utworów inspirowanych, ponieważ autor takiego dzieła chce przekazać coś nowego i odmiennego od tego, co było zawarte w utworze pierwotnym. Wówczas nie ma wymogu uzyskania zgody autora utworu macierzystego, ani obowiązku zamieszczania informacji wynikających z art. 2 ust. 5 prawa autorskiego, czyli wymieniania twórcy i tytułu utworu pierwotnego na egzemplarzach opracowania.

AM: Tak, zarówno w przypadku korzystania z prawa cytatu, jak i w przypadku tworzenia opracowania czyjegoś utworu, co także mogą robić twórcy deepfake-ów konieczne jest wskazanie źródła, a z tym spotykamy się bardzo rzadko. Podawanie źródeł utworów to generalnie duży problem twórczości internetowej. Dodatkowo w przypadku opracowania takiego jak przeróbka, adaptacja czy tłumaczenie, aby móc korzystać z cudzego utworu we własnym opracowaniu konieczna jest zgoda twórcy utworu pierwotnego. Mówiąc krótko, musimy mieć zgodę twórcy, którego utwór przerabiamy.

W prawie autorskim dopuszczalne jest także inspirowanie się czyimś utworem, pod warunkiem, że nowy utwór jest samodzielnym tworem i nie zawiera elementów twórczych pochodzących z cudzego utworu. W takim przypadku twórca nie musi uzyskiwać zgody od twórcy utworu inspirowanego. Granica pomiędzy inspiracją, a opracowaniem jest bardzo cienka i łatwo jest ją przekroczyć.

 

AD: Utwory samoistne to takie, które nie przejmują żadnych elementów twórczych oraz „nie rodzą skojarzeń z innymi dziełami”[11] . Zgoda twórcy pierwotnego utworu w takim przypadku nie jest konieczna, zarówno do stworzenia utworu inspirowanego, jak i do korzystania z takiego utworu i rozporządzania nim. Sąd Najwyższy w wyroku z 23 czerwca 1972r.[12] stwierdził, że „za kryterium rozgraniczające dzieło inspirowane od dzieła zależnego należy uznać twórcze przetworzenie elementów dzieła inspirującego tak, że o charakterze dzieła inspirowanego decydują już jego własne, indywidualne elementy (nie zaś elementy przejęte). W wypadku utworu inspirowanego (objętego prawem autorskim niezależnym) zaczerpnięty zostaje tylko wątek utworu cudzego, powstaje utwór nowy i o cechach twórczości samodzielnej”. Można wyobrazić sobie, że w przypadku deepfake jest to możliwe: kompilacja twarzy i głosu osoby, która ma być „przerobiona” na potrzeby deepfake nie będzie budziła skojarzenia z konkretnym np. publicznym wystąpieniem tej osoby.

Ale możliwa tez jest inna sytuacja: utwór macierzysty, z którego powstaje deepfake zostaje dopełniony elementami twórczymi, co w rezultacie prowadzi do powstania nowego utworu. Co istotne, musi być tutaj widoczny własny wkład autora dzieła zależnego.  Wydaje się, że większość dotychczas powstałych deepfake-ów stanowi utwory zależne, a przeróbka utworu pierwotnego, polega na dodaniu lub całkowitym przekształceniu za pomocą programów komputerowego danego elementu oraz podłożeniu nowego tekstu.

To o tyle istotne, że na egzemplarzach opracowania powinno się wymienić twórcę i tytuł utworu pierwotnego, a z kolei do korzystania i rozporządzania utworem niesamoistnym potrzebna jest zgoda twórcy utworu macierzystego. Jeśli twórca zgody takiej nie wyraził, rozpowszechnianie to będzie uznane za naruszenie prawa do integralności utworu. Udostępnianie utworu w Internecie uznać trzeba za przejaw korzystania z utworu[13].

MGL: Czyli podsumowując: nie ma ogólnych zasad, według których można klasyfikować deepfake. Każdorazowo należy ustalić, czy dany deepfake jest efektem działalności człowieka czy wyłącznie efektem pracy maszyny. Nie sposób uznać, że deepfake zawsze będą traktowane jako utwory w rozumieniu art. 1 ust. 1 prawa autorskiego.

Gdyby uznać konkretny deepfake za utwór, to należy ocenić czy mamy do czynienia z utworem samoistnym, czy też z utworem niesamoistnym, co z punktu widzenia wykorzystania cudzej twórczości będzie miało istotne znaczenie. W tym drugim przypadku powoduje powstanie obowiązku z art. 2 ust. 2 i 5 prawa autorskiego: uzyskania zgody na korzystanie i rozpowszechnianie deepfake i wymienienia twórcy utworu pierwotnego.  To wydaje się bardzo problematyczne z uwagi na rozwój narzędzi technologicznych, dzięki którym możliwe jest przerabianie, łączenie czy też miksowanie cudzych utworów oraz późniejsze ich rozpowszechnianie na masową skalę[14]  

Nie można wykluczyć, że utwory inspirowane mogą stanowić parodię, pastisz lub karykaturę, a wtedy nie ma potrzeby korzystania z licencji ustawowej opisanej w art. 291 Prawa autorskiego. Według E. Czarny-Drożdżejko „przy ocenie zachowania osoby wykorzystującej cudzy utwór istotna będzie ocena zamiaru, który jej przyświecał. Musi on bowiem podejmować eksploatację cudzego utworu w celu humorystycznym, a nie innym”[15] .

To właśnie cel stworzenia i a raczej rozpowszechniania deepfake budzi najwięcej kontrowersji … ale o tym możesz przeczytać w drugiej części wpisu: czy deepfake wymusi zmiany w regulacjach prawnych?

Photo by Carson Arias on Unsplash
[1] Schwartz, O. (2018) You thought fake news was bad? deepfakes are where truth goes to die [article] The Guardian, 12 listopada 2018.
[2] Schick, N. (2019) ‘deepfake’ videos threaten the world order [article] The Times, 27 lutego 2019.
[3] https://www.congress.gov/bill/115th-congress/senate-bill/3805/text
[4] Deepfake jako skomplikowana i głęboko fałszywa rzeczywistość, Olga Wasiuta, Sergiusz Wasiuta, Studia de Securitate 9(3) (2019) ISSN 2657-8549.
[5] Mack, D. (2018) This PSA About Fake News From Barack Obama Is Not What It Appears [article] Buzzfeed News, 17 kwietnia 2018.
[6] Zucconi, A. (2018) An introduction to DeepFakes [blog] AZ website, 14 marca 2018.
[7]Tak w uzasadnieniu wyroku Sądu Najwyższego z dnia 22 czerwca 2010r. IV CSK 359/09, https://sip.lex.pl/#/jurisprudence/520787965?keyword=subiektywnie%20nowy
[8] J Błeszyński „Prawo autorskie” Warszawa 1985r. s. 40
[9] Sygn.. I CK 281/05, OSN 2006, nr 11, poz. 186
[10] Sygn.. VI AC 212/14, Legalis
[11] K. Grzybczyk, Cytowanie, [w:] P. Ślęzak, Ustawa…, komentarz do art. 2 PrAut, Legalis/el. 2017
[12] Sygn. ICR 104/72, niepublikowane
[13] I. Matusiak, [w:] P. Ślęzak, Ustawa…, komentarz do art. 17 PrAut, Legalis/el. 2017.
[14] K. Grzybczyk, [w:] P. Ślęzak, Ustawa…, komentarz do art. 2 PrAut, Legalis/el. 2017
[15] E. Czarny-Drożdżejko, Dozwolony…, s. 204.
Udostępnij