Deepfake

technika obróbki obrazu

Deepfake (zbitka wyrazowa od ang. deep learning „głębokie uczenie” oraz fake „fałszywy”[1]) – wygenerowane lub zmanipulowane przez sztuczną inteligencję obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe[2].

Przykład przerabiania ludzkiej twarzy z użyciem technologii deepfake

Technika stosowana jest do łączenia i nakładania obrazów nieruchomych i ruchomych na obrazy lub filmy źródłowe przy użyciu komputerowych systemów uczących się. Uzyskane w ten sposób łudząco realistyczne ruchome obrazy stosowane są w nagraniach filmowych, stwarzając możliwości manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania osoby poprzez fałszywe „obsadzenie jej” np. w roli w filmie pornograficznym[1][3]. Jednym z zagrożeń fałszywymi informacjami jest możliwość wpłynięcia na wyniki wyborów[4].

Pojęcie deepfake pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. Gal Gadot, Maisie Williams i Taylor Swift[5].

Według raportu Deeptrace technologia rozwija się bardzo szybko. Na początku 2019 roku w Internecie zaprezentowano 7964 filmów deepfake, dziesięć miesięcy później ich liczba wynosiła 14678[6]. Wiele kwestii prawnych związanych z technologią nie zostało jeszcze uregulowanych[7].

Deepfake dotyczy również obróbki dźwięku, w tym ludzkiego głosu (tzw. deepfake voice)[8].

Przykłady

edytuj
Kim Dzong Un o demokracji. Przemówienie wykonane technologią deepfake.

Materiały stworzone za pomocą technologii deepfake można podzielić na[9]:

  • rozrywkowe – mają charakter humorystyczny, często dotyczą bohaterów popkultury lub postaci fikcyjnych,
  • edukacyjny – są wykorzystywane między innymi przez instytucje kultury,
  • dezinformacyjne – mają charakter fake newsów, mogą dotyczyć osób publicznych i wprowadzać odbiorcę w błąd,
  • dyskredytacyjne – służą ośmieszeniu, kompromitacji; mogą być wykorzystane do ataku, działań kontrowersyjnych lub przestępczych.

Przykłady:

  • film z twarzą Kita Haringtona, w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „Gra o tron[10]
  • wideoklipy, w których twarz Nicholasa Cage’a została nałożona na słynne sceny z filmów (początek 2018)[10]
  • nagranie przedstawiające Baracka Obamę, wypowiadającego ostrzeżenia (których w rzeczywistości nigdy nie powiedział) przed zagrożeniami, jakie niesie nieetyczne zastosowanie technologii cyfrowych (kwiecień 2018)[10]
  • nagranie z twarzą Marka Zuckerberga, ostrzegającego przed zagrożeniami, jakie niosą cyfrowe technologie (czerwiec 2019)[10]
  • udostępnienie kontrowersyjnej aplikacji internetowej DeepNude pozwalającej na tworzenie naturalistycznych obrazów nagich kobiet za pomocą przesłanych do aplikacji zdjęć prawdziwych osób (czerwiec 2019)[10]
  • w 2019 roku Muzeum Salvadora Dalí na Florydzie uruchomiło ekspozycję „Dali żyje”, która dzięki technologii deepfake umożliwia zwiedzającym rozmowę z artystą i wspólne pozowanie do zdjęć[11][12]
  • film z przemówieniem Kim Dzong Una na temat demokracji z 2020 roku[13]
  • zainscenizowane przemówienie królowej brytyjskiej Elżbiety II, nadane przez stację telewizyjną Channel 4 (grudzień 2020)[14][15][16]
  • film z 2021 roku z aktorem Tomem Cruise’em[17][18].
  • ostatni specjalny odcinek Świat Według Kiepskich (Sezon 35 odc. 589) – Technologia DeepFake u Arnolda Boczka oraz Mariana Paździocha (2023).

Badania i przeciwdziałanie

edytuj

Grupa DFDC

edytuj

W odpowiedzi na zagrożenia związane z rozwojem technologii zawiązano grupę DFDC (ang. Deepfake Detection Challenge), w której pracowali specjaliści z firm Facebook i Microsoft oraz naukowcy z Massachusetts Institute of Technology, Uniwersytetu Oksfordzkiego oraz Uniwersytetów z Berkeley i Maryland[19][20]. Inicjatywa została powołana w sierpniu 2019 roku[21].

Badania koncentrowały się nad stworzeniem narzędzia umożliwiającego wykrycie filmów deepfake, walkę ze zmanipulowanymi treściami oraz działania edukacyjne. Na wsparcie grupy DFDC Facebook przeznaczył 10 mln dolarów[19][22]. W 2019 roku do grupy DFDC dołączył Amazon. Firma zdecydowała się wesprzeć badania naukowe kwotą miliona dolarów[23][24].

Analizy przeprowadzone w ramach grupy DFDC potwierdziły trudności z wykrywaniem materiałów deepfake przy pomocy sztucznej inteligencji i wytyczyły obszary, w których niezbędne są kolejne prace. W 2020 roku stworzone w ramach projektu algorytmy uzyskiwały skuteczność na poziomie 65%, a w pozostałych przypadkach system nie rozpoznawał materiału deepfake lub fałszywie diagnozował jego wystąpienia w materiałach prawdziwych[25].

Amerykańska Agencja DARPA (ang. Defense Advanced Research Projects Agency) działająca w strukturach Departamentu Obrony Stanów Zjednoczonych bada technologię deepfake i angażuje się w działania mające na celu ograniczyć jej negatywne skutki, w tym: dezinformację, chaos informacyjny, manipulowanie opinią publiczną, wykorzystanie technologii do popełniania przestępstw lub naruszania zasad demokracji. W ramach projektu Semantic Forensics (SemaFor) pracuje nad metodami wykrywania zmanipulowanych treści, w ramach projektu Media Forensics (MediFor) planuje działania prewencyjne[26][27][28].

Na prace związane z wykrywaniem technologii deepfake DARPA przeznaczyła 68 milionów dolarów[29].

NATO StratCom

edytuj

Technologia była przedmiotem zainteresowania NATO Strategic Communication Center, międzynarodowej organizacji wojskowej, działającej z akredytacją NATO[30]. W listopadzie 2019 roku opublikowano raport „The Role of Deepfakes in Malign Influence Campaigns”, w którym scharakteryzowano zjawisko, omówiono prognozy rozwojowe oraz potencjalne zagrożenia[31] (podobne do zdiagnozowanych przez DARPA).

Agencja Reuters

edytuj

Agencja Reuters prowadzi projekty mające na celu ograniczyć negatywne skutki dezinformacyjne, które może nieść rozwój technologii deepfake. W 2019 roku we współpracy z Facebookiem udostępniła w Internecie nieodpłatne materiały edukacyjne dla dziennikarzy, pozwalające na zapoznanie się z technologią i ułatwienie identyfikacji dostarczanych im materiałów[32][33][34]. Projekt ma zapobiegać manipulowaniem dziennikarzami i tym samym tworzeniu treści w oparciu o fikcyjne źródła, które wprowadzą odbiorców błąd oraz osłabią zaufanie opinii publicznej do mediów.

Serwisy społecznościowe

edytuj

W 2020 roku firma Facebook poinformowała, że będzie usuwała ze swojego serwisu materiały stworzone za pomocą technologii deepfake, które mogą wprowadzić użytkowników w błąd, z wyjątkiem materiałów mających wyłącznie satyryczny lub żartobliwy charakter[35][36].

W lutym 2020 roku Twitter zapowiedział, że będzie usuwać zmanipulowane treści, powstałe za pomocą technologii deepfake i dezinformujące użytkowników[37][38].

W 2025 roku serwis YouTube ogłosił rozszerzenie swojego eksperymentalnego programu mającego na celu identyfikację i regulację treści generowanych przez sztuczną inteligencję, które wykorzystują wizerunek twórców, artystów i znanych osobistości[39].

Zagrożenia

edytuj

Wraz z rozwojem technologii materiały deepfake, tworzone przez sztuczną inteligencję, staną się praktycznie niemożliwe do wykrycia i odróżnienia od prawdziwych przez użytkowników Internetu, co niesie ze sobą wiele zagrożeń[7][40][41].

Polityka

edytuj
Przemówienie Władimira Putina, ostrzegające Stany Zjednoczone przed ingerencją w wybory, wykonane technologią deepfake.

Nagrania polityków bazujące na technologii deepfake mogą prowadzić do skandali dyplomatycznych, a w skrajnym przypadku wywołać panikę społeczną, o ile tematyka wystąpienia będzie dotyczyć spraw niebezpiecznych, takich jak np. wypowiedzenie wojny lub zapowiedź użycia broni masowego rażenia[40][6][42]. Technologia może zostać użyta do kompromitacji przeciwników politycznych i prób manipulacji głosami wyborców[43][44][45].

Deepfake może ponadto przyczynić się do szkody wizerunkowej, wynikającej z ośmieszenia polityka, jak miało to miejsce w przypadku byłego prezydenta Argentyny. Mauricio Macri padł ofiarą materiału deepfake, w którym jego twarz została zamieniona na twarz Adolfa Hitlera[46]. W 2019 roku w Internecie ukazał się film dyskredytujący Sophie Wilmès. Zawierał zmanipulowane technologią deepfake absurdalne przemówienie, w którym Sophie Wilmès sugerowała związek pandemii COVID-19 z wycinką lasów i kryzysem klimatycznym. Część widzów uznała film za autentyczny i kpiła z wypowiedzi, która naprawdę nigdy nie została wygłoszona[47][48].

Dezinformacja i chaos

edytuj

Rozwój technologii deepfake może przyczynić się do dezinformacji i chaosu, manipulacji opinią publiczną, negatywnie wpływać na zaufanie publiczne[43], spowodować osłabienie zaufania do mediów i przekazów, utrudnić pracę dziennikarzom, którzy nie będą w stanie odróżnić materiałów prawdziwych od fałszywych[6].

Z tej przyczyny Agencja Reuters prowadzi projekty edukacyjne, skierowane do pracowników mediów[32].

Przemoc wobec kobiet

edytuj

Deepfake może być wykorzystywany jako narzędzie przemocy wobec kobiet[49]. Z raportu Deeptrace wynika, że 96% filmów deepfake, powstałych od września 2019 roku, zawiera treści pornograficzne. Przedstawiają kobiety, których wizerunki zostały wykorzystane bez wiedzy i zgody poszkodowanych[6]. Ofiarą padła między innymi aktorka Scarlett Johansson[50][51][52].

Materiały pornograficzne oparte na technologii deepfake, stały się popularne w 2017 roku, głównie na platformie Reddit[53]. W lutym 2018 roku Reddit zakazał publikacji pornografii deepfake[54].

Zarazem w czerwcu 2019 roku powstała aplikacja DeepNude, umożliwiająca usuwanie ubrań z fotografii kobiet[55]. Była szeroko komentowana w mediach, wywołała protesty organizacji działających na rzecz kobiet i środowiska prawniczego, które uznało ją za skandaliczną, nieetyczną i naruszającą elementarne zasady życia społecznego[56][57][58]. Choć została wycofana przez twórców 27 czerwca 2019 roku[59], kopie powstałych materiałów wciąż są dostępne w Internecie, a ich usunięcie jest praktycznie niemożliwe[60].

Przestępczość

edytuj

Technologia deepfake pozwala na tworzenie materiałów oczerniających, kompromitujących, stawiających ofiary w złym świetle, niszczenia ich reputacji i naruszenia dóbr osobistych[43][44]. Mogą one zostać użyte do szantażu, próby wyłudzenia pieniędzy w zamian za brak publikacji w Internecie.

W analizach DARPA zwrócono uwagę na utrudnienie pracy organów ścigania i sądów. Filmy deepfake, przedstawiające popełnienie przestępstwa, mogą stać się materiałem dowodowym dla policji lub prokuratury i w konsekwencji doprowadzić do skazania lub ukarania osoby, która nie popełniła przestępstwa, a jej wizerunek został jedynie użyty w filmie. Technologia może być wykorzystywana do nieuczciwej konkurencji przez przedsiębiorców poprzez tworzenie kompromitujących materiałów oczerniających inne firmy lub ich zarządy. Ponadto dyskredytować kandydatów na ważne urzędy i spowodować trudne do naprawienia straty wizerunkowe oraz finansowe[6].

Kwestie prawne

edytuj

Szybki rozwój technologii deepfake spowodował, że przepisy prawne większości krajów nie obejmują zagadnień, które mogą stać się przedmiotem spraw sądowych. Ponadto brakuje definicji prawnych zjawiska, a organy ścigania nie dysponują narzędziami, które mogłyby znaleźć zastosowanie do prewencji lub ukarania sprawców. W polskim systemie prawnym deepfake nie został uregulowany. Zaangażowanie policji i prokuratury jest możliwe w przypadku materiałów o charakterze pornograficznym[61].

Pierwsze próby regulacji prawnych zostały podjęte w Stanach Zjednoczonych i Chinach[62][63]:

  1. W 2018 roku amerykański senator Ben Sasse zgłosił projekt ustawy zakazującej preparowanie nagrań audiowizualnych, który nie został przyjęty między innymi z uwagi na problemy definicyjne[9].
  2. W 2019 roku Yvette Clarke, członkini Izby Reprezentantów Stanów Zjednoczonych, zaproponowała oznaczanie materiałów deepfake specjalnym znakiem wodnym, który umożliwiłby ich szybką identyfikację[64].
  3. W październiku 2019 roku Gavin Newsom, gubernator stanu Kalifornia, podpisał ustawę zakazującą publikacji materiałów deepfake w okresie 60 dni do wyborów, w celu uniknięcia manipulacją przebiegu głosowania[65][66][67].
  4. W kwietniu 2019 roku w stanie Kalifornia zakazano publikacji materiałów pornograficznych bez zgody przedstawionych w nim osób, co miało stanowić odpowiedź na materiały o charakterze deepfake, krzywdzące kobiety[68][69].
  5. Od marca 2020 w Chinach obowiązują przepisy prawa walczące z nieoznaczonymi deepfake’ami[62].

Obrona przed deepfake

edytuj
  • Uciekanie od sposobów działania podobnych do znanych metod między innymi wyłudzania pieniędzy „na wnuczka” czy „na policjanta”. Zmiana schematów komunikacyjnych z opierających się na poleceniach głosowych, rozmowach telefonicznych czy rozmowach wideo na przykład wiadomości SMS lub wiadomości e-mail[70].
  • Szkolenie kadry pod kątem zabezpieczeń i cyberprzestępczości. Uświadamianie o tym, czym jest deepfake oraz jak jemu przeciwdziałać
  • Wspomaganie i rozwój systemów bezpieczeństwa w środowiskach teleinformatycznych.[71]

Zobacz też

edytuj

Przypisy

edytuj
  1. a b John Brandon, Terrifying high-tech porn: Creepy ‘deepfake’ videos are on the rise [online], Fox News, 16 lutego 2018 [dostęp 2019-08-14] (ang.).
  2. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008 (UE) nr 167/2013 (UE) nr 168/2013 (UE) 2018/858 (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (CELEX: 32024R1689).
  3. Oscar Schwartz, You thought fake news was bad? Deep fakes are where truth goes to die, „The Guardian”, 12 listopada 2018, ISSN 0261-3077 [dostęp 2019-08-14] (ang.).
  4. Rafał Tomański, Facebook walczy z fake newsami przed wyborami w Azji [online], Business Insider, 23 stycznia 2019 [dostęp 2019-08-16] [zarchiwizowane z adresu 2019-08-16] (pol.).
  5. Jason Koebler, Samantha Cole, We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now [online], Vice, 24 stycznia 2018 [dostęp 2019-08-14] (ang.).
  6. a b c d e Rob Toews, Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. [online], Forbes [dostęp 2021-03-17] (ang.).
  7. a b Grace Shao, What ‘deepfakes’ are and how they may be dangerous [online], CNBC, 14 października 2019 [dostęp 2021-03-17] (ang.).
  8. Deepfake, czyli manipulacja obrazem i dźwiękiem. Jak się przed nią bronić? [online], interaktywnie.com [dostęp 2024-08-20] (pol.).
  9. a b Ilona Dąbrowska, Deepfake͵ nowy wymiar internetowej manipulacji, „Zarządzanie Mediami”, 8 (2), 2020.
  10. a b c d e Lisa Eadicicco, 08:42 14 Lip, 133 458, Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić [online], Business Insider, 14 lipca 2019 [dostęp 2019-08-16] (pol.).
  11. W amerykańskim muzeum zrobisz sobie selfie z Dalim [online], naEKRANIE.pl [dostęp 2021-03-18] (pol.).
  12. Salvador Dali robi selfie ze zwiedzającymi muzeum – Antyradio, www.antyradio.pl, 1557 [dostęp 2021-03-18] (pol.).
  13. Too real? Deepfake Putin, Kim Jong Un ads pulled from U.S. debate [online], Global News [dostęp 2021-03-17] (ang.).
  14. Deepfake queen to deliver Channel 4 Christmas message. BBC News (online), 23 grudnia 2020. [dostęp 2021-01-23]. (ang.).
  15. Bruce Haring: Queen Elizabeth ‘Deepfake’ Message Jabs Prince Harry & Meghan, Prince Andrew. Deadline (online), 26 grudnia 2020. [dostęp 2021-01-23]. (ang.).
  16. Max Miller: Framestore reveals behind-the-scenes footage of deep fake Queen’s Speech. Broadcast (online), 19 stycznia 2021. [dostęp 2021-01-23]. (ang.).
  17. Ponad 11 mln użytkowników zobaczyło deepfake z Tomem Cruisem. 'Ta technologia rozwija się w szalonym tempie’ [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  18. Przerażająco realistyczny deepfake Toma Cruise’a hitem Internetu. Miliony wyświetleń w sieci [online], www.komputerswiat.pl, 3 marca 2021 [dostęp 2021-03-17] (pol.).
  19. a b Facebook i Microsoft chcą skutecznie walczyć z deepfake’ami. 10 mln dolarów na nowe narzędzia [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  20. Przyszłość deepfake’ów – naucz się żyć w świecie fałszu – PTSP.pl [online], Polskie Towarzystwo Studiów nad Przyszłością, 12 października 2020 [dostęp 2021-03-17] (pol.).
  21. Creating a dataset and a challenge for deepfakes [online], ai.facebook.com [dostęp 2021-03-17] (pol.).
  22. Nie daj się oszukać! Facebook i Microsoft ogłaszają walkę z DeepFake’ami [online], www.centrumxp.pl [dostęp 2021-03-17] (pol.).
  23. Amazon dołącza do Facebooka i Microsoftu w walce z DeepFake’ami [online], www.centrumxp.pl [dostęp 2021-03-17] (pol.).
  24. AWS supports the Deepfake Detection Challenge with competition data and AWS credits [online], Amazon Web Services, 21 października 2019 [dostęp 2021-03-17] (ang.).
  25. Ashish Jaiman, Deepfake detection is super hard! [online], Medium, 7 lipca 2020 [dostęp 2021-03-17] (ang.).
  26. DARPA Is Taking On the Deepfake Problem [online], Nextgov.com [dostęp 2021-03-17] (ang.).
  27. DARPA Is Taking On the Deepfake Problem [online], Defense One [dostęp 2021-03-17] (ang.).
  28. DARPA chce stworzyć narzędzia do rozpoznawania tzw. deep fake’ów – CyberDefence24 [online], www.cyberdefence24.pl [dostęp 2021-03-17].
  29. DARPA spent $68 million on technology to spot deepfakes [online], Futurism [dostęp 2021-03-17].
  30. NATO Strategic Communications Centre of Excellence (NATO StratCom COE) – European Sources Online [online], www.europeansources.info [dostęp 2021-03-18].
  31. The Role of Deepfakes in Malign Influence Campaigns | StratCom [online], www.stratcomcoe.org [dostęp 2021-03-18].
  32. a b Facebook pomógł stworzyć kurs wykrywania deepfake [online], ANDROID.COM.PL – społeczność entuzjastów technologii, 18 grudnia 2019 [dostęp 2021-03-17] (pol.).
  33. Deepfake [online], www.reuters.com [dostęp 2021-03-17] (ang.).
  34. Facebook i Reuters w kursie online uczą rozpoznawania deepfake’ów [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  35. Facebook będzie usuwał z serwisu materiały typu deepfake. „Dobre posunięcie, ale konieczna edukacja” [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  36. Associated Press, YouTube to remove ‘deepfakes’ and ‘birther’ videos ahead of 2020 election [online], MarketWatch [dostęp 2021-03-17] (ang.).
  37. Help us shape our approach to synthetic and manipulated media [online], blog.twitter.com [dostęp 2021-03-17] (ang.).
  38. Twitter Just Released Its Plan To Deal With Deepfakes [online], BuzzFeed News [dostęp 2021-03-17] (ang.).
  39. YouTube wprowadza zaawansowane narzędzia do walki z deepfake’ami [online], interaktywnie.com [dostęp 2025-04-10].
  40. a b Prosty sposób na deepfakes. Skuteczny? – Sztuczna Inteligencja [online] [dostęp 2021-03-17] (pol.).
  41. Tom Maxwell, Deepfake videos of Tom Cruise show the technology’s threat to society is very real [online], Input [dostęp 2021-03-17] (ang.).
  42. Thomas Davis, How Deepfake Technology Can Become More Dangerous Than a Nuclear Weapon [online], Medium, 15 stycznia 2020 [dostęp 2021-03-17] (ang.).
  43. a b c „Podróbka” Toma Cruise’a podbiła Internet. Eksperci przestrzegają przed deepfake’ami [online], naTemat.pl [dostęp 2021-03-17] (pol.).
  44. a b Deepfakes: A threat to democracy or just a bit of fun?, „BBC News”, 23 stycznia 2020 [dostęp 2021-03-17] (ang.).
  45. The rise of the deepfake and the threat to democracy [online], the Guardian [dostęp 2021-03-17] (ang.).
  46. Introducing deepfakes • MediaScopium [online], MediaScopium, 9 maja 2018 [dostęp 2021-03-17] (ang.).
  47. Extinction Rebellion s’empare des deepfakes [online], Journalism.design, 15 kwietnia 2020 [dostęp 2021-03-17] (fr.).
  48. XR Belgium posts deepfake of Belgian premier linking Covid-19 with climate crisis [online], The Brussels Times, 14 kwietnia 2020 [dostęp 2021-03-17] (ang.).
  49. Deepfake porn is ruining women’s lives. Now the law may finally ban it. [online], MIT Technology Review [dostęp 2021-03-17] (ang.).
  50. Urszula Lesman-2 września 2020, Deepfake podbija pornografię. Zmanipulowane filmy z gwiazdami [online], Cyfrowa, 2 września 2020 [dostęp 2021-03-17] (pol.).
  51. A.B.C. News, Video: Scarlett Johansson fights back against ‘deep-fake’ porn [online], ABC News [dostęp 2021-03-17] (ang.).
  52. Isobel Asher Hamilton, Scarlett Johansson says trying to stop people making deepfake porn videos of her is a ‘lost cause’ [online], Business Insider [dostęp 2021-03-17].
  53. Janko Roettgers, Janko Roettgers, Porn Producers Offer to Help Hollywood Take Down Deepfake Videos [online], Variety, 21 lutego 2018 [dostęp 2021-03-17] (ang.).
  54. e, Deepfakes: Auch Reddit verbannt Fake-Porn [online], heise online [dostęp 2021-03-17] (niem.).
  55. Deepnude: The Horrifying App Undressing Women [online], www.vice.com [dostęp 2021-03-17] (ang.).
  56. Skandaliczna aplikacja „rozbierająca” ubrane kobiety już dostępna. „Inwazja w seksualną prywatność” [online], INNPoland.pl [dostęp 2021-03-17] (pol.).
  57. Katyanna Quach, DeepNude deep-nuked: AI photo app stripped clothes from women to render them naked. Now, it’s stripped from web [online], www.theregister.com [dostęp 2021-03-17] (ang.).
  58. Lux Alptraum, The Scariest Thing About DeepNude Wasn’t the Software [online], Medium, 16 lipca 2019 [dostęp 2021-03-17] (ang.).
  59. [Here is the brief history...] [online], Twitter [dostęp 2021-03-17] (ang.).
  60. James Vincent, Copies of AI deepfake app DeepNude are easily accessible online – and always will be [online], The Verge, 3 lipca 2019 [dostęp 2021-03-17] (ang.).
  61. Czy deepfake – wstawianie twarzy celebrytów lub znajomych do filmów pornograficznych – jest legalny? [online], Bezprawnik, 1 lutego 2018 [dostęp 2021-03-18] (pol.).
  62. a b l, Technologia deepfake wymaga regulacji – komputerowe przeróbki stają się zagrożeniem [online], Prawo.pl, 25 stycznia 2020 [dostęp 2021-03-18] (pol.).
  63. Epoka niepewności, czyli deepfake, jako nowe narzędzie dezinformacji [online], www.ey.com [dostęp 2021-03-18] (pol.).
  64. Clarke introduces bill to combat high-tech altered videos [online], Brooklyn Eagle, 14 czerwca 2019 [dostęp 2021-03-18] (ang.).
  65. Colin Lecher, California has banned political deepfakes during election season [online], The Verge, 7 października 2019 [dostęp 2021-03-18] (ang.).
  66. California makes ‘deepfake’ videos illegal, but law may be hard to enforce [online], the Guardian, 7 października 2019 [dostęp 2021-03-18] (ang.).
  67. Newsom Signs Bill Banning ‘Deep Fakes’ Within 60 Days Of Elections [online], 4 października 2019 [dostęp 2021-03-18] (ang.).
  68. California cracks down on political and pornographic deepfakes [online], Engadget [dostęp 2021-03-18] (ang.).
  69. Bill Text – AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action. [online], leginfo.legislature.ca.gov [dostęp 2021-03-18].
  70. Biznes w czasach deepfake [online], MIT Sloan Management Review Polska, 13 września 2019 [dostęp 2019-09-25] (pol.).
  71. Marek Jeleśniański, Zanim uwierzysz – jak rozpoznać deepfake i czy deepfake to samo zło? My w dobie deepfake’ów [online], 13 lipca 2024 [dostęp 2025-05-28].