Deepfake: Różnice pomiędzy wersjami

Dodane 10 689 bajtów ,  7 miesięcy temu
badania i przeciwdziałanie, źródła/przypisy, ilustracja
(→‎Przykłady: królowa Elżbieta II (grudzień 2020))
Znaczniki: Z internetu mobilnego Z wersji mobilnej Zaawansowana edycja mobilna
(badania i przeciwdziałanie, źródła/przypisy, ilustracja)
 
Pojęcie ''deepfake'' pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. [[Gal Gadot]], [[Maisie Williams]] i [[Taylor Swift]]<ref>{{Cytuj |autor = Jason Koebler, Samantha Cole |tytuł = We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now |data = 2018-01-24 |data dostępu = 2019-08-14 |opublikowany = Vice |url = https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley |język = en}}</ref>.
 
Według raportu Deeptrace technologia rozwija się bardzo szybko. Na początku 2019 roku w internecie zaprezentowano 7964 filmów deepfake, dziesięć miesięcy później ich liczba wynosiła 14678<ref>{{Cytuj |autor = Rob Toews |tytuł = Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. |data dostępu = 2021-03-17 |opublikowany = Forbes |url = https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/ |język = en}}</ref>. Wiele kwestii prawnych związanych z technologią nie zostało jeszcze uregulowanych<ref>{{Cytuj |autor = Grace Shao |tytuł = What 'deepfakes' are and how they may be dangerous |data = 2019-10-14 |data dostępu = 2021-03-17 |opublikowany = CNBC |url = https://www.cnbc.com/2019/10/14/what-is-deepfake-and-how-it-might-be-dangerous.html |język = en}}</ref>.
 
== Przykłady ==
[[File:Dictators - Kim Jong-Un by RepresentUs.webm|thumb|[[Kim Dzong Un]] o [[Demokracja|demokracji]]. Przemówienie wykonane technologią deepfake. ]]
* film z twarzą [[Kit Harington|Kita Haringtona]], w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „[[Gra o tron (serial telewizyjny)|Gra o tron]]”<ref name=LE>{{Cytuj |autor = Lisa Eadicicco, 08:42 14 Lip, 133 458 |tytuł = Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić |data = 2019-07-14 |data dostępu = 2019-08-16 |opublikowany = Business Insider |url = https://businessinsider.com.pl/technologie/nowe-technologie/deepfakes-historia-falszywych-filmow-i-pomysly-na-walke-z-nimi/s17z2p0 |język = pl}}</ref>
 
* film z twarzą [[Kit Harington|Kita Haringtona]], w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „[[Gra o tron (serial telewizyjny)|Gra o tron]]”<ref name="LE">{{Cytuj |autor = Lisa Eadicicco, 08:42 14 Lip, 133 458 |tytuł = Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić |data = 2019-07-14 |data dostępu = 2019-08-16 |opublikowany = Business Insider |url = https://businessinsider.com.pl/technologie/nowe-technologie/deepfakes-historia-falszywych-filmow-i-pomysly-na-walke-z-nimi/s17z2p0 |język = pl}}</ref>
* wideoklipy, w których twarz [[Nicolas Cage|Nicholasa Cage’a]] została nałożona na słynne sceny z filmów (początek 2018)<ref name=LE />
* nagranie przedstawiające [[Barack Obama|Baracka Obamę]], wypowiadającego ostrzeżenia (których w rzeczywistości nigdy nie powiedział) przed zagrożeniami, jakie niesie nieetyczne zastosowanie technologii cyfrowych (kwiecień 2018)<ref name=LE />
* nagranie z twarzą [[Mark Zuckerberg|Marka Zuckerberga]], ostrzegającego przed zagrożeniami, jakie niosą cyfrowe technologie (czerwiec 2019)<ref name=LE />
* udostępnienie kontrowersyjnej aplikacji internetowej DeepNude pozwalającej na tworzenie naturalistycznych obrazów nagich kobiet za pomocą przesłanych do aplikacji zdjęć prawdziwych osób (czerwiec 2019)<ref name=LE />
* film z przemówieniem [[Kim Dzong Un|Kim Dzong Una]] na temat demokracji z 2020 roku<ref>{{Cytuj |tytuł = Too real? Deepfake Putin, Kim Jong Un ads pulled from U.S. debate |data dostępu = 2021-03-17 |opublikowany = Global News |url = https://globalnews.ca/news/7368533/deepfake-vladimir-putin-kim-jong-un-ads/ |język = en-US}}</ref>,
* zainscenizowane przemówienie królowej brytyjskiej [[Elżbieta II|Elżbiety II]], nadane przez stację telewizyjną [[Channel&nbsp; 4]] (grudzień 2020)<ref>{{Cytuj stronę | url = https://www.bbc.com/news/amp/technology-55424730 | tytuł = Deepfake queen to deliver Channel 4 Christmas message | autor = | opublikowany = BBC News (online) | data = 23 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://deadline.com/2020/12/queen-elizabeth-deepfake-message-jabs-harry-meghan-prince-andrew-1234661642/amp/ | tytuł = Queen Elizabeth ‘Deepfake’ Message Jabs Prince Harry & Meghan, Prince Andrew | autor = Bruce Haring | opublikowany = Deadline (online) | data = 26 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://www.broadcastnow.co.uk/tech/framestore-reveals-behind-the-scenes-footage-of-deep-fake-queens-speech/5156324.article | tytuł = Framestore reveals behind-the-scenes footage of deep fake Queen’s Speech | autor = Max Miller | opublikowany = Broadcast (online) | data = 19 stycznia 2021 | język = en | data dostępu = 2021-01-23}}</ref>.
*film z 2021 roku z aktorem [[Tom Cruise|Tomem Cruisem]]<ref>{{Cytuj |tytuł = Ponad 11 mln użytkowników zobaczyło deepfake z Tomem Cruisem. 'Ta technologia rozwija się w szalonym tempie' |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/deepfake-tom-cruise-tik-tok-zasieg-opinie-ekspertow-hit-internetu |język = pl}}</ref><ref>{{Cytuj |tytuł = Przerażająco realistyczny deepfake Toma Cruise'a hitem internetu. Miliony wyświetleń w sieci |data = 2021-03-03 |data dostępu = 2021-03-17 |opublikowany = www.komputerswiat.pl |url = https://www.komputerswiat.pl/aktualnosci/nauka-i-technika/przerazajaco-realistyczny-deepfake-toma-cruisea-hitem-internetu-miliony-wyswietlen-w/mz0lrhf |język = pl}}</ref>.
 
== Badania i przeciwdziałanie   ==
 
=== Grupa DFDC ===
W odpowiedzi na zagrożenia związane z rozwojem technologii zawiązano grupę DFDC ([[Język angielski|ang.]] Deepfake Detection Challenge), w której pracowali specjaliści z firm [[Facebook]] i [[Microsoft]] oraz naukowcy z [[Massachusetts Institute of Technology]], [[Uniwersytet Oksfordzki|Uniwersytetu Oksfordzkiego]] oraz Uniwersytetów z Berkeley i Maryland<ref name=":0">{{Cytuj |tytuł = Facebook i Microsoft chcą skutecznie walczyć z deepfake’ami. 10 mln dolarów na nowe narzędzia |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/deepfake-co-to-jest-nowa-projekt-facebook-i-microsoft-10-mln-dolarow-na-nowe-narzedzia-dlaczego-jak-wykryc-deepfake |język = pl}}</ref><ref>{{Cytuj |tytuł = Przyszłość deepfake'ów - naucz się żyć w świecie fałszu - PTSP.pl |data = 2020-10-12 |data dostępu = 2021-03-17 |opublikowany = Polskie Towarzystwo Studiów nad Przyszłością |url = https://ptsp.pl/glebia-falszu-jaka-jest-przyszlosc-deepfakeow/ |język = pl-PL}}</ref>. Inicjatywa została powołana w sierpniu 2019 roku<ref>{{Cytuj |tytuł = Creating a dataset and a challenge for deepfakes |data dostępu = 2021-03-17 |opublikowany = ai.facebook.com |url = https://ai.facebook.com/blog/deepfake-detection-challenge/ |język = pl}}</ref>.
 
Badania koncentrowały się nad stworzeniem narzędzia umożliwiającego wykrycie filmów deepfake, walkę ze zmanipulowanymi treściami oraz działania edukacyjne. Na wsparcie grupy DFDC Facebook przeznaczył 10 mln dolarów<ref name=":0" /><ref>{{Cytuj |autor = GOGOmedia, http://gogomedia pl office@gogomedia.pl |tytuł = Nie daj się oszukać! Facebook i Microsoft ogłaszają walkę z DeepFake'ami |data dostępu = 2021-03-17 |opublikowany = www.centrumxp.pl |url = https://www.centrumxp.pl/Publikacja/Nie-daj-sie-oszukac-Facebook-i-Microsoft-oglaszaja-walke-z-DeepFakeami |język = pl-PL}}</ref>.  W 2019 roku do grupy DFDC dołączył [[Amazon.com|Amazon]]. Firma zdecydowała się wesprzeć badania naukowe kwotą miliona dolarów<ref>{{Cytuj |autor = GOGOmedia, http://gogomedia pl office@gogomedia.pl |tytuł = Amazon dołącza do Facebooka i Microsoftu w walce z DeepFake'ami |data dostępu = 2021-03-17 |opublikowany = www.centrumxp.pl |url = https://www.centrumxp.pl/Publikacja/Amazon-dolacza-do-Facebooka-i-Microsoftu-w-walce-z-DeepFakeami |język = pl-PL}}</ref><ref>{{Cytuj |tytuł = AWS supports the Deepfake Detection Challenge with competition data and AWS credits |data = 2019-10-21 |data dostępu = 2021-03-17 |opublikowany = Amazon Web Services |url = https://aws.amazon.com/blogs/machine-learning/aws-supports-the-deepfake-detection-challenge-with-competition-data-and-aws-credits/ |język = en-US}}</ref>.
 
Analizy przeprowadzone w ramach grupy DFDC potwierdziły trudności z wykrywaniem materiałów deepfake przy pomocy [[Sztuczna inteligencja|sztucznej inteligencji]] i wytyczyły obszary, w których niezbędne są kolejne prace. W 2020 roku stworzone w ramach projektu algorytmy uzyskiwały skuteczność na poziomie 65%, a w pozostałych przypadkach system nie rozpoznawał materiału deepfake lub fałszywie diagnozował jego wystąpienia w materiałach prawdziwych<ref>{{Cytuj |autor = Ashish Jaiman |tytuł = Deepfake detection is super hard! |data = 2020-07-07 |data dostępu = 2021-03-17 |opublikowany = Medium |url = https://towardsdatascience.com/deepfake-detection-is-super-hard-38f98241ee49 |język = en}}</ref>.
 
=== DARPA ===
Amerykańska Agencja [[Defense Advanced Research Projects Agency|DARPA]] ([[Język angielski|ang.]] Defense Advanced Research Projects Agency) działająca w strukturach [[Departament Obrony Stanów Zjednoczonych|Departamentu Obrony]] [[Stany Zjednoczone|Stanów Zjednoczonych]] bada technologię deepfake i angażuje się w działania mające na celu ograniczyć jej negatywne skutki, w tym: [[Dezinformacja|dezinformację]], chaos informacyjny, manipulowanie opinią publiczną, wykorzystanie technologii do popełniania [[Przestępstwo|przestępstw]] lub naruszania zasad demokracji. W ramach projektu Semantic Forensics (SemaFor) pracuje nad metodami wykrywania zmanipulowanych treści, w ramach projektu Media Forensics (MediFor) planuje działania prewencyjne<ref>{{Cytuj |tytuł = DARPA Is Taking On the Deepfake Problem |data dostępu = 2021-03-17 |opublikowany = Nextgov.com |url = https://www.nextgov.com/emerging-tech/2019/08/darpa-taking-deepfake-problem/158980/ |język = en}}</ref><ref>{{Cytuj |tytuł = DARPA Is Taking On the Deepfake Problem |data dostępu = 2021-03-17 |opublikowany = Defense One |url = https://www.defenseone.com/technology/2019/08/darpa-taking-deepfake-problem/158988/ |język = en}}</ref><ref>{{Cytuj |tytuł = DARPA chce stworzyć narzędzia do rozpoznawania tzw. deep fake'ów - CyberDefence24 |data dostępu = 2021-03-17 |opublikowany = www.cyberdefence24.pl |url = https://www.cyberdefence24.pl/darpa-chce-stworzyc-narzedzia-do-rozpoznawania-tzw-deep-fakeow}}</ref>.
 
Na prace związane z wykrywaniem technologii deepfake DARPA przeznaczyła 68 milionów dolarów<ref>{{Cytuj |tytuł = DARPA spent $68 million on technology to spot deepfakes |data dostępu = 2021-03-17 |opublikowany = Futurism |url = https://futurism.com/darpa-68-million-technology-deepfakes}}</ref>.
 
=== Agencja Reuters ===
[[Reuters|Agencja Reuters]] prowadzi projekty mające na celu ograniczyć negatywne skutki dezinformacyjne, które może nieść rozwój technologii deepfake. W 2019 roku we współpracy z Facebookiem udostępniła w internecie nieodpłatne materiały edukacyjne dla [[Dziennikarz|dziennikarzy]], pozwalające na zapoznanie się z technologią i ułatwienie identyfikacji dostarczanych im materiałów<ref>{{Cytuj |tytuł = Facebook pomógł stworzyć kurs wykrywania deepfake |data = 2019-12-18 |data dostępu = 2021-03-17 |opublikowany = ANDROID.COM.PL - społeczność entuzjastów technologii |url = https://android.com.pl/news/286743-kurs-wykrywania-deepfake/ |język = pl-PL}}</ref><ref>{{Cytuj |tytuł = Deepfake |data dostępu = 2021-03-17 |opublikowany = www.reuters.com |url = https://www.reuters.com/manipulatedmedia?fbclid=IwAR13OdcgZDnEYolT2nIIcq9y4im2-mCrLCFkTPpVQfZa3adJDPhE73QYgOw |język = en}}</ref><ref>{{Cytuj |tytuł = Facebook i Reuters w kursie online uczą rozpoznawania deepfake’ów |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/facebook-i-reuters-kurs-online-jak-rozpoznac-deepfake-co-to-jest-jak-walczyc |język = pl}}</ref>. Projekt ma zapobiegać manipulowaniem dziennikarzami i tym samym tworzeniu treści w oparciu o fikcyjne źródła, które wprowadzą odbiorców błąd oraz osłabią zaufanie opinii publicznej do mediów.
 
=== Serwisy społecznościowe ===
W 2020 roku firma Facebook poinformowała, że będzie usuwała ze swojego serwisu materiały stworzone za pomocą technologii deepfake, które mogą wprowadzić użytkowników w błąd, z wyjątkiem materiałów mających wyłącznie satyryczny lub żartobliwy charakter<ref>{{Cytuj |tytuł = Facebook będzie usuwał z serwisu materiały typu deepfake. „Dobre posunięcie, ale konieczna edukacja” |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/facebook-bedzie-usuwal-materialy-typu-deepfake-dobre-posuniecie-ale-konieczna-edukacja-dlaczego-w-jaki-sposob-jak-rozpoznac-deepfake |język = pl}}</ref><ref>{{Cytuj |autor = Associated Press |tytuł = YouTube to remove ‘deepfakes’ and ‘birther’ videos ahead of 2020 election |data dostępu = 2021-03-17 |opublikowany = MarketWatch |url = https://www.marketwatch.com/story/youtube-to-remove-deepfakes-and-birther-videos-ahead-of-2020-election-2020-02-04 |język = en-US}}</ref>.
 
W lutym 2020 roku [[Twitter]] zapowiedział, że będzie usuwać zmanipulowane treści, powstałe za pomocą technologii deepfake i dezinformujące użytkowników<ref>{{Cytuj |tytuł = Help us shape our approach to synthetic and manipulated media |data dostępu = 2021-03-17 |opublikowany = blog.twitter.com |url = https://blog.twitter.com/en_us/topics/company/2019/synthetic_manipulated_media_policy_feedback.html |język = en-us}}</ref><ref>{{Cytuj |tytuł = Twitter Just Released Its Plan To Deal With Deepfakes |data dostępu = 2021-03-17 |opublikowany = BuzzFeed News |url = https://www.buzzfeednews.com/article/alexkantrowitz/twitter-just-released-its-plan-to-deal-with-deep-fakes |język = en}}</ref>.
 
== Obrona przed deepfake ==