Deepfake: Różnice pomiędzy wersjami

Dodane 10 637 bajtów ,  7 miesięcy temu
zagrożenia, źródła/przypisy, ilustracja
m (WP:SK, drobne techniczne)
(zagrożenia, źródła/przypisy, ilustracja)
Pojęcie ''deepfake'' pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. [[Gal Gadot]], [[Maisie Williams]] i [[Taylor Swift]]<ref>{{Cytuj |autor = Jason Koebler, Samantha Cole |tytuł = We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now |data = 2018-01-24 |data dostępu = 2019-08-14 |opublikowany = Vice |url = https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley |język = en}}</ref>.
 
Według raportu Deeptrace technologia rozwija się bardzo szybko. Na początku 2019 roku w internecie zaprezentowano 7964 filmów deepfake, dziesięć miesięcy później ich liczba wynosiła 14678<ref name=":2">{{Cytuj |autor = Rob Toews |tytuł = Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. |data dostępu = 2021-03-17 |opublikowany = Forbes |url = https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/ |język = en}}</ref>. Wiele kwestii prawnych związanych z technologią nie zostało jeszcze uregulowanych<ref name=":1">{{Cytuj |autor = Grace Shao |tytuł = What 'deepfakes' are and how they may be dangerous |data = 2019-10-14 |data dostępu = 2021-03-17 |opublikowany = CNBC |url = https://www.cnbc.com/2019/10/14/what-is-deepfake-and-how-it-might-be-dangerous.html |język = en}}</ref>.
 
== Przykłady ==
 
=== Agencja Reuters ===
[[Reuters|Agencja Reuters]] prowadzi projekty mające na celu ograniczyć negatywne skutki dezinformacyjne, które może nieść rozwój technologii deepfake. W 2019 roku we współpracy z Facebookiem udostępniła w internecie nieodpłatne materiały edukacyjne dla [[dziennikarz]]y, pozwalające na zapoznanie się z technologią i ułatwienie identyfikacji dostarczanych im materiałów<ref name=":3">{{Cytuj |tytuł = Facebook pomógł stworzyć kurs wykrywania deepfake |data = 2019-12-18 |data dostępu = 2021-03-17 |opublikowany = ANDROID.COM.PL - społeczność entuzjastów technologii |url = https://android.com.pl/news/286743-kurs-wykrywania-deepfake/ |język = pl-PL}}</ref><ref>{{Cytuj |tytuł = Deepfake |data dostępu = 2021-03-17 |opublikowany = www.reuters.com |url = https://www.reuters.com/manipulatedmedia?fbclid=IwAR13OdcgZDnEYolT2nIIcq9y4im2-mCrLCFkTPpVQfZa3adJDPhE73QYgOw |język = en}}</ref><ref>{{Cytuj |tytuł = Facebook i Reuters w kursie online uczą rozpoznawania deepfake’ów |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/facebook-i-reuters-kurs-online-jak-rozpoznac-deepfake-co-to-jest-jak-walczyc |język = pl}}</ref>. Projekt ma zapobiegać manipulowaniem dziennikarzami i tym samym tworzeniu treści w oparciu o fikcyjne źródła, które wprowadzą odbiorców błąd oraz osłabią zaufanie opinii publicznej do mediów.
 
=== Serwisy społecznościowe ===
 
W lutym 2020 roku [[Twitter]] zapowiedział, że będzie usuwać zmanipulowane treści, powstałe za pomocą technologii deepfake i dezinformujące użytkowników<ref>{{Cytuj |tytuł = Help us shape our approach to synthetic and manipulated media |data dostępu = 2021-03-17 |opublikowany = blog.twitter.com |url = https://blog.twitter.com/en_us/topics/company/2019/synthetic_manipulated_media_policy_feedback.html |język = en}}</ref><ref>{{Cytuj |tytuł = Twitter Just Released Its Plan To Deal With Deepfakes |data dostępu = 2021-03-17 |opublikowany = BuzzFeed News |url = https://www.buzzfeednews.com/article/alexkantrowitz/twitter-just-released-its-plan-to-deal-with-deep-fakes |język = en}}</ref>.
 
== Zagrożenia ==
Wraz z rozwojem technologii materiały deepfake, tworzone przez sztuczną inteligencję, staną się praktycznie niemożliwe do wykrycia i odróżnienia od prawdziwych przez użytkowników internetu, co niesie ze sobą wiele zagrożeń<ref name=":1" /><ref name=":4">{{Cytuj |tytuł = Prosty sposób na deepfakes. Skuteczny? – Sztuczna Inteligencja |data dostępu = 2021-03-17 |url = https://www.sztucznainteligencja.org.pl/prosty-sposob-na-deepfakes-skuteczny/ |język = pl-PL}}</ref><ref>{{Cytuj |autor = Tom Maxwell |tytuł = Deepfake videos of Tom Cruise show the technology's threat to society is very real |data dostępu = 2021-03-17 |opublikowany = Input |url = https://www.inputmag.com/tech/deepfake-videos-of-tom-cruise-show-just-fast-its-improving |język = en}}</ref>.
 
=== Polityka ===
[[Plik:Vladimir_Putin_warning_Americans_on_election_interference_and_increasing_political_divide.webm|mały|Przemówienie [[Władimir Putin|Władimira Putina]], ostrzegające Stany Zjednoczone przed ingerencją w wybory, wykonane technologią deepfake.]]
Nagrania [[Polityk|polityków]] bazujące na technologii deepfake mogą prowadzić do skandali [[Dyplomacja|dyplomatycznych]], a w skrajnym przypadku wywołać panikę społeczną, o ile tematyka wystąpienia będzie dotyczyć spraw niebezpiecznych, takich jak np. wypowiedzenie [[Wojna|wojny]] lub zapowiedź użycia [[Broń masowego rażenia|broni masowego rażenia]]<ref name=":4" /><ref name=":2" /><ref>{{Cytuj |autor = Thomas Davis |tytuł = How Deepfake Technology Can Become More Dangerous Than a Nuclear Weapon |data = 2020-01-15 |data dostępu = 2021-03-17 |opublikowany = Medium |url = https://towardsdatascience.com/how-deepfake-technology-can-become-more-dangerous-than-a-nuclear-weapon-9d9e6723ea13 |język = en}}</ref>. Technologia może zostać użyta do kompromitacji przeciwników politycznych i prób manipulacji głosami wyborców<ref name=":5">{{Cytuj |tytuł = "Podróbka" Toma Cruise'a podbiła Internet. Eksperci przestrzegają przed deepfake'ami |data dostępu = 2021-03-17 |opublikowany = naTemat.pl |url = https://natemat.pl/341903,tom-cruise-deepfake-aktora-z-profilu-deeptomcruise-zaalarmowal-ekspertow |język = PL-pl}}</ref><ref name=":6">{{Cytuj |tytuł = Deepfakes: A threat to democracy or just a bit of fun? |czasopismo = BBC News |data = 2020-01-23 |data dostępu = 2021-03-17 |url = https://www.bbc.com/news/business-51204954 |język = en-GB}}</ref><ref>{{Cytuj |tytuł = The rise of the deepfake and the threat to democracy |data dostępu = 2021-03-17 |opublikowany = the Guardian |url = http://www.theguardian.com/technology/ng-interactive/2019/jun/22/the-rise-of-the-deepfake-and-the-threat-to-democracy |język = en}}</ref>.
 
Deepfake może ponadto przyczynić się do szkody wizerunkowej, wynikającej z ośmieszenia polityka, jak miało to miejsce w przypadku byłego prezydenta [[Argentyna|Argentyny]]. [[Mauricio Macri]] padł ofiarą materiału deepfake, w którym jego twarz została zamieniona na twarz Adolfa Hitlera<ref>{{Cytuj |tytuł = Introducing deepfakes • MediaScopium |data = 2018-05-09 |data dostępu = 2021-03-17 |opublikowany = MediaScopium |url = https://www.visgraf.impa.br/mediascopium/introducing-deepfakes/ |język = en-US}}</ref>. W 2019 roku w internecie ukazał się film dyskredytujący [[Sophie Wilmès]]. Zawierał zmanipulowane technologią deepfake absurdalne przemówienie, w którym Sophie Wilmès sugerowała związek [[Pandemia COVID-19|pandemii COVID-19]] z wycinką lasów i kryzysem klimatycznym. Część widzów uznała film za autentyczny i kpiła z wypowiedzi, która naprawdę nigdy nie została wygłoszona<ref>{{Cytuj |tytuł = Extinction Rebellion s'empare des deepfakes |data = 2020-04-15 |data dostępu = 2021-03-17 |opublikowany = Journalism.design |url = https://journalism.design/deepfakes/extinction-rebellion-sempare-des-deepfakes/ |język = fr-FR}}</ref><ref>{{Cytuj |tytuł = XR Belgium posts deepfake of Belgian premier linking Covid-19 with climate crisis |data = 2020-04-14 |data dostępu = 2021-03-17 |opublikowany = The Brussels Times |url = https://www.brusselstimes.com/news/belgium-all-news/politics/106320/xr-belgium-posts-deepfake-of-belgian-premier-linking-covid-19-with-climate-crisis/ |język = en}}</ref>.
 
=== Dezinformacja i chaos ===
Rozwój technologii deepfake może przyczynić się do dezinformacji i chaosu, manipulacji opinią publiczną, negatywnie wpływać na zaufanie publiczne<ref name=":5" />,  spowodować osłabienie zaufania do mediów i przekazów, utrudnić pracę dziennikarzom, którzy nie będą w stanie odróżnić materiałów prawdziwych od fałszywych<ref name=":2" />.
 
Z tej przyczyny Agencja Reuters prowadzi projekty edukacyjne, skierowane do pracowników mediów<ref name=":3" />.
 
=== Przemoc wobec kobiet ===
Deepfake może być wykorzystywany jako narzędzie [[Przemoc wobec kobiet|przemocy wobec kobiet]]<ref>{{Cytuj |tytuł = Deepfake porn is ruining women’s lives. Now the law may finally ban it. |data dostępu = 2021-03-17 |opublikowany = MIT Technology Review |url = https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/ |język = en}}</ref>. Z raportu Deeptrace wynika, że 96% filmów deepfake, powstałych od września 2019 roku, zawiera treści [[Pornografia|pornograficzne]]. Przedstawiają kobiety, których wizerunki zostały wykorzystane bez wiedzy i zgody poszkodowanych<ref name=":2" />. Ofiarą padła między innymi aktorka [[Scarlett Johansson]]<ref>{{Cytuj |autor = przez Urszula Lesman-2 września 2020 |tytuł = Deepfake podbija pornografię. Zmanipulowane filmy z gwiazdami |data = 2020-09-02 |data dostępu = 2021-03-17 |opublikowany = Cyfrowa |url = https://cyfrowa.rp.pl/technologie/51596-deepfake-podbija-pornografie-zmanipulowane-filmy-z-gwiazdami |język = pl-PL}}</ref><ref>{{Cytuj |autor = A. B. C. News |tytuł = Video: Scarlett Johansson fights back against 'deep-fake' porn |data dostępu = 2021-03-17 |opublikowany = ABC News |url = https://abcnews.go.com/GMA/Living/video/scarlett-johansson-fights-back-deep-fake-porn-60135333 |język = en}}</ref><ref>{{Cytuj |autor = Isobel Asher Hamilton |tytuł = Scarlett Johansson says trying to stop people making deepfake porn videos of her is a 'lost cause' |data dostępu = 2021-03-17 |opublikowany = Business Insider |url = https://www.businessinsider.com/scarlett-johansson-stopping-deepfake-porn-of-me-is-a-lost-cause-2018-12}}</ref>.
 
Materiały pornograficzne oparte na technologii deepfake, stały się popularne w 2017 roku, głównie na platformie [[Reddit]]<ref>{{Cytuj |autor = Janko Roettgers, Janko Roettgers |tytuł = Porn Producers Offer to Help Hollywood Take Down Deepfake Videos |data = 2018-02-21 |data dostępu = 2021-03-17 |opublikowany = Variety |url = https://variety.com/2018/digital/news/deepfakes-porn-adult-industry-1202705749/ |język = en-US}}</ref>. W lutym 2018 roku Reddit zakazał publikacji pornografii deepfake<ref>{{Cytuj |autor = heise online |tytuł = Deepfakes: Auch Reddit verbannt Fake-Porn |data dostępu = 2021-03-17 |opublikowany = heise online |url = https://www.heise.de/newsticker/meldung/Deepfakes-Auch-Reddit-verbannt-Fake-Porn-3962987.html |język = de}}</ref>.
 
Zarazem w czerwcu 2019 roku powstała aplikacja DeepNude, umożliwiająca usuwanie ubrań z fotografii kobiet<ref>{{Cytuj |tytuł = Deepnude: The Horrifying App Undressing Women |data dostępu = 2021-03-17 |opublikowany = www.vice.com |url = https://www.vice.com/en/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman |język = en}}</ref>. Była szeroko komentowana w mediach, wywołała protesty organizacji działających na rzecz kobiet i środowiska prawniczego, które uznało ją za skandaliczną, nieetyczną i naruszającą elementarne zasady życia społecznego<ref>{{Cytuj |tytuł = Skandaliczna aplikacja "rozbierająca" ubrane kobiety już dostępna. "Inwazja w seksualną prywatność" |data dostępu = 2021-03-17 |opublikowany = INNPoland.pl |url = http://innpoland.pl/153279,deepnude-czyli-aplikacja-rozbierajace-kobiety-ze-zdjecia |język = PL-pl}}</ref><ref>{{Cytuj |autor = Katyanna Quach |tytuł = DeepNude deep-nuked: AI photo app stripped clothes from women to render them naked. Now, it's stripped from web |data dostępu = 2021-03-17 |opublikowany = www.theregister.com |url = https://www.theregister.com/2019/06/27/deepfake_nudes_app_pulled/ |język = en}}</ref><ref>{{Cytuj |autor = Lux Alptraum |tytuł = The Scariest Thing About DeepNude Wasn’t the Software |data = 2019-07-16 |data dostępu = 2021-03-17 |opublikowany = Medium |url = https://onezero.medium.com/the-scariest-thing-about-deepnude-wasnt-the-software-a8df4e7f239b |język = en}}</ref>. Choć została wycofana przez twórców 27 czerwca 2019 roku<ref>{{Cytuj |tytuł = https://twitter.com/deepnudeapp/status/1144307316231200768 |data dostępu = 2021-03-17 |opublikowany = Twitter |url = https://twitter.com/deepnudeapp/status/1144307316231200768 |język = pl}}</ref>, kopie powstałych materiałów wciąż są dostępne w internecie, a ich usunięcie jest praktycznie niemożliwe<ref>{{Cytuj |autor = James Vincent |tytuł = Copies of AI deepfake app DeepNude are easily accessible online — and always will be |data = 2019-07-03 |data dostępu = 2021-03-17 |opublikowany = The Verge |url = https://www.theverge.com/2019/7/3/20680708/deepnude-ai-deepfake-app-copies-easily-accessible-available-online |język = en}}</ref>.
 
=== Przestępczość ===
Technologia deepfake pozwala na tworzenie materiałów oczerniających, kompromitujących, stawiających ofiary w złym świetle, niszczenia ich reputacji i naruszenia [[Dobra osobiste|dóbr osobistych]]<ref name=":5" /><ref name=":6" />. Mogą one zostać użyte do [[Szantaż|szantażu]], próby wyłudzenia pieniędzy w zamian za brak publikacji w internecie.
 
W analizach DARPA zwrócono uwagę na utrudnienie pracy organów ścigania i sądów. Filmy deepfake, przedstawiające popełnienie [[Przestępstwo|przestępstwa]], mogą stać się materiałem dowodowym dla policji lub prokuratury i w konsekwencji doprowadzić do skazania lub ukarania osoby, która nie popełniła przestępstwa, a jej wizerunek został jedynie użyty w filmie. Technologia może być wykorzystywana do [[Nieuczciwa konkurencja|nieuczciwej konkurencji]] przez przedsiębiorców poprzez tworzenie kompromitujących materiałów oczerniających inne firmy lub ich zarządy. Ponadto dyskredytować kandydatów na ważne urzędy i spowodować trudne do naprawienia straty wizerunkowe oraz finansowe<ref name=":2" />.
 
== Obrona przed deepfake ==