O takzvaných deepfakes jste už nejspíš slyšeli. Není to dlouho, co se na sociálních sítích šířilo video, ve kterém Mark Zuckerberg říká: "Na chvíli si představte tohle: jeden muž má totální kontrolou nad ukradenými daty miliard lidí. Všechna jejich tajemství, jejich životy, jejich budoucnost…" Jenže zakladatel Facebooku ve skutečnosti nic takového (alespoň ne na kameru) neřekl, přesvědčivé video je vytvořeno pomocí umělé inteligence. Jde o jeden z případů, kdy se nám technologie vymyká z rukou. Rychlost, se kterou se vyvíjí, je znepokojivá, vytvořit podobné video je každým dnem jednodušší.
Politika stranou
O tom, jak se k nebezpečným deepfakes postavit a jak s nimi bojovat, se diskutuje uvnitř technologických gigantů, jako je Facebook, nebo třeba v americkém Kongresu. Deepfakes se v médiích spojují především s obavami ze šíření dezinformací: příjemce nedokáže rozpoznat, zda sleduje originální, nebo falešné video. Někteří mají strach z možného ovlivňování veřejného mínění prostřednictvím falešných politiků a známých osobností, kterým věříme. Ale první video, při kterém byla použita umělá inteligence, nebylo to proslavené s Barackem Obamou. Jejich původ a zároveň stále největší využití je v jiném odvětví - v pornu.
V roce 2017 uživatel sítě Reddit s přezdívkou "deepfakes" zveřejnil pornografické video, ve kterém účinkovala izraelská herečka Gal Gadotová, známá ze snímku Wonder Woman. Tedy přesněji: její obličej, "přidělaný" jiné ženě, která se ve videu ve skutečnosti objevila. Od té doby se podobných videí na internetu objevilo nespočetné množství. Stejně tak se nespočet známých (i neznámých) žen nevědomě stalo obětí algoritmů umělé inteligence, respektive těch, kteří falešná videa vytváří nebo taková videa sledují a tím jiným umožňují na nich vydělávat. Finanční motivace tvůrců je značná a videa vypadají čím dál tím uvěřitelněji.
"Superschopnost", co prý předběhla dobu
Minulý týden se v médiích objevila zpráva, že z trhu byla stažena aplikace s názvem Deepnude. Měla sloužit k tomu, že uživatel mohl jedním kliknutím zbavit oblečenou ženu (ano, tato aplikace se dá aplikovat pouze na ženy) na fotografii "nežádoucího" oblečení. Kouzelné brýle? Až tolik ne, protože nahé části těla samozřejmě ve skutečnosti nepatří konkrétní ženě, ale algoritmy spolu s databází více než deseti tisíc fotek zařídí, aby to tak vypadalo.
Jestli jde o podvrh, nebo jsou lechtivé fotky pravé, nakonec není tak důležité: ztráta kontroly nad vlastním tělem, pocit hanby a zneužití jsou pro dotčenou ženu stejné. Motto aplikace je "superschopnost, kterou jste vždycky chtěli mít". Opravdu? Rozhodně to neplatí, pokud jste žena, které vaše "superschopnost" může ublížit.
Několik hodin poté, co o aplikaci vyšel článek na Vice.com, server, na kterém se dala stáhnout, zkolaboval. Nápor zájemců byl obrovský, jenže vedle toho se na oficiálním twitterovém účtu @deepnudeapp objevilo prohlášení o stažení aplikace. Autoři z Estonska, kteří radši zůstali anonymní, přiznali, že se jim její šíření vymklo z rukou a obávají se zneužití. (Zvláštní, že je to nenapadlo dřív.) Svou výpověď uzavřeli konstatováním, že na jejich "pokrokovou aplikaci" svět ještě není připravený.
Opravdu si někdo myslí, že uživatelky v on-line světě budou někdy připraveny na to, že je kdokoliv bude moct vidět nahé? To se plete.
Je dobře, že se nezodpovědní a ziskuchtiví tvůrci lekli (doufejme) toho, co stvořili, a prodej aplikace zastavili, jenže každý přece ví, a autoři to sami přiznávají, že co se jednou objeví na internetu, tam už zůstane.
"Jistě se nějaké kopie objeví na webu, ale nechceme být ti, kteří ji prodávají," napsali k tomu. Pod tweetem se kromě komentářů jako "děláte chybu, když to nebudete vy, tak někdo jiný" začaly objevovat i nabídky typu "za pět dolarů pošlu link ke stažení". Pandořina skříňka je otevřena. Ženy, mějte se na pozoru, jaké fotky zveřejňujete a kdo je může vidět.
Vstup na vlastní nebezpečí
On-line prostor se stává pro ženy stále hůře obyvatelným i z dalších důvodů. Sociální sítě mají vliv na to, jak mladé dívky (více než chlapci) vnímají samy sebe a své tělo. Zejména na Instagramu mají sklony srovnávat se s ostatními, odvozovat míru své spokojenosti od počtu srdíček a lajků, hodnocení druhých, často úplně cizích lidí. Nedávná studie ukázala, že 40 procent náctiletých dívek v Británii se setkalo s kyberšikanou a sexuálním obtěžováním na internetu. Není těžké si představit, jak by taková "deepnude" aplikace mohla být zneužívána k šikaně, vydírání nebo obtěžování (nejen) mladých dívek, které ztrácejí kontrolu nad obsahem zveřejněným na svých sociálních profilech.
Deepfakes vidíme jako hrozbu pro demokracii. Ale nezapomínejme na ženy, které jsou obětí jiných deepfakes, "vizuálních dezinformací" o nich samých. Následky nejsou o nic méně fatální. Mysleme na to, kolik žen se denně potýká se sexuálními narážkami v kyberprostoru, se šikanou a předsudky. To všechno jsou důvody, proč on-line prostor může být pro ženy nebezpečným, toxickým místem.
