Na Západe často počúvame, by sme si dali pozor na falošné správy (fake news) a mali by sme vraj byť opatrní aj v súvislosti s informačnou vojnou, zatiaľ čo nás médiá stále bombardujú najnovšími správami a obrázkami z celého sveta. Skôr než porozmýšľame, nehovoriac o overení si faktov jednej udalosti, si našu pozornosť žiada ďalšia. Dokonca aj vtedy, keď sa nejaká správa neskôr ukázala ako nepresná, ľudí to zväčša nezaujíma, pretože ich pozornosť už smeruje k najnovšej senzácii. Máme možnosť dôverovať médiám alebo delegovať overovanie pravdy na jednu z mnohých takzvaných webových stránok na kontrolu faktov. Iní sa zase rozhodli vzdať a zobrali si za svoje slová právnika prezidenta Trumpa, Rudyho Giulianiho, ktorý vyhlasuje, že “pravda nie je pravda”, alebo že je “relatívna”.
Rozdiel medzi faktom a fikciou je ešte viac zahmlený kvôli vzniku takzvanej “hĺbkovej” technológie, ktorá uľahčuje vytváranie falošných videí tým, že sa jeden obraz nasmeruje na iný. V minulom roku boli tieto videá zverejnené na internete používateľom Reddit s názvom “deepfakes”, čo poukázalo na rôzne osobnosti, ktoré vykonávajú tvrdé pornografické akty vrátane incestu. Ich tváre boli bez súhlasu nanesené na postavy pornohercov. Hoci webové stránky ako Reddit a Pornhub tieto praktiky oficiálne odsúdili a zakázali takúto “hlbokú” pornografiu, iní považujú technológiu hlbokej techniky za dobrú obchodnú príležitosť.
Spoločnosť Naughty America, ktorá je jedným z najväčších svetových producentov pornografie v oblasti virtuálnej reality (VR), sa rozhodla využiť nepochybne lukratívny “hlboký” (deep) žáner, aby vytvorila videá, ktoré prenesú tvár jednotlivca na telo pornoherca alebo nahradia pozadie videa akýmkoľvek obrázkom, napríklad vlastným domom. Generálny riaditeľ spoločnosti Andreas Hronopoulos to trefne komentuje: “Môžem preniesť ľudí do vašej spálne.”
Mohli by sme povedať, že ide len o ďalšiu fúziu technológií a zábavy určenej na odvrátenie más ľudí od bežných krutých skutočností života. Technológia deepfake však má potenciál stať sa zbraňou a teoreticky sa môže začať používať na nekalé temné účely.
Vytváranie falošných hardcore porno videí, ktoré bavia používateľov internetu alebo trápia celebrity, je len jedna strana mince. Keďže technológia hlbokej farby sa stáva pokročilejšou, mohla by sa použiť na výrobu videoklipov, ktoré môžu ukazovať politikov alebo hocikoho iného, ako hovoria alebo robia čokoľvek na akomkoľvek mieste. Takéto videá by sa neskôr mohli použiť na vydieranie alebo na rozhýbanie verejnej mienky vo čase volieb.
Predstavte si, že po znovuzjednotení Krymu s Ruskom, by sa ukázalo, že prezident Putin prediskutoval plány na inváziu do Ukrajiny a začatie vojny s Európou. Alebo v budúcnosti sa môže objaviť video, zdanlivo ukazujúce, že sýrsky prezident Assad povolil používanie chemických zbraní proti civilistom. Tváre zranených alebo umierajúcich civilistov v jednej časti sveta by mohli byť umiestnené na zábery jednotlivcov v inej časti sveta, s použitím zmeny pozadia. Vyvolalo by sa tak verejné rozhorčenie a vydláždila by sa cesta k “humanitárnej intervencii”. Aj keby sa takéto zábery neskôr ukázali ako falošné, verejná mienka by už bola ovplyvnená a škoda pravdepodobne nezvratná. Deepfake technológia by sa tak mohla použiť na vytvorenie akéhokoľvek počtu provokácií v mene tých, ktorí majú záujem a dostatočne tučné bankové konto.
Prejdime z verejnej do súkromnej sféry. Technológia virtuálnej reality a deepfake technológia nás vnáša do sveta, ktorý umožňuje ľuďom zbaviť sa skutočnosti v prospech ich vybranej a vysnívanej fantázie, bez ohľadu na následky.
Zatiaľ čo pornografia virtuálnej reality môže mať obmedzenú úžitkovú úlohu pri poskytovaní uspokojenia jednotlivcom, ktorí nemôžu mať prirodzené sexuálne vzťahy, jej širšie využitie by sa malo nejakým spôsobom obmedziť. Nadmerné využívanie sociálnych médií malo nepriaznivý vplyv na duševné zdravie a medziľudskú komunikáciu. Prispôsobené porno virtuálnej realite bude ešte viac izolovať ľudí od seba a naruší ich schopnosť komunikovať a vytvárať zdravé spoločenské a sexuálne vzťahy v reálnom svete. To je obzvlášť znepokojujúce, keďže miera pôrodnosti vo vyspelých krajinách je už na nízkej úrovni a naďalej klesá.