Marec 2025
Autor: Liana Pavlíková
Rozvoj umelej inteligencie priniesol mnoho pozitív, no aj viacero etických otázok a kontroverzností. Jednou z tých najproblematickejších je zneužívanie deepfake technológií a z nich vyplývajúca tvorba deepfakov. Deepfake technológie sú nástroje, ktoré používajú umelú inteligenciu a strojové učenie na vytváranie nepravdivých, ale za to realistických, videí, fotografií či zvukových nahrávok. Deepfakes sú už samotným produktom tohto procesu. Zneužívanie deepfake technológií je vysoko problematické, keďže vedie k šíreniu hoaxov, konšpiračných teórii a rôznych nepravdivých naratívov. V súčasnosti stále viac ľudí prijíma nové informácie z internetu. Internet formuje nielen ich názory, ale aj správanie, a to často bez toho, aby si to vôbec uvedomovali. Ak je teda informačný priestor zahltený nepravdivým obsahom, môže to viesť k ovplyvňovaniu názorov ľudí a zahmlievaniu rozdielov medzi pravdou a klamstvom.
Mnoho deepfakov slúži len na pobavenie a je v princípe neškodných. Väčšia časť sa však orientuje na zosmiešnenie, urážanie, šikanu či explicitný materiál. Deepfaky sú primárne cielené na ženy. Deje sa to najmä celebritám, političkám, ale aj neverejne známym ženám. Mnohokrát sú vytvárané s cieľom obťažovania, vydierania či dokonca pomsty. Deepfaky sú často vytvárané niekým, kto je obeti známy. Práve táto skutočnosť je na tom celom znepokojivá. V tomto blogu vám priblížime v čom sú hlavné problémy deepfakov a prečo cielia primárne na ženy.
Deepfaky nezasahujú všetkých ľudí rovnako, najmä pokiaľ ide o falošný obsah explicitného charakteru. Ten zasahuje primárne jednu skupinu ľudí - ženy. Podľa štúdie z roku 2019 až 96% deepfake videí bolo pornografického obsahu a až 96 % z nich zobrazovalo ženy, ktorých obrázky boli použité bez ich súhlasu. V roku 2023 sa konala ďalšia podobná štúdia, na základe ktorej sa zistilo, že až 99% celosvetového deepfake pornografického obsahu tvoria ženy. Kvalita a kvantita týchto videí sa pritom stále zvyšuje vďaka zásadnému pokroku v technológiách za posledné roky. Primárnymi dôvodmi je dostupnosť nástrojov a deepfake technológií a výskum generatívnych adverzných sietí, ktoré sú kľúčovou časťou generovania obrázkov, zvukových nahrávok či videí. Medzi rokom 2019 a rokom 2023 sa počet online deepfake videí rapídne zvýšil o znepokojivých 550%.
Jedným z najväčších problémov deepfakov je, že je ich pomerne jednoduché vytvoriť. Momentálne je možné vytvoriť 60-sekundové pornografické video zadarmo za 25 minúť len za pomoci jednej dostatočne jasnej fotky. Na vytvorenie takéhoto videa pritom ani nepotrebujete pokročilejšie počítače a lepšiu techniku. Ak je používateľ dostatočne zručný, vie si kvalitný deepfake obsah vytvoriť na akomkoľvek zariadení. Množstvo softvérov a stránok na vytváranie deepfakov je navyše verejne dostupných aj pre bežných ľudí. Zistilo sa, že každý tretí nástroj na deepfaky dokáže vytvárať pornografický materiál. Práve preto sa explicitné deepfaky stávajú tak rozšírenými.
Zneužívanie fotografii žien na vytváranie pornografického obsahu prináša aj množstvo psychických ťažkostí pre obete. Zdieľanie nepravdivých informácií a vysoký počet zhliadnutí či komentárov spôsobuje obetiam viaceré psychické problémy ako depresiu či hlbokú traumu. Verejne známe celebrity, herečky či političky sú ponižované a môžu byť vystavené silnému tlaku a neoprávnenej stigmatizácii, ktoré ničia ich kariéru. Obeťami však môžu byť aj tínedžerky a mladé ženy, ktoré ani nie sú verejne známe. Ich upravené fotografie či videá aj tak kolujú internetom.
Dokazujú to aj investigatívne články od Denníka N či Page not Found, v ktorých autori opisujú pornografické správy či fotografie kolujúce po temnejších častiach komunikačných platforiem ako Discord a Telegram. Autori týchto článkov sa rozhodli stráviť niekoľko týždňov na týchto platformách, pričom po celý čas vystupovali pod falošnou identitou. Na platformách sa objavovali nezákonné materiály od detskej pornografie až po znásilnenia či ukradnuté explicitné materiály. V mnohých príkladoch využívali používatelia práve deepfake technológie na vytvorenie falšného obsahu z fotiek ich blízkych či žien z bezprostredného okolia. Ženy a dievčatá, ktorých fotografie či videá boli zneužité pritom o tomto probléme mnohokrát nevedia. Posilňuje to však neistotu žien a obmedzuje ich slobodu v online prostredí. Mnohé ženy sa boja zdieľať svoje fotografie na internete či sociálnych sieťach práve kvôli vysokému riziku zneužitia.
Minulý rok sa na známej webstránke s veľkým obsahom sexuálneho zneužívania ľudí šírili videá upravené umelou inteligenciou z operácie GirlsDoPorn. GirlsDoPorn je americká platforma, ktorej zakladatelia boli obvinení zo sexuálneho obťažovania, vydierania a donucovania žien konať proti svojej vôli. Účinkujúce si totiž pôvodne mysleli, že idú natáčať reklamu na modeling. Pri nahrávaní však zistili, že ide o iný druh obsahu. Za dva mesiace sa na webstránke objavilo až 12 videí s účinkujúcimi ženami, ktoré boli dotlačené k natáčaniu videí pre dospelých. Tieto videá boli nedávno upravené umelou inteligenciou a začali sa opäť šíriť internetom. Namiesto tvári účinkujúcich však boli do videí pridané tváre celebrít. Zneužitým ženám, ktoré boli súčasťou prvotných videí to prehĺbilo traumu a falošné videá im mohli poškodiť reputáciu či pripomenúť minulosť aj napriek tomu, že momentálne už žijú úplne odlišný život.
Vo februári bola austrálčanka Hannah Grundy kontaktovaná emailom s linkom, ktorý viedol na stránku, kde sa nachádzalo viac ako 600 deepfake fotografii s jej tvárou. Stránka sa volala “Zničenie Hannah” a nachádzali sa tam stovky používateľov. Tí detailne písali o fantáziach o jej znásilnení. Jeden používateľ napísal: “Si v nich zviazaná. Vyzeráš vystrašene. Máš slzy v očiach. Si v klietke.”. Na stránke sa taktiež nachádzalo jej celé meno, kontakt na sociálne siete, miesto, kde bývala a dokonca aj jej telefónne číslo. Ďalší používateľ napísal: “Chcem sa schovať v jej dome a počkať kým bude sama, chytiť ju zozadu a cítiť jej strach.” Na webstránke sa nachádzali aj fotografie najmenej ďalších 60 žien, ktorých fotografie boli prevzané zo súkromných sociálnych sietí. Hannah teda došlo, že za zneužitím týchto fotografií musí byť niekto z ich blízkych. Prišli s tromi menami medzi ktorými bol aj ich blízky kamarát z univerzity. Opisovali ho ako ohľaduplného. Jednoducho typ muža, ktorý dá vždy pozor na ženy v bare, aby prišli domov bezpečne. No na konci ich pátrania po autorovi zostalo na ich liste len jeho meno. Keďže polícia nič nespravila, pár si najal vlastného digitálneho forenzného analytika a právnika. Medzitým musela Hannah neustále nosiť hodinky na meranie tepu a s partnerom sa rozhodli nasadiť kamery okolo domu a aplikácie na sledovanie lokality. Hannah a jej partner zaspávali s nožom v ich nočnom stolíku. Medzitým sa oddialili od všetkých svojich kamarátov, od celého sveta. Tento muž bol napokon zatknutý a dostal deväť rokov väzenia. Hannah ale už nikdy nebude mať pocit bezpečia, ako povedala: “nezradil si iba moje priateľstvo, ale rozbil si mi pocit bezpečia, ktorý som považovala za samozrejmosť. Svet sa mi zdá neznámy a nebezpečný, som neustále nervózna, keď môžem spať, mám nočné mory. Nadväzovanie nových priateľstiev vyzerá byť nemožné, zaťažené neustálou otázkou: mohol by tento človek byť ako ty?”
Momentálne aj napriek nemalému výskytu urážlivých a sexistických videí či fotografií neexistuje mnoho zákonov na regulovanie falošného obsahu. Európska únia prijala Akt o umelej inteligencii, čo bola celosvetovo prvá komplexná legislatíva o umelej inteligencii. Hovorí o bezpečnom, transparentnom, sledovanom a nediskriminujúcom používaní umelej inteligencie, čo zahŕňa aj deepfakes. Na konci roku 2022 vstúpili do platnosti aj dve ďalšie legislatívy - Akt o digitálnych službách a Akt o digitálnych trhoch. Cieľom oboch je vytvoriť bezpečnejší digitálny priestor, v ktorom sú chránené základné práva používateľov. Akt zavádza povinnosť firmám transparentne uviesť, ktoré pravidlá moderovania obsahu uplatňujú a aké opatrenia implementujú. Vyžaduje tiež väčšiu transparentnosť pri blokovaní obsahu, ku ktorému došlo na základe nejakej sťažnosti. Vo Veľkej Británií bol na začiatku roku 2024 zavedený zákon o bezpečnosti na internete, ktorý hovorí, že zdieľanie deepfake snímkov a videí je bez súhlasu dotknutej osoby nezákonné. Aj napriek niektorým týmto reguláciám je používanie a šírenie falošných videí a fotografií stále zásadným problémom.
Hoci sociálne siete zaviedli niekoľko nástrojov na monitorovanie deepfakov, stále je ich nedostatok a detegovanie značne zaostáva za ich rýchlo rastúcim počtom. Môžeme teda vidieť ako veľmi je jednoduché vytvárať a šíriť deepfake pornografické videá či fotografie bez akéhokoľvek následku. Vytvára to značnú neistotu medzi ženami a strach, že sa môžu veľmi jednoducho stať obeťou falošného obsahu. Ďalším problémom sú ťažkosti domôcť sa stiahnutia pornografických a intímnych fotografií z internetu.
Viacero krajín sa pokúsilo prísť s vlastnou národnou legislatívou, no obetiam dáva iba veľmi obmedzené pole právnych krokov, ktoré môžu vykonať. Ak aj v krajine existujú zákony obmedzujúce deepfakes, proces je zvyčajne neprimerane dlhý, drahý a aj emočne vyčerpávajúci. Polícia prípady často nerieši vôbec, prípadne ich nedotiahne do úspešného konca z pohľadu obeti. Zasiahnuté ženy sa tak len ťažko domôžu spravodlivosti a ich fotografie zostanú na internete aj naďalej.
Deepfake technológie predstavujú zásadnú hrozbu v modernom svete. Sú to primárne ženy, kto čelí sexistickým narážkam a kto sa stáva obeťou pornografického obsahu bez ich vedomia a súhlasu. Vytváranie a šírenie deepfakov aj naďalej rastie a problém rodovej nerovnosti ako aj bezpečnosť a súkromie na internete sú zásadnými výzvami dnešnej doby. Na vyriešenie týchto problémom bude potrebné zaviesť právne aj technické opatrenia a vzdelávať ľudí, aby dokázali rozpoznať falošný obsah od toho skutočného. Ak chceme zabrániť tomu, aby sa informačný priestor stal miestom, kde zanikne rozdiel medzi pravdou a klamstvom, je potrebné prijať rázne kroky.