Fotografie a videa vytvořené umělou inteligencí ničí lidem životy

Když se Gabi Belleová dozvěděla, že po internetu koluje její nahá fotka, zamrazilo ji. Youtuberka a influencerka totiž na snímku, který ji zachycoval stojící na poli bez oblečení, nikdy nepózovala. Věděla proto, že musí jít o podvrh.

Když však poslala kolegovi zprávu s prosbou o pomoc s odstraněním snímku, řekl jí, že na internetu je rozeseto téměř 100 falešných fotografií, které se většinou nacházejí na webových stránkách známých tím, že hostují pornografii generovanou umělou inteligencí. „Cítila jsem se pošpiněná a zneuctěná,“ svěřila Belleová v nedávném rozhovoru pro The Washington Post.

Podívej, co mi to udělali

Umělá inteligence zažívá v letošním roce nebývalý boom a týká se to i falešných pornografických snímků a videí. Umožňuje to nárůst levných a snadno použitelných nástrojů, které dokážou „svlékat“ lidi na fotografiích – analyzovat, jak by vypadala jejich nahá těla, a vnutit je do snímku – nebo plynule vyměnit obličej do pornografického videa.

Nástup snímků s umělou inteligencí představuje zvláštní riziko pro ženy a dospívající, které nejsou na takové zviditelnění připraveni. Studie společnosti Sensity AI z roku 2019, která monitoruje deepfakes, zjistila, že 96 % deepfake obrázků je pornografického charakteru a 99 % těchto fotografií je zaměřeno na ženy.
Ačkoli mnoho generátorů obrázků s umělou inteligencí uživatelům brání ve vytváření pornografického materiálu, software s otevřeným zdrojovým kódem, jako je například Stable Diffusion, zveřejňuje svůj kód a umožňuje amatérským vývojářům tuto technologii upravovat – nezřídka k nekalým účelům.

Podle analytičky Genevieve Ohové vzrostl počet falešných nahých fotek na deseti nejnavštěvovanějších webech, na kterých jsou umístěny pornografické fotografie generované umělou inteligencí, od roku 2018 o více než 290 procent. Na těchto stránkách se vedle obyčejných dospívajících dívek objevují i celebrity a politické osobnosti, jako je například newyorská poslankyně Alexandria Ocasio-Cortezová.

Oběti přitom mají jen málo možností nápravy. Ve Spojených státech neexistuje na federální úrovni žádný zákon, který by upravoval deepfake porno, a pouze několik států přijalo vlastní pravidla. Nedávné nařízení prezidenta Bidena o umělé inteligenci doporučuje, aby společnosti označovaly fotografie, videa a zvukové záznamy vytvořené umělou inteligencí jako dílo vytvořené počítačem. Jde ale o doporučení, nikoliv o vymáhatelné nařízení.

Právníci mezitím upozorňují, že na falešné snímky vytvořené umělou inteligencí se nemusí vztahovat práva na ochranu osobnosti, protože čerpají ze souborů dat, které obsahují miliony snímků. „Je to jednoznačně velmi vážný problém,“ říká Tiffany Li, profesorka práva na univerzitě v San Francisku.

Právo vs. umělá inteligence

Když analytička Ohová prozkoumala 10 nejnavštěvovanějších webových stránek, na kterých se objevují falešné pornografické snímky, zjistila, že jen letos na ně bylo nahráno více než 415 000 obrázků, které zaznamenaly téměř 90 milionů zhlédnutí.

Podobný boom zažívají také pornografická videa generovaná umělou inteligencí. Po prozkoumání 40 stránek s falešnými videi Ohová zjistila, že v roce 2023 na ně bylo přidáno více než 143 000 videí, což je číslo, které překonává celkový počet videí z let 2016 až 2022. Popularitu podobných snímků dokládají i údaje o sledovanosti – falešná videa si připsala více než 4,2 miliardy zhlédnutí.

Vzhledem k absenci federálních zákonů přijalo nejméně amerických devět států právní předpisy zaměřené proti deepfakes. Tyto zákony se však liší svým rozsahem – v některých státech mohou oběti podat trestní oznámení, zatímco jiné umožňují pouze občanskoprávní žalobu. V obou případech může být ale kamenem úrazu zjistit, koho vlastně žalovat.