Ameriški CNN navaja primer Rume (ime je zaradi zaščite zasebnosti spremenjeno), ki je leta 2021 med kosilom na svoj telefon prejela več sporočil. Ko jih je odprla, je sledil šok: nekdo je z njenega družbenega omrežja ukradel fotografije njenega obraza, jih prilepil na gole fotografije in razširil v skupinskem klepetu na aplikaciji Telegram.
Komentarji v skupini so bili ponižujoči in vulgarni, sporočila neznanca pa polna groženj in zbadanj, da policija storilcev nikoli ne bo odkrila. »Ali ni zabavno … gledati svoj lasten seks video?« ji je pisal napadalec.
Primer Rume ni osamljen. Razvoj umetne inteligence grozi vsakomur, da bo postal žrtev eksplicitnih globokih ponaredkov, ne glede na to, ali je kadarkoli v resnici posnel ali delil svoje intimne fotografije. Južna Koreja se je že prej soočala s spolnimi digitalnimi zločini, od skritih kamer v javnih prostorih do razkritij v skupinah na Telegramu, v katerih so ženske izsiljevali z objavo ponižujočih vsebin.
Zdaj pa so globoki ponaredki (deepfake) povzročili novo grožnjo, še posebej v šolah. Po podatkih južnokorejskega ministrstva za izobraževanje je bilo med januarjem in novembrom lani več kot 900 dijakov, učiteljev in šolskih delavcev žrtev takšnih kaznivih dejanj.
Oblasti so zato ustanovile krizno enoto, septembra 2024 pa je parlament sprejel spremembo zakonodaje. Posedovanje in ogled posnetkov pornografije, ki so bili ustvarjeni kot globoki ponaredki, se zdaj kaznuje z do tremi leti zapora ali denarno kaznijo v višini do 30 milijonov vonov (več kot 20.000 evrov). Proizvodnja in distribucija takšnih posnetkov pa lahko prinese do sedem let zapora.
Kljub tem ukrepom je učinkovitost preiskav vprašljiva, saj so od 964 prijavljenih primerov policisti izvedli le 23 aretacij.
Žrtve prevzemajo pobudo
Ruma je bila stara 27-let, ko se je začela njena nočna mora. Ko je primer prijavila policiji, so ji povedali, da bodo zahtevali uporabniške podatke od Telegrama, a da so možnosti za pridobitev teh informacij majhne.
Po mesecih neučinkovite policijske preiskave je skupaj s sošolci poiskala pomoč aktivistke Won Eun-ji, znane po razkritju največje afere spolnega izkoriščanja na Telegramu leta 2020. Won se je pod krinko infiltrirala v skupino, kjer so krožile Rumine slike, in skoraj dve leti zbirala dokaze. Nato je s policijo organizirala akcijo, ki je pripeljala do aretacije.
Dva nekdanja študenta prestižne Univerze v Seulu sta bila maja lani aretirana. Glavni storilec je bil obsojen na devet let zapora, njegov sostorilec na tri leta in pol.
V sodbi je zapisano, da so storilci "žrtve spolno poniževali in uničevali njihovo dostojanstvo" s pomočjo fotografij s podelitev diplom, porok in družinskih srečanj.
Čeprav je Ruma zadovoljna z izrečenimi kaznimi, poudarja, da gre šele za prvo zmago. "Pot do resnične spremembe in pravice je še dolga," je dejala.
Javno pomanjkanje empatije
Druga žrtev, ki jo opisuje CNN, srednješolska učiteljica Kim, je bila šokirana, ko jo je dijak opozoril na montirane fotografije njenega telesa, objavljene na omrežju Twitter (zdaj X). Slike, ki so z naprednimi orodji umetne inteligence delovale srhljivo realistično, so Kim povsem pretresle.
Ker je postopek identifikacije storilca preko uradnih poti trajal predolgo, sta s kolegico sprožili lastno preiskavo in razkrili, da je storilec njun tihi in introvertirani dijak. Kljub kazenskemu postopku Kim priznava, da jo je dogodek trajno zaznamoval, prav tako pa je razočarana nad javnim mnenjem, ki pogosto zmanjšuje težo teh kaznivih dejanj.
Pritisk na družbena omrežja
Družbena omrežja kot je Telegram so dolgo veljala za zatočišče anonimnih storilcev. Po aretaciji direktorja Telegrame Pavla Durova v Franciji pa je podjetje napovedalo tesnejše sodelovanje z oblastmi pri boju proti ilegalnim vsebinam. V Južni Koreji je Telegram vzpostavil posebno linijo za odstranjevanje nezakonitih vsebin in izbrisal več kot 140 posnetkov na zahtevo oblasti.
Aktivistka Won spremembe pozdravlja, a opozarja, da so ukrepi prišli prepozno. "Če se Telegram ne bo bistveno izboljšal, ga je treba odstraniti iz trgovin z aplikacijami," je dejala za CNN. Januarja letos so korejske oblasti prvič uspešno pridobile podatke uporabnikov Telegrama v povezavi s spolnimi kaznivimi dejanji. Aretiranih je bilo 14 oseb, med njimi šest mladoletnikov.
