Növekvő fenyegetés
A fórum, egy alternatív pornográf weboldal, több száz fotót tartalmazott róla – egyedül, nyaraláson, barátaival és lakótársaival -, kísérő kommentekkel, amelyek “ribancoknak” és “kurváknak” hívták őket, arra kérve az embereket, hogy értékeljék őket vagy fantáziáljanak róluk.
A képeket feltöltő személy meghívást is tett a fórum többi tagjának: használják a Jodie-nak a privát Instagramról származó, teljesen ruhás fotóit, hogy szexuálisan explicit “deepfake” képeket készítsenek – mesterséges intelligencia segítségével digitálisan manipulált tartalmat.
„Soha nem csináltam még ilyet, de SZERETNÉM látni őt átalakítva … Boldogan beszélgetek/megmutatok róla többet is… 😀” – írták. Válaszként a felhasználók megosztották alkotásaikat: több száz szintetikus kép és videó mutatott egy női testet Jodie arcával. Néhányan az iskolai osztályteremben ábrázolták, ahogyan diáklányként egy tanár megerőszakolja. Másikak teljesen „meztelenül” mutatták őt. „Minden egyes képen szexeltem” – mondta. „A sokk a mai napig kísért engem.”
A hamis képek – amelyeket azóta eltávolítottak – a Nagy-Britanniában és világszerte egyre nagyobb számban készülő, terjesztett és eladott szintetikus, szexuálisan explicit képek és videók közé tartoznak – közösségi média alkalmazásokban, privát üzenetekben és játékkonzolok platformjain, valamint felnőtt fórumokon és pornó oldalakon.
Jogszabályi válasz
A múlt héten az Egyesült Királyság kormánya bejelentette, hogy szigorítja a szintetikus képabúzus elleni fellépést, és ígéretet tett arra, hogy kiterjeszti a jelenlegi jogi szabályozást, hogy a képek beleegyezés nélküli készítése is bűncselekmény legyen, valamint a terjesztésük, ami 2024 januárja óta illegális. Azonban a deepfake kérés – amikor valakit arra kérünk, hogy készítse el őket – várhatóan nem lesz lefedve. A kormány még nem erősítette meg, hogy a bűncselekmény beleegyezés-alapú lesz-e – amit a kampányolók szerint annak kell lennie –, vagy az áldozatoknak bizonyítani kell-e a tettes rossz szándékát.
Az Exeter külvárosában egy üzleti parkban lévő Revenge Porn Helpline központjában Kate Worthington, 28 éves, vezető gyakorlati szakember szerint határozottabb törvényekre van szükség – kiskapuk nélkül.
A helpline, amelyet 2015-ben indítottak, egy speciális szolgáltatás az intim képek visszaélésének áldozatai számára, részben a Belügyminisztérium által finanszírozva. A deepfake esetek minden idők legmagasabb szintjén vannak: 2017 óta 400%-kal nőttek a deepfake visszaélés jelentések. Azonban arányaiban még mindig alacsonyak az intim képvisszaélésekhez képest – tavaly 50 eset volt, ami az összes eset körülbelül 1%-át tette ki. Ennek fő oka, hogy drasztikusan aluljelentettek, mondja Worthington. „Nagyon gyakran az áldozat nem is tudja, hogy a képeit megosztották.”
Technológiai eszközök
A csapat észrevette, hogy sok elkövetőt a deepfake képvisszaélésben a “gyűjtőkultúra” motiválja. „Gyakran nem azzal a szándékkal készülnek, hogy a személy megtudja” – mondja Worthington. „Eladják, cserélik, kereskednek velük szexuális kielégülésért – vagy státuszért. Ha te vagy az, aki megtalálja ezt a tartalmat és megosztja, Snapchat, Insta profilokkal és LinkedIn profilokkal együtt, glorifikálnak.” Sokukat „meztelenítési” alkalmazásokkal készítik. Márciusban a Revenge Porn Helpline-t működtető jótékonysági szervezet 29 ilyen szolgáltatást jelentett az Apple-nek, akik eltávolították őket.
A Revenge Porn Helpline segíthet az embereknek az abuzív képek eltávolításában. Amanda Dashwood, 30 éves, aki két éve dolgozik a helpline-nál, azt mondja, hogy ez általában a hívók prioritása. „Ez a ‘Jaj istenem, kérem segítsenek, el kell távolítanom ezt, mielőtt bárki meglátja’” – mondja.
Ő és kollégái – nyolc nő, többségben 30 év alattiak – különféle eszközökkel rendelkeznek. Ha az áldozat tudja, hol posztolták róla tartalmat, a csapat közvetlenül a platformhoz nyújt be eltávolítási kérelmet. Néhány kérést teljesen figyelmen kívül hagynak. De a helpline partnerségben áll a legtöbb nagy platformmal – az Instagramtól és a Snapchattől a Pornhubon és az OnlyFans-en keresztül –, és az esetek 90%-ában sikerül eltávolítani a tartalmat.
Ha az áldozat nem tudja, hol posztolták a tartalmát, vagy gyanítja, hogy az szélesebb körben is megosztásra került, megkérik őket, hogy küldjenek be egy szelfit, és arcfelismerő technológiával futtatják végig (az ő beleegyezésükkel), vagy fordított képkereső eszközöket használnak. Az eszközök nem tévedhetetlenek, de képesek felismerni az interneten nyilvánosan megosztott anyagokat.
A csapat tanácsot is adhat arra vonatkozóan, hogyan akadályozzák meg, hogy a tartalmat ismét online posztolják. Olyan szolgáltatásokat irányítanak az emberek figyelmébe, mint a StopNCII, egy eszköz, amelyet a Meta finanszírozásával hozott létre az SWGFL, az online biztonsági jótékonysági szervezet, amely alatt a Revenge Porn Helpline is működik.
Az emberek feltölthetnek fotókat – valós vagy szintetikus képeket is –, és a technológia egy egyedi hash-t hoz létre, amellyel a partner platformok osztoznak – beleértve a Facebookot, Instát, TikTokot, Snapchatet, Pornhubot és Redditet. Ha valaki megpróbálja feltölteni ezt a képet, az automatikusan blokkolásra kerül. Decemberig egymillió képet hasheltünk és 24.000 feltöltést előzetesen blokkoltunk.
Rendőri kihívások
Sophie Mortimer, a helpline vezetője felidézi egy másik esetet, amikor a rendőrség azt mondta: „Nem, ez nem te vagy; ez valaki, aki úgy néz ki, mint te” – és elutasították a nyomozást. „Úgy érzem, mintha néha a rendőrség indokokat keresne, hogy ne folytassák ezeket az ügyeket” – mondja Mortimer. „Tudjuk, hogy nehezek, de ez nem csökkenti az embereknek okozott valódi károkat.”
Novemberben Sam Millar, a rendőrség helyettes rendőrfőkapitánya és az Erőszak Nők és Lányok Elleni Küzdelem Nemzeti Rendőrfőnöki Tanácsának stratégiai igazgatója egy parlamenti vizsgálóbizottság előtt azt mondta, hogy „mélységesen aggódik” amiatt, hogy a rendőrök nem értik a jogi szabályozást, és hogy a különböző esetek között ellentmondások vannak. „Még tegnap is egy áldozat azt mondta nekem, hogy 450 deepfake képes áldozattal van kapcsolatban, de csak kettőjüknek volt pozitív élménye a rendőrségi ellátásról” – mondta.
Zárszó
Jodie számára egyértelmű, hogy jobb tudatosság szükséges a deepfake visszaélések terén – mind a nyilvánosság, mind a rendőrség körében.
Miután értesült a róla készült deepfake képekről, órákat töltött a posztok átnézésével, próbálva összerakni, mi történt.
Rájött, hogy nem egy ismeretlen, hanem közeli barátja osztotta meg őket. Ő posztolt egy képet róla, amelyen őt kivágta. „Tudtam, hogy azt a képet nem tettem közzé az Instagramon, és csak neki küldtem el. Akkor jöttem rá.”
Miután Jodie és a többi nő órákon át kutatott a róluk készült grafikus anyagok között, és egy USB-meghajtón 60 oldalnyi bizonyítékkal ellátták a rendőrséget, a férfit megvádolták.
Ezt követően elítélték, és 20 hetes felfüggesztett börtönbüntetést kapott rehabilitációs kötelezettséggel és 150 óra fizetetlen munkával. A bíróság megparancsolta, hogy minden egyes áldozatnak 100 font (kb. 45 kg) kártérítést fizessen, és törölje az összes képet a készülékeiről. Azonban az ítélet – 15 esetben küldött durván sértő, illetlen, obszcén vagy fenyegető üzenetek miatt – a posztok sértő jellege miatt született, nem pedig a szintetikus képek megkérésére vonatkozó cselekedetével kapcsolatban.
Jodie kritikus a rendőrséggel szemben. „Kezdettől fogva úgy érezte, mintha nem vennék komolyan a visszaélést” – mondja. Azt is mondja, hogy „hosszú küzdelem” volt a fórumnak az eltávolításért a szintetikus képeket.
De a legnagyobb aggodalma az, hogy maga a törvény nem elég átfogó. Ha Woolf nem posztolta volna a grafikus megjegyzéseket, lehet, hogy nem ítélik el. És a kormány által javasolt törvény alapján – az eddig közzétett részletek alapján – az ő cselekedete, amely során hamis képeket kért Jodie-ról, nem lenne konkrétan bűncselekmény.
Az Igazságügyi Minisztérium szerint már most illegális valakinek bűncselekményt elkövetésében segíteni – ami lefedné a szintetikus képek kéréssel való visszaélést. De Jodie szerint: „Meg kell akadályozni, és egyértelművé kell tenni a CPS számára, hogy döntést hozzon a vádemelésről. Miért hagynánk, hogy ez a kiskapu létezzen?”
