Egyértelmű visszaélés
Úgy tűnik, hogy még az elkövetők közül is sokan tisztában vannak ezzel, akik tipikusan ingyenes vagy olcsó eszközöket használnak arra, hogy “levetkőztessék” az áldozatok ártalmatlan fotóit, majd a hamis meztelen képeket körbeküldik az iskolában vagy az online ismerőseiknek. Egy meglepő friss felmérés azt mutatja, hogy egyre szélesebb körű egyetértés alakul ki a 20 év alatti fiatalok körében arról, hogy a hamis meztelen képek készítése és megosztása egyértelműen visszaélés.
Ez egy kis “jó hír” a deepfake meztelen képek frontján, jegyezte meg Melissa Stroebel, a Thorn kutatási igazgatója. Legalább egy felmérés szerint a deepfake pornográfia már a felnőttek körében normalizált szórakozássá vált, az 1522 amerikai férfi deepfake pornó felhasználó 74 százaléka állította, hogy “nem érez bűntudatot” a megtekintése miatt. Eddig a felnőttek nézeteltérései a deepfake pornó körüli társadalmi normákról káoszt okoztak az iskolákban. Pennsylvaniában egy iskola be is zárt, miután az igazgató állítólag figyelmen kívül hagyta a jelentéseket arról, hogy egyetlen diák olyan hamis meztelen képeket készített, amelyek idővel közel 50 diáklányt céloztak meg.
De ahogy a barátaik és osztálytársaik sérülnek, úgy tűnik, sok tinédzser kezdi megérteni, hogy a mesterséges intelligencia hozzájárulás meztelen képek generálására történő használata nem rendben lévő dolog.
A fiatalok 84 százaléka “elsöprő mértékben elismeri”, hogy a deepfake meztelen képek visszaélésnek számítanak, és károsítják az ábrázolt áldozatot.
Az áldozatok többsége lány, de fiúk is célponttá válnak
Amióta a levetkőztető alkalmazások általánosabbá váltak, az áldozatok többsége nő volt, de fiatal férfiakat is célba vettek, állapította meg a Thorn, több kutatást sürgetve minden fiatal tapasztalatairól. Ez a tendencia talán segített elmozdítani az általános hangulatot, legalábbis a fiatalok körében, a szexuális bántalmazás puszta viccként való védelméről. Stroebel meglepődött, hogy a legtöbb fiatal válaszadó már nem találta viccesnek.
“Mindenki látni fogja őket, zavarba jönnek, ” mondta egy 13 éves fiú válaszadó. Egy másik férfi válaszadó, 18 éves, úgy tűnt, még jobban megérti a komplexitást, kifejtve, hogy “ez dehumanizálja a személyt, mivel beleegyezés nélkül használják őket élvezetre.”
“Számomra igazán meglepő és nagyon reményt keltő, hogy a gyerekek világosan látják ezt a témát,” jegyezte meg Stroebel, különösen a korábbi felmérési eredményekhez képest, amelyek szerint sok felnőtt férfi nem gondolja, hogy bármi baj lenne a hamis meztelen képekkel.
Miért csinálják a fiatalok?
Stroebel megemlítette, hogy mivel a fiatalok digitális bennszülöttek, nagyobb valószínűséggel válnak az olyan feltörekvő technológiák korai alkalmazóivá, mint a levetkőztető alkalmazások; sajnos éppen egy olyan életszakaszban vannak, amikor valószínűleg kockázatosabb viselkedéseket vállalnak. A hamis meztelen képek készítésének motivációi között szerepelt a “szexuális kíváncsiság, élvezetkeresés, bosszú” és a kortársnyomás, állapította meg a Thorn.
Egy 14 éves fiú azt állította, hogy azért készített deepfake meztelen képeket, hogy visszavágjon egy zaklatónak.
Egy évvel idősebb, egy másik tinédzser fiú azt mondta, csak “látni akarta, hogyan nézne ki.”
“Fogadásból tettem,” vallotta be egy 18 éves női válaszadó, míg egy 18 éves férfi bevallotta, “felhevült állapotban voltam, nem gondolkodtam tisztán.”
A válaszadók mindössze 9 százaléka vitatta a károkat, racionalizálva az MI által generált meztelen képek készítésére, megtekintésére vagy megosztására vonatkozó döntéseiket, azt állítva, hogy senki sem sérül. A legtöbben, akik tagadták a károkat, ragaszkodtak ahhoz, hogy a képek nem okozhatnak valódi kárt, mert hamisak, míg mások azt sugallták, hogy az áldozatok fizikailag nem sérülnek, vagy lekicsinyelték az okozott érzelmi fájdalom súlyosságát.
“Amint mindenki tudja, hogy deepfake-ről van szó, a pánik és félelem minden érzése eltűnik,” vélekedett egy 16 éves lány válaszadó. “Ez nem is te vagy valójában, szóval nincs nyomás. Egy kicsit stresszes, de valójában nem az ő testük.”
Egy 13 éves fiú válaszadó egyetértett azzal, hogy ez erkölcstelen, de végső soron nem káros, mondván, “te döntöd el, mi az, ami megbánt. Persze, rossz deepfake meztelen képeket készíteni, de végső soron ez hamis.”
Megosztási minták és válaszok
A Thorn felmérése azt mutatja, hogy a tinédzsereknek árnyaltabb gondolataik vannak a deepfake meztelen képekről, mint amit egyes szakértők várnának. A legtöbb megkérdezett fiatal olyan online eszközöket használ, mint a blokkolás vagy bejelentés, amikor szembesül a deepfake meztelen képekkel. De több mint a felük (57 százalék) offline segítséget keresett, mondta a Thorn, leggyakrabban szülőhöz, iskolai hatósághoz, barátokhoz vagy rendőrséghez fordulva. Annak biztosítása érdekében, hogy a fiatalok továbbra is segítséget kérjenek, több támogató erőforrásra van szükség, mondta a Thorn felmérése, beleértve a segélyvonalakat és a jogi segítségnyújtást.
Intézményi válaszok szükségessége
Minden iskolának sürgősen ki kell dolgoznia egy explicit politikát, amely világossá teszi a szülők és diákok számára, hogyan reagál az iskola, amikor egy deepfake meztelen képekkel kapcsolatos botrány kitör, említette Stroebel. Ennek válságkezelési terveket is tartalmaznia kell, mondta Duffield.
“Az oktatók standardizált irányelveket állíthatnának fel a deepfake incidensek kezelésére, erőforrásokat biztosíthatnának oktatók és szülők számára, és együttműködhetnének a bűnüldöző szervekkel a jogi kihívások kezelésében,” mondta Duffield.
“Nincs egységes intézményi válasz, akár a politikai szintről, a családi egység szintjéről, az iskolai szintről beszélünk, és a normalizáció végül akkor létezik, amikor széles körben elfogadott és anticipált,” mondta Stroebel. “Ha túl sokáig nincs intézményi válasz”, amely kifejezetten tisztázza, “hogy ez káros viselkedés, akkor ez [arról szól], hogy egyéni vélemény van-e arról, hogy ez káros-e vagy sem,” mondta Stroebel.
Ez azzal a kockázattal jár, hogy a mai hiányzó standard marad a status quo, és “az irányítás annak a személynek a kezében marad, aki eldönti, hogy készít-e nem-konszenzuális visszaélési képeket vagy sem,” mondta Stroebel.
Sok tinédzser elmondta a Thornnak, hogy már elismerik a visszaélést, és már kérnek segítséget. Ahogy egy 15 éves lány magyarázta a Thornnak, “még ha nem is valódi”, az áldozatoknak jelenleg “nincs módjuk bizonyítani ezt, és nem tagadhatják egyszerűen, mert az arcuk valószínűleg rajta van.”
