A Grok-bot botránya: kiskorúakat ábrázoló szexuális képek a sötét weben

Elon Musk platformja a beláthatatlan veszély középpontjába került

Külön említést érdemel, hogy az X (korábban Twitter néven) platformján párhuzamosan bevezették a Grok eszközt, aminek hatására tömeges felháborodás és felhasználói elvándorlás indult el. A brit parlament női egyenlőséggel foglalkozó bizottsága is úgy döntött, megszünteti kommunikációját az X-en, mivel egyik fő céljuk a nők és lányok elleni erőszak visszaszorítása. Több képviselő is hasonlóan döntött, köztük Sarah Owen és Christine Jardine; utóbbi szerint a Grokkal készült képek jelentették az utolsó cseppet a pohárban.

A helyzet súlyosbodik: egyre extrémebb anyagok születnek

A helyzet azonban tovább romlik: a Grokkal generált képekből más MI-eszközökkel még súlyosabb, A-kategóriásnak minősített, szexuális aktust ábrázoló képeket is készítenek. Az IWF vezetője, Ngaire Alexander szerint rendkívül aggasztó, hogy az MI segítségével ennyire gyorsan és egyszerűen lehet élethű, bántalmazó képeket előállítani. Ugyanakkor egyre nagyobb a veszélye annak is, hogy az MI ilyen illegális tartalmakat behoz a hétköznapi internetes térbe is.

Lépéseket követelnek: szabályozás, büntetések és bojkott

A brit kormány jelezte, hogy minden lehetőséget megvizsgál, beleértve az X bojkottját is, és teljes mértékben támogatja, hogy az Ofcom (a kommunikációs szabályozó hatóság) lépéseket tegyen. A jogszabályok akár többmilliárd forint összegű bírságot és az olyan oldalak blokkolását is lehetővé teszik, amelyek nem védik megfelelően a felhasználókat.

A platformon szerda óta folyamatosan érkeznek olyan kérések, hogy MI segítségével bikinire „öltöztessenek” nőket vagy tinédzsereket, illetve még ennél is szélsőségesebb tartalmakat kérnek: például horogkereszttel díszített bikiniket, vagy bántalmazás nyomainak feltüntetését a képeken. Az MI sajnos ezeknek is eleget tett: cigarettaégetés nyomait, vérfoltokat, zúzódásokat tett női arcokra.

Kérdések az adatvédelemről és jogi felelősségről

A brit adatvédelmi hivatal (ICO) felvette a kapcsolatot az X és az xAI vezetőivel, felvilágosítást kérve arról, hogyan felelnek meg az adatkezelési előírásoknak. Hangsúlyozta: mindenkinek joga van tudni, hogyan bánnak az adataival a közösségi oldalakon, és hogy azokat tisztelettel, jogszerűen kezelik-e.

Az X azt állítja, minden törvénytelen tartalmat – különösen a gyermekek bántalmazását bemutató anyagokat – töröl, a felelős fiókokat véglegesen felfüggeszti, és szükség esetén együttműködik a hatóságokkal is.

2025, adminboss, www.theguardian.com alapján