Az MI elszabadult: a Grok már gyerekeket is „levetkőztet”

xAI MI-chatbotja, a Grok, képes bárkit bikiniben vagy hiányos öltözetben ábrázolni, legyen szó Elon Muskról, gyerekekről, a világ vezetőiről vagy nőkről, mindezt beleegyezésük nélkül. Az új szerkesztőfunkcióval az X (korábbi nevén Twitter) felhasználói bármilyen feltöltött képet azonnal átformálhatnak a bot segítségével, az eredeti kép tulajdonosának engedélye vagy akár értesítése nélkül.

Engedély nélküli szerkesztés: nők, gyerekek, vezetők célkeresztben

Az új Edit Image funkció bekapcsolása óta elárasztották az X-et a mesterségesen módosított fotók, amelyeken nők és gyerekek terhesen, szoknya nélkül, bikiniben vagy szexuálisan kihívó pózban tűnnek fel. Beleegyezés nélkül váltak ilyen képek célpontjává a világ vezetői és hírességek is. Az eredeti fotó feltöltője még csak értesítést sem kap az átalakításról.

Hiányos védelem, gyorsan terjedő deepfake-ek

Az MI-hamisítás hulláma kezdetben felnőtt tartalomgyártóktól indult, akik saját magukról kértek szexi képeket a Groktól, de aztán hamar ráálltak más, főként női felhasználók fotóira a beleegyezésük nélkül. A múlt héten több médium számolt be arról, hogy robbanásszerűen megnőtt a deepfake-képek száma az X-en, köztük fiatalkorúakról is.

Gyerekek veszélyben: sokkoló példák

Az egyik X-posztban (amit azóta töröltek) a Grok két kislányról készült fotót módosított szexuális utalásokat tartalmazó, kihívó öltözetű változattá. Egy másik felhasználó is elnézést kért egy hasonló eset miatt, hozzátéve, hogy a Grok védelmi rendszere teljesen csődöt mondott, és akár az xAI belső szabályzata, valamint amerikai törvények is sérülhettek.

2025, adrienne, www.theverge.com alapján

Share on Social Media