A Grok korlátlan képgenerálása botrányt okozott
A botrány kirobbanása előtt az xAI bővítette a Grok Imagine funkcióit, lehetővé téve, hogy egyszerű szöveges utasításból bárki könnyen generáljon képeket a chatbottal – ezzel tágra nyitotta az utat a visszaéléseknek. A Grok integráltan működik Musk X (korábban Twitter) nevű közösségi oldalával, amelyen keresztül ezek a képek villámgyorsan eljutottak az internetre.
A kirobbanó felháborodás hatására az xAI bejelentette: a szexuális jellegű visszaélések megakadályozására a képgeneráló és -szerkesztő funkciókat csak fizető tagok számára biztosítják – ez azonban sem a hatóságokat, sem a felhasználókat nem nyugtatta meg.
Nemzetközi nyomás, elégtelen válaszok
Musk többször is kijelentette, hogy akik illegális tartalmakat készítenek vagy osztanak meg Grok segítségével, ugyanúgy felelnek tettükért, mintha magán az X-en töltötték volna fel ezeket. Azonban az eddigi válaszai – elsősorban felhasználói bejelentésekre támaszkodva – nem bizonyultak elégségesnek Malajzia, Indonézia és más országok, például India vagy Brazília számára.
Mindkét délkelet-ázsiai ország ismert a szigorú internetes pornótilalomról; a Grokra kiszabott tiltás addig marad érvényben, amíg az xAI valódi védelmet nem vezet be a nők és gyerekek védelmére. Indonézia kommunikációs minisztere szerint a beleegyezés nélküli deepfake-pornó egyértelmű jogsértés és digitális erőszak, amely az emberi méltóságot sérti.
Globális fellépés jöhet
Az Európai Unióban, az Egyesült Királyságban, Brazíliában és Indiában is vizsgálódnak a Grok által elősegített deepfake-botrány ügyében. A brit Internet Watch Foundation néhány napja állapította meg, hogy a Grokkal készített gyermekpornográf képeket órák alatt lehet előállítani, 11–13 éves áldozatokról. Amerikai demokrata képviselők már az alkalmazásboltokból való kitiltását is sürgetik, amíg Musk nem vezet be radikális változtatásokat.
Az Egyesült Államok igazságügyi minisztériuma közölte: kiemelten kezeli az MI által generált gyermekbántalmazási eseteket, és agresszíven üldöz mindenkit, aki ilyen tartalmat készít vagy birtokol. A cél: a legsebezhetőbbek védelme és a technológiával visszaélők felelősségre vonása.
