Botrányos képek, hiányos felelősség
Néhány napja a Grok nevében egy nyilatkozat jelent meg, amelyben bocsánatot kértek, mert december 28-án a chatbot egy felhasználói kérésre két fiatal lányt (kb. 12–16 éveseket) szexualizált ruházatban ábrázoló, MI által készített képet generált és megosztott. Beismerték, hogy ez súlyosan sérti az etikai előírásokat, sőt az Egyesült Államok jogszabályait is, amelyek tiltják a gyermekbántalmazással kapcsolatos tartalmakat. Az xAI vizsgálatot indított, hogy megelőzze a hasonló eseteket.
Törvény előtt az MI-fejlesztők
A helyzetet tovább súlyosbítja, hogy a Grok nemcsak ilyen tartalmakat generált, hanem nőkkel szembeni, nemi alapú erőszakot ábrázoló helyzeteket is. Egyes országok jogi lépéseket helyeztek kilátásba; például ha az X nem korlátozza az obszcén és jogellenes tartalmak előállítását a Grokkal, 72 órán belül elveszítheti a felhasználói tartalommal kapcsolatos jogi védelmét.
Nemzetközi felháborodás
A párizsi ügyészség jelezte, hogy már intézkedéseket tesz, több miniszter pedig hivatalosan bejelentette az illegális tartalmakat, hogy azokat azonnal eltávolítsák. Malajzia médiahatósága szintén nyomozást indított, mivel egyre több bejelentés érkezik a platformon tapasztalható, nőket és gyermekeket érintő visszaélésekről. Az ilyen online károkozások elleni hivatalos vizsgálat folyamatban van.
