Cserekereskedelem és vizsgálatok
Úgy tűnik, hogy az elkövető — akit azóta letartóztattak — Jane Doe 1 MI-vel készült képeit Telegram-csoportokban csereeszközként használta, több száz felhasználóval kereskedve más gyerekek explicit tartalmaiért. A pert indítók állítják, hogy az összes ilyen tartalmat a Grok készítette. A kereset kiemeli: az xAI nem tesztelte kellően a fejlesztett funkciók biztonságát, a Grok pedig hibás termék.
Szabályozás és felelősség
A botrány nyomán több hatósági vizsgálat indult, illetve a Szenátus januárban elfogadott egy törvényt, amely lehetővé teszi az áldozatoknak, hogy bepereljék az MI által létrehozott képek készítőit. Az úgynevezett Vedd le törvény (Take It Down), amelyet Donald Trump elnök 2025-ben írt alá, májustól további előírásokat léptet életbe.
Az xAI reakciója
Bár az X korlátozásokat vezetett be a Grok képszerkesztési funkcióira, ezeket továbbra is meg lehet kerülni. Az X azt állítja, hogy bármely felhasználó, aki illegális tartalmat készít vagy kér a Groktól, ugyanúgy felelősségre vonható, mintha maga töltött volna fel ilyen anyagot. Az xAI nem válaszolt az újságírói megkeresésekre.
Kártérítést követelnek az áldozatok
Az áldozatok ügyvédje szerint elfogadhatatlan, hogy egy milliárd dolláros cég MI-je gyermekek iskolai és családi fotóiból bántalmazó tartalmat gyártott, amelyeket később bűnözők egymás között cseréltek. A kereset kártérítést és a Grok további ilyen tartalmat előállító funkcióinak azonnali leállítását követeli.
