A kaliforniai szexuális deepfake-tilalom leállíthatja az xAI-t

A héten a kaliforniai főügyészség vizsgálatot indított az Elon Musk-féle xAI ellen, miután a Grok nevű chatbotjukat azzal vádolták, hogy nők beleegyezése nélkül készít szexuális tartalmú deepfake-képeket. Pénteken a hatóság felszólító levelet küldött a cégnek, azonnali leállítást és intézkedéseket követelve a beleegyezés nélkül készült intim képek és a gyermekbántalmazást ábrázoló anyagok előállításának megszüntetésére.

Nincs kegyelem a deepfake-gyártóknak

Rob Bonta kaliforniai főügyész hangsúlyozta, hogy az ilyen anyagok létrehozása törvénytelen, és az xAI-tól azonnali együttműködést vár. Szerinte a cég nagyüzemi szinten segíti az ilyen képek terjedését, amelyeket főként nők és lányok zaklatására használnak az interneten. Az xAI öt napot kapott arra, hogy bizonyítsa: valós lépéseket tesz az ügy kezelésére.

A Grok „spicy” módja kiverte a biztosítékot

A botrány középpontjában a Grok „spicy” módja áll, amelyet kifejezetten explicit tartalmak előállítására találtak ki. A visszaélések hulláma már túlterjedt Kalifornián: Japán, Kanada és az Egyesült Királyság vizsgálja a chatbot működését, Malajzia és Indonézia pedig átmenetileg betiltották a szolgáltatást. Bár az xAI valamelyest szigorított a képszerkesztő funkcióin, a főügyészség továbbra is tiltást követel.

Minden platform küzd a szexuális deepfake-ekkel

Az MI-alapú generátorok elterjedése súlyos problémákat okoz: nemcsak az X, hanem számos nagy internetes platform harcol a visszaélések ellen. Az aggasztó folyamat miatt már az Egyesült Államok Kongresszusa is lépett, és hivatalos választ vár az olyan cégektől, mint az X, a Reddit, a Snap, a TikTok, az Alphabet és a Meta: mit terveznek, hogy gátat szabjanak a szexuális deepfake-ek terjedésének.

2025, adrienne, techcrunch.com alapján