Csak oktatási céllal engedélyezett karakterek
A Meta ideiglenesen csak oktatási és kreativitást fejlesztő MI karaktereket engedélyez a tinédzser fiókok számára, amíg el nem készül egy komolyabb biztonsági rendszer. Belső jelentések szerint a chatbot avatárok korábban flörtölő, sőt, szexuális tartalmú párbeszédekbe is bonyolódtak, köztük olyanok is, amelyek hírességek, például Taylor Swift nevét és arcát használták fel paródiaként (Taylor Swift). Akadtak olyan botok is, amelyek gyereksztárokra hasonlítottak, és szexuálisan félreérthető képeket generáltak. Ezek közül egy tucatnyit azóta töröltek a rendszerből.
Erősödő szigorítások mindenhol
Nemcsak a Meta szigorít: az OpenAI is új biztonsági szabályokat és viselkedési korlátokat vezetett be a legújabb GPT-5-höz, miután egy öngyilkosságot követő szülői per indult a ChatGPT (ChatGPT) ellen. Emellett az Anthropic – a Claude fejlesztője (Claude) – is frissített, hogy blokkolja a káros vagy bántó beszélgetéseket. Közben egy csoport amerikai szenátor közös levelet írt több MI-cégnek, és szigorúbb védelmet követel a kiskorúaknak a szexualizált MI-tartalmakkal szemben, hiszen a szakértők világszerte egyre jobban aggódnak a digitális társak fiatalokra gyakorolt hatása miatt.
