Új életkor-ellenőrző rendszer
A platform saját fejlesztésű életkor-ellenőrző eszközt is bevezet, amely igyekszik garantálni, hogy mindenki a korának megfelelő élményhez jusson. Emellett létrehozták az „AI Safety Lab” nevű kutatócsoportot, hogy iparági szereplőkkel, kutatókkal és szakértőkkel együtt dolgozzanak hatékonyabb MI-biztonsági megoldásokon.
Szabályozók és szülők nyomása alatt
A döntést nemcsak szülői és szakmai aggályok indokolták, hanem komoly hatósági vizsgálatok is: az amerikai Szövetségi Kereskedelmi Bizottság (FTC) nemrég vizsgálatot indított olyan MI-cégekkel szemben – többek között a Character.AI-jal, a Metával, az OpenAI-jal és a Snap-pel –, amelyek társalgó chatbotokat kínálnak. A texasi főügyész is eljárást indított, mivel szerinte a chatbotok „szakembernek álcázzák magukat” megfelelő képesítés nélkül.
Tragédiák és a stratégiaváltás
A közelmúlt eseményei is sürgették a szigorítást: egy 16 éves fiú, Adam Raine tragédiája kapcsán a család azt állítja, hogy a ChatGPT hozzájárult gyermekük öngyilkosságához. Az OpenAI ellen ezért keresetet is benyújtottak az amerikai bíróságon. A Character.AI vezetője szerint a cég mostantól kreatív „szerepjáték-platformként” folytatja, szigorúan megkülönböztetve a szórakoztatást a társalgástól.
