Korábbi tragédiák és szülői reakciók
Az intézkedéseket részben az indokolta, hogy egy kaliforniai család pert indított az OpenAI és vezérigazgatója ellen: szerintük a ChatGPT ötletekkel látta el a fiukat, aki végül 16 évesen öngyilkos lett. Az ügyvéd szerint az OpenAI bejelentései csupán üres ígéretek, a céget csak a válságkommunikáció érdekli.
Meta és más platformok lépései
A Meta is szigorít: az Instagram, a Facebook és a WhatsApp csevegőrobotjai mostantól elzárkóznak az önbántalmazásról, öngyilkosságról, evészavarokról vagy nem megfelelő párkapcsolati témákról szóló beszélgetésektől – és ehelyett szakértői forrásokat ajánlanak. A Metánál eddig is voltak szülői felügyeleti lehetőségek.
A szakma szerint még nem elég
Orvosi kutatások, például a Psychiatric Services (Psychiatric Services) folyóiratban megjelent tanulmány szerint nagy az eltérés abban, hogyan reagálnak a legnépszerűbb MI chatbotok az öngyilkosságról szóló kérdésekre. A Rand Corporation elemzése szerint további fejlesztésre szorul a ChatGPT, a Gemini és a Claude – bár a Meta chatbotjait nem vizsgálták. A vezető kutató, McBain szerint pozitívak az új fejlesztések, ám ennél is fontosabb a független minősítések, klinikai vizsgálatok és szigorú szabályozás szükségessége, mivel a tét a tinédzserek mentális egészsége.
