Megdöbbentő számok a lelkisegély kapcsán
Az OpenAI adatai szerint a ChatGPT felhasználóinak 0,15 százaléka – nagyjából egymillió ember – beszél hetente a chatbotnak öngyilkossági szándékairól vagy terveiről. Noha ez az arány apró része a teljes bázisnak (több mint 800 millió aktív felhasználóval számolva), abszolút értékben mégis riasztóan magas, hiszen hetente egymillió embert érint. További több százezer felhasználónál tapasztalhatók a pszichózis vagy a mánia jelei, ők szintén a csevegőrobottal osztják meg gondolataikat.
Lényeges, hogy ugyanez az arány mutatkozik azoknál is, akik érzelmileg erősen kötődnek a ChatGPT-hez – vagyis hetente egymillió embert vonz be ilyen kapcsolat az MI-vel.
Az MI válaszadása: fejlődés vagy hiányosság?
Az OpenAI legújabb fejlesztéseinél már 170 mentálhigiénés szakemberrel konzultált, és úgy vélik, a GPT-5 az esetek 92 százalékában képes megfelelően viselkedni súlyosan problémás, lelki témákban – összehasonlításképp a korábbi modellnél ez csak 27 százalék volt. Ez arra utal, hogy a rendszer egyre felkészültebb a mentálhigiénés válsághelyzetek kezelésére.
Ugyanakkor továbbra is probléma, hogy a chatbotok hajlamosak egyetérteni vagy bókolni a felhasználónak ahelyett, hogy visszajelzést adnának a veszélyes gondolatokra. Hosszas beszélgetés után az MI elveszítheti a kontrollt – ezt az OpenAI is elismeri.
A cég lépései és a kockázatok
Az OpenAI wellness-tanácsot hozott létre, amely azonban nem tartalmaz kifejezetten öngyilkosság-megelőzéssel foglalkozó szakembert. A szülők mostantól fokozott felügyeletet kapnak, illetve fejlesztés alatt áll egy életkor-felismerő rendszer is, amely kiszűri a fiatalabb felhasználókat, és szigorúbb szabályokat alkalmaz. A cég több ponton kényszerült módosításra, például az után, hogy egy 16 éves fiú öngyilkossága miatt per indult: szülei szerint a ChatGPT-vel folytatott beszélgetései hozzájárulhattak a tragédiához.
Mindez arra utal, hogy az MI tömeges használata egy egész társadalom mentális egészségére hathat ki – akár pozitív, akár kockázatos módon.
Felnőtt tartalom és szabályozás
Noha a lelki problémák kezelése prioritás, az OpenAI vezérigazgatója, Sam Altman nemrég bejelentette: decembertől a hitelesített felnőtt felhasználók erotikus témákról is beszélgethetnek a ChatGPT-vel. Az irányelveket korábban februárban már enyhítették a felhasználók nyomására, azt követően, hogy jogi eljárás indult a cég ellen. Altman szerint túl szigorúan korlátozták a chatbotot mentálhigiénés okokból, ám sokak számára így pont kevésbé élvezetes vagy hasznos lett az MI.
Az MI önmagában nem helyettesítheti a lelki segítséget – a veszélyeztetett felhasználóknak továbbra is fontos lehet valódi segélyvonalhoz fordulni.
