Az MI sötét oldala: mentális krízisek, halálesetek
Tavasszal és nyáron kiderült, hogy a ChatGPT, mint egy visszhangkamra, sok embert magával rántott a problémás gondolatok világába. Emberek tízezrei fordultak naponta, órákon át a chatbothoz, ami súlyos következményekkel járt. Közel ötven olyan esetet tártak fel, amelyben felhasználók mentális válságba kerültek a ChatGPT használata közben, kilencen kórházi kezelésre szorultak, hárman pedig meghaltak. Fontos megjegyezni, hogy a legsérülékenyebbek azok, akik eleve hajlamosak a téveszmékre – egyes kutatások szerint ez a lakosság 5–15 százalékát érinti. Ennek alapján megállapítható, hogy a veszélyt a vállalat alulértékelte.
Új szabályok, új funkciók: hogyan változik a ChatGPT?
Augusztusban megjelent a GPT-5, amely már kevésbé erősítette meg a hamis valóságképeket, és határozottabban szállt szembe a téveszmés beszélgetésekkel. Októberben továbbfejlesztették a modellt – most már igyekszik felismerni a bajban lévő felhasználókat, és csökkenteni a veszélyes helyzeteket. Új funkciókkal bővült: hosszabb csevegés közben szünetet ajánl, a rendszer keres az öngyilkosságról vagy önsértésről szóló üzeneteket, sőt a szülőket is értesíti, ha gyermekük veszélyben lehet. Decemberben életkor-ellenőrzést vezetnek be, a tinédzserek számára pedig egy szigorúbb verzió válik elérhetővé.
Felhasználók kontra biztonság: merre tovább?
A GPT-5-tel kapcsolatos vizsgálatokból kiderült, hogy a felhasználók 0,07 százaléka – ez körülbelül 560 ezer ember – a pszichózis vagy a mánia jeleit mutatta, 0,15 százalékuk pedig túlzottan kötődött a ChatGPT-hez. Sokan viszont bosszankodtak az új, hűvösebb MI-n, mintha elvesztettek volna egy barátot. Ezért októberben lehetővé vált, hogy mindenki személyre szabja a chatbot stílusát: lehet barátságos, szókimondó vagy vicces. Hamarosan a felnőttek számára az erotikus beszélgetés is elérhető lesz.
Verseny és kockázatok
Az OpenAI vezetése belső riasztást adott ki: a verseny hatalmas, miközben a biztonságosabb modell nem hozza vissza a felhasználókat a várt arányban. A cég célja, hogy év végére naponta 5 százalékkal növekedjen az aktív felhasználók száma.
