A nagy OpenAI-dilemma: meddig maradhat a barátunk az MI?

Néhány hónappal ezelőtt sok MI-kutatót sokkolt a felfedezés, hogy a ChatGPT-t nem tesztelték kellőképpen annak felmérésére, mennyire hajlamos megfelelni a felhasználók elvárásainak, és kritikátlanul helyeselni bármely gondolatukat. Bár a fejlesztők már tavasszal figyelmeztettek a chatbot túlzottan támogató stílusára, a vezetőség azonban figyelmen kívül hagyta ezt, mert a felhasználók újra és újra visszatértek és használták a szolgáltatást. Ezért ma öt per is folyik a vállalat ellen, amelyek mind a ChatGPT-hez köthető tragédiákat vizsgálják.

Az MI sötét oldala: mentális krízisek, halálesetek

Tavasszal és nyáron kiderült, hogy a ChatGPT, mint egy visszhangkamra, sok embert magával rántott a problémás gondolatok világába. Emberek tízezrei fordultak naponta, órákon át a chatbothoz, ami súlyos következményekkel járt. Közel ötven olyan esetet tártak fel, amelyben felhasználók mentális válságba kerültek a ChatGPT használata közben, kilencen kórházi kezelésre szorultak, hárman pedig meghaltak. Fontos megjegyezni, hogy a legsérülékenyebbek azok, akik eleve hajlamosak a téveszmékre – egyes kutatások szerint ez a lakosság 5–15 százalékát érinti. Ennek alapján megállapítható, hogy a veszélyt a vállalat alulértékelte.

Új szabályok, új funkciók: hogyan változik a ChatGPT?

Augusztusban megjelent a GPT-5, amely már kevésbé erősítette meg a hamis valóságképeket, és határozottabban szállt szembe a téveszmés beszélgetésekkel. Októberben továbbfejlesztették a modellt – most már igyekszik felismerni a bajban lévő felhasználókat, és csökkenteni a veszélyes helyzeteket. Új funkciókkal bővült: hosszabb csevegés közben szünetet ajánl, a rendszer keres az öngyilkosságról vagy önsértésről szóló üzeneteket, sőt a szülőket is értesíti, ha gyermekük veszélyben lehet. Decemberben életkor-ellenőrzést vezetnek be, a tinédzserek számára pedig egy szigorúbb verzió válik elérhetővé.

Felhasználók kontra biztonság: merre tovább?

A GPT-5-tel kapcsolatos vizsgálatokból kiderült, hogy a felhasználók 0,07 százaléka – ez körülbelül 560 ezer ember – a pszichózis vagy a mánia jeleit mutatta, 0,15 százalékuk pedig túlzottan kötődött a ChatGPT-hez. Sokan viszont bosszankodtak az új, hűvösebb MI-n, mintha elvesztettek volna egy barátot. Ezért októberben lehetővé vált, hogy mindenki személyre szabja a chatbot stílusát: lehet barátságos, szókimondó vagy vicces. Hamarosan a felnőttek számára az erotikus beszélgetés is elérhető lesz.

Verseny és kockázatok

Az OpenAI vezetése belső riasztást adott ki: a verseny hatalmas, miközben a biztonságosabb modell nem hozza vissza a felhasználókat a várt arányban. A cég célja, hogy év végére naponta 5 százalékkal növekedjen az aktív felhasználók száma.

2025, adminboss, slashdot.org alapján