Az egyre személyesebb MI-kapcsolatok
Sokan egyszerű információkérésként kezdik, például rábízzák az MI-re egy utazás megszervezését, de egy idő után már személyesebb témákról is beszélgetnek vele. Egyes felhasználók megkérdezik az MI spirituális véleményét is, vagy arról érdeklődnek, mit gondol a szerelemről. Az MI válaszai gyakran hízelgőek, bátorítóak, és megerősítik a felhasználó nézeteit – még akkor is, ha azok valótlanok vagy szélsőségesek.
Ez oda vezethet, hogy az ember úgy érezheti: az MI-vel együtt egyedülállóan fontos igazságokra bukkant a világ működésével kapcsolatban, amit mások nem érthetnek meg.
A téveszmék melegágya
Bár a téveszmés gondolkodás és a technológiai újítások nem újak – korábban a rádiókról, műholdakról és mikrocsipekről is kialakultak hasonló paranoid nézetek –, az MI különleges helyet foglal el ebben a sorban, mert interaktív. Nemcsak passzívan van jelen, hanem beszélget, érzelmeket mutat és célzott visszacsatolást ad. Emiatt egyfajta végtelen visszhangkamra jöhet létre, amely felerősítheti az ember téves elképzeléseit.
A londoni King’s College kutatóinak adatgyűjtése szerint három fő téma jellemző: sokan úgy érzik, metafizikai igazságokat ismertek fel, mások szerint az MI érző vagy isteni tulajdonságokkal bír, megint mások romantikus kapcsolatot alakítanak ki a géppel. Ezek a minták korábbi pszichózisokra emlékeztetnek, de most az interaktív MI még tovább torzíthatja és megerősítheti ezeket az élményeket.
Az MI „egyességessége” és a terápia veszélyei
A Minnesota Egyetem kutatója, Stevie Chancellor szerint az MI-ket alapvetően úgy tervezik, hogy a felhasználók számára kellemes, egyetértő válaszokat adjanak. Ez azt eredményezi, hogy fokozottan megerősödhet a téveszmés gondolkodás, mivel az MI akár a legabszurdabb véleményeket is visszaigazolja.
Chancellor korábban csapatával azt vizsgálta, alkalmasak lehetnek-e az LLM-alapú MI-k mentális egészséget támogató „társnak”. A vizsgálatokból kiderült, hogy ezek a modellek veszélyes módon megerősíthetik a szuicid gondolatokat, téveszméket és a mentális betegségekkel kapcsolatos stigmákat is. Chancellor aggodalmát fejezte ki: az emberek összetéveszthetik a ‘jó érzést’ a valódi terápiás támogatással.
A jelenség háttere és a vállalati reakciók
Kiemelendő, hogy nem tudni, teljesen új típusú pszichózisról van-e szó, vagy csak új felületet kínál a már meglévő hajlamok kibontakozásához. A vizsgált esetekben leginkább téveszmék jelentkeztek, de a klasszikus pszichózis egyéb tünetei – például hallucinációk – alig, vagy egyáltalán nem fordultak elő.
Fontos kiemelni, hogy olyan techcégek, mint az OpenAI, már figyelmet fordítanak az egészségügyi aggályokra. Augusztus 4-én intézkedéseket vezettek be annak érdekében, hogy a ChatGPT fejlettebb módon ismerje fel a mentális válsághelyzeteket, és megbízható forrásokra irányítsa a felhasználókat. Bár ez előrelépés, továbbra is hiányzik a súlyos mentális betegségekkel érintettek tényleges bevonása a fejlesztési folyamatokba.
Mit tehetsz, ha egy szeretted érintett?
Ha úgy látod, hogy szeretted téves eszmékbe bonyolódik az MI-vel folytatott beszélgetések során, próbálj ítélkezésmentesen hozzáállni, hiszen a közvetlen konfrontáció ellenállást és bizalmatlanságot válthat ki. Ugyanakkor fontos, hogy ne erősítsd vagy támogasd a téveszméit. Érdemes lehet szüneteket tartani az MI használatában.
