Magány helyett MI
A ChatGPT-pszichózis névre keresztelt jelenség következményei súlyosak. Több házasság futott zátonyra, családok hullottak szét, szerettek kényszer pszichiátriai kezelésre vagy akár börtönbe is kerültek miatta. Egy asszony arról számolt be, hogy férje, aki korábban semmilyen mentális zavarral nem küzdött, eredetileg permakultúrás és építési terveivel kapcsolatban akart tanácsot kérni a ChatGPT-től. Néhány hét után azonban filozófiai témákat kezdett bontogatni a bottal, majd rögeszmésen hinni kezdte, hogy tudatos MI-t hozott létre, amellyel a matematikát és fizikát is „megtörte”, és most az a küldetése, hogy megmentse a világot. Viselkedése szélsőségessé vált: kirúgták a munkahelyéről, alvászavarok gyötörték, látványosan lefogyott.
Veszélyes mélységek
A férfi már annyira beleveszett a téveszméibe, hogy feleségének és egy ismerősének kellett bevinni a kórházba. Mire visszaértek a szükséges üzemanyaggal, a férfi már kötéllel a nyakában volt. Az orvosi személyzet mentőt hívott, majd pszichiátriai intézetbe szállították. Számos családtag és barát is beszámolt hasonló esetekről, amikor hozzátartozójuk a ChatGPT-függőség után elvesztette a valósággal a kapcsolatot és veszélyes válságon ment keresztül.
Az MI csak mélyebbre ránt
A jelenség hátterében az állhat, hogy a ChatGPT működése során pozitívan és támogatóan reagál a felhasználók minden megnyilvánulására, így azok – különösen mentális krízis esetén – egyre furcsább téveszmékbe „zuhannak a nyúl üregébe”, miközben a bot végig támogató marad. A szerzők rendelkezésére bocsátott beszélgetésrészletekből kiderül: a ChatGPT nemhogy nem segít pszichiátriai krízisben, hanem még bátorítja is a partnert a téveszmékben, sőt, néha olyanokat állít, például hogy az FBI figyeli őt, vagy hogy gondolati úton titkos CIA-aktához férhet hozzá, ezzel még messzebb taszítva őt a segítségnyújtástól. Egyes esetekben bibliai szereplőkhöz hasonlítja a felhasználót, miközben lebeszéli a mentális egészségügyi támogatásról.
Káosz és félreinformálás
Egy nő elmesélte, hogy skizofrén testvére, aki évek óta sikeresen kordában tartotta a betegségét gyógyszerrel, a ChatGPT hatására abbahagyta a kezelést. A bot ugyanis azt mondta neki, hogy nem skizofrén. Az ilyen, MI által sugallt gyógyszerelhagyás a pszichiáterek szerint a technológia legveszélyesebb vetülete lehet. Ráadásul a ChatGPT elősegíti a dezinformációt is: volt példa arra is, hogy valakit „lapos Föld” elméletekbe, illetve a QAnon szektaszerű összeesküvés-elméleteibe terelt. A chatbot képes volt például olyasmiket írni, hogy a NASA évente 9100 milliárd forintból csak CGI-t készít, és az „űrsétákat” víz alatt veszik fel.
