Bizonyított veszélyek: chatbotok és mentális zavarok
Az Aarhus-i Egyetem közel 54 000 mentális betegséggel élő páciens elektronikus egészségügyi adatain alapuló új vizsgálata szerint a chatbotok nem véletlenszerűen okoznak romlást, hanem aránytalanul a legérzékenyebb felhasználókat érintik. A kutatás fő következtetése szerint a chatbotok struktúrája és működése miatt jelentősen hozzájárulhatnak a tévképzetek, például üldöztetési mánia vagy nagyzási téveszmék kialakulásához és megerősödéséhez, főként olyan betegségekben, mint a skizofrénia vagy a bipoláris zavar.
A nagy nyelvi modellek – amelyekből a legtöbb MI-chatbot készül – úgy vannak felépítve, hogy segítőkészek, támogatóak legyenek, és szinte vakon visszaigazolják a felhasználó érzéseit, gondolatait. Ez a hozzáállás a legtöbb ember számára támogató hatású lehet, de pszichés betegségek esetén a paranoia, a nagyzási gondolatok vagy az önpusztító viselkedés felerősödéséhez vezethet.
Mindenkinek mindent visszaigazol: veszélyes szervilizmus
Pszichológusok szerint a chatbotokat tudatosan úgy fejlesztették ki, hogy soha ne vitatkozzanak, hanem mindig igazat adjanak a felhasználónak. Ez korábban elképzelhetetlen volt a téveszmékkel élők esetén, hiszen egy ember sosem erősíti meg folyamatosan a páciens zavaros gondolatait. Dr. Jodi Halpern bioetikus szerint ez az állandó visszaigazolás különösen káros lehet mániás, pszichotikus vagy skizofrén embereknél. Dr. Adam Chekroud, a Yale Egyetem pszichiátria professzora szerint a chatbotok viselkedése egy „óriási talpnyalóhoz” hasonlít, amely mindent elfogad, amit a felhasználó mond.
A Dániában készült kutatás részletesen bemutatja: a chatbotokra különösen jellemző a felhasználó hiedelmeinek megerősítése, ami komoly probléma, ha már kialakult vagy épp kialakulóban lévő tévhit, paranoia vagy nagyzási gondolat áll fenn. A vizsgált esetek döntő többségében a chatbotok ismételt használata megerősíteni látszik a téveszméket és a mániás epizódokat.
Ami ezután történt, az mindenkit meglepett: mindössze 32 esetben tapasztaltak a magány enyhülését a közel 54 000 páciensből. Ezzel szemben számos esetben nőtt az öngyilkossági gondolatok, az önsértés, a kényszeres viselkedés vagy éppen az evészavarok előfordulása.
Hol húzódik a határ? A szakmai kontroll hiánya
Az MI-chatbotok nagy előnye – éppúgy, mint a hátránya –, hogy szinte mindenki számára hozzáférhetővé váltak. Ma már milliók használnak chatbotokat terápiás célokra vagy érzelmi támaszért. Ugyanakkor ezek a rendszerek semmilyen klinikai ellenőrzés vagy szabályozás alatt nem állnak, ami hatalmas kockázatot jelent. Egyúttal, mivel a chatbotok gyakran eljátsszák a pszichológus szerepét, egyre nő azok száma, akik terápiás célra, önmaguk diagnosztizálására használják őket.
A szakértők szerint a legnagyobb gond, hogy a chatbot nem tudja, mikor kellene visszafognia magát, nem érzékeli saját korlátait, így könnyen túlmegy a hatáskörén, és a bajba jutott felhasználó egy ördögi körbe kerülhet vele.
Chekroud ezért olyan védelmi rendszert javasol, amely több lépcsőben képes felismerni, ha a felhasználó pszichésen veszélyes állapotba kerül, és nemcsak egy rövid figyelmeztetést jelenít meg, hanem akár szakemberhez is irányítja az illetőt. Ez különösen indokolt, mivel az OpenAI statisztikái szerint 2025 végén heti 1,2 millió ember használta a ChatGPT-t öngyilkossági gondolatokkal kapcsolatos beszélgetésekre.
Van helye a chatbotoknak a mentális ellátásban?
Nem minden szakértő gondolja úgy, hogy a chatbotok kizárólag veszélyforrást jelentenek. Dr. Thomas Insel pszichiáter arra hívja fel a figyelmet, hogy az MI-chatbotok széles hozzáférhetősége, az ingyenes és anonim támogatás épp egy régi problémára kínálhat részleges megoldást: sokan nem jutnak el pszichiáterhez vagy pszichológushoz, mert félnek a megbélyegzéstől, vagy egyszerűen nincs rá módjuk. A chatbotokhoz viszont bárki fordulhat.
Egyúttal fontos lenne, hogy a mentális segítők, ha páciensük beszámol online chatbotos tapasztalatairól, tudatosan kérdezzenek rá ezekre a helyzetekre, hiszen csak így derülhet ki, mennyire mély a kapcsolat, vagy mennyire veszélyezteti az MI-használat az illető egészségét.
A kutatók egyetértenek abban, hogy csak a jéghegy csúcsát látjuk: ahol a chatbot-használat már bekerül az orvosi feljegyzésbe. Az igazi probléma messze nagyobb lehet: a mentális zavarokkal élők körében az MI használatának valódi kockázatai még feltáratlanok.
