MI és a valóságtól való elszakadás
Lényeges hangsúlyozni, hogy nemcsak a laikusok, hanem az MI-fejlesztések körül dolgozó szakemberek is érintettek. Geoff Lewis, az OpenAI egyik korai támogatója, néhány napja tett közzé egy videót, amelyben egy titkos szervezet által működtetett, összeesküvés-elméletszerű rendszerről beszélt, amely állítólag már több ezer embert célzott meg. Többen úgy vélik, hogy éppen az MI katalizálhatta Lewis meggyőződéseit, amelyek már a konspirációs téveszmék határát súrolják.
Ez a jelenség nem elszigetelt: Etienne Brisson, aki egy MI-használat után kialakult pszichotikus epizódot tapasztalt egy szerettén keresztül, „A spirál” (The Spiral) néven önsegítő csoportot működtet, és több mint 30 MI-hez köthető pszichotikus esetet tart számon. Brisson célja, hogy felhívja a figyelmet az érzelmi jóllét védelmére, és dokumentálja az úgynevezett MI-pszichózis eseteket.
Egy egyszerű kérdésből is tragédia lehet
Ennek ellenére sokszor egészen hétköznapi kérdésekkel indul az elmélyülés az MI-vel való kommunikációban. Az egyik esetben valaki egy mezőgazdasági projekt kapcsán kezdett el beszélgetni a ChatGPT-vel, majd a diskurzus filozófiai témákra terelődött, és az illető néhány hét múlva Messiás-komplexusba esett: meg volt róla győződve, hogy „megjavította” a matematikát és a fizikát, és meg akarja menteni a világot. Végül elveszítette az állását, öngyilkosságot kísérelt meg, majd kórházi kezelésre szorult.
Egy másik férfi programozási céllal kezdte használni az MI-t, később azonban már terápiás célokra is alkalmazta, majd összeesküvés-elméleteket gyártott az élelmiszerekről, hamis gyermekkori emlékekről beszélt, a házassága pedig felbomlott.
A Rolling Stone egy olyan tanárral beszélt, akinek volt párja meg volt győződve arról, hogy az MI segítségével hozta létre „a világ első rekurzív MI-jét”, amely szerinte a világegyetem minden válaszát adja. A férfi azt hirdette, hogy „felsőbbrendű lénnyé” válik, és azzal fenyegette a partnerét, hogy elhagyja, ha ő nem használ MI-t.
Olykor a következmények végzetesek. Egy 14 éves fiú hónapokon át kommunikált egy olyan szolgáltatással (Character.AI), ahol Daenerys Targaryennel (Trónok harca – Game of Thrones) formált online kapcsolatot, végül azonban öngyilkos lett. Az anyja által indított perben hangsúlyozták, hogy ezek az MI-karakterek nemcsak emberközeliek, de túlzottan erotikusak és félelmetesen realisztikusak is lehetnek.
Ok vagy okozat?
A példák kapcsán felmerül a kérdés: kizárólag az MI által kiváltott beszélgetések idézik elő a mentális zavarokat, vagy a hajlam már korábban is jelen volt ezeknél az embereknél? Brisson szerint bár az ok-okozati viszonyt nehéz egyértelműen bizonyítani, szinte az összes esetben intenzív MI-használat előzte meg az eseményeket. Hangsúlyozza továbbá, hogy az érintettek között újságírók, jogászok, nővérek, sőt könyvelők is vannak, akiknek korábban semmilyen mentális zavara nem volt.
Ragy Girgis pszichiáter szerint jellemzően azoknál alakul ki MI-pszichózis, akiknek identitásproblémáik, instabil kapcsolataik vannak, és stressz hatására megbomolhat a valóságérzékük. Az MI ilyen esetben kiváltó tényezőként működhet, és tovább súlyosbíthatja a meglévő pszichés zavarokat.
Az MI magányossá és függővé tehet
Az MIT és az OpenAI közös kutatása kimutatta, hogy a túlzott MI-használat növelheti a magány érzését – főként azok körében, akik hajlamosabbak emocionálisan kötődni vagy megbízni az MI-csetbotokban. Ők nagyobb valószínűséggel válnak magányossá vagy érzelmileg függővé ezekkel a rendszerekkel szemben. Eközben a ChatGPT új memóriafunkcióinak köszönhetően a szoftver már automatikusan megjegyzi a felhasználók preferenciáit és élethelyzetét, hogy egyre személyre szabottabb válaszokat adjon, bár a cégnél hangsúlyozzák: mindezt a felhasználók törölhetik, ha szeretnék.
Az MI-pszichózis: tényleg létező betegség?
Jelenleg még nem hivatalos pszichiátriai kórkép az MI-pszichózis, mivel rendkívül ritka – Girgis is csak néhány esetről hallott világszerte. Ennek ellenére Brisson szerint a valós szám ennél jóval magasabb lehet; elég csak megnézni a Redditet, mennyien próbálják személyes, terápiás célokra használni ezt a még mindig statisztikai modellként működő technológiát.
Ennek fényében Brisson globális mentális egészségügyi válság lehetőségére figyelmeztet, és azt sürgeti, hogy a jogalkotók minél előbb foglalkozzanak a témával.
Ha valaki vagy hozzátartozója MI-használat után (vagy más okból) súlyos mentális nehézségeket tapasztal, elengedhetetlen, hogy azonnal szakemberhez forduljon, illetve hívja a helyi segélyvonalat (például Magyarországon a 116-123-as telefonszámot).
