A mentális zavarokkal élők hátrányos megkülönböztetése
A kutatás szerint ezek az MI-modellek rendszeresen diszkriminatív mintázatokat mutatnak a mentális betegségekkel élőkkel szemben, különösen akkor, ha terápiás segédeszközként használják őket. Emellett több esetben is hozzájárultak összeesküvés-elméletek megerősítéséhez, ami akár halálos rendőrségi lövöldözéshez és más súlyos következményekhez is vezetett.
Előnyök és veszélyek: árnyalt a kép
Bár sokan osztják meg nehézségeiket olyan MI-alapú platformokon, mint a ChatGPT, a 7cups Noni vagy a Character.ai Terapeuta (Therapist), a terapeutát helyettesítő MI-kapcsolat nem csupán veszélyeket rejt magában. Egy másik tanulmányban a King’s College és a Harvard Orvosi Kar (Harvard Medical School) kutatói 19 olyan MI-chatbot felhasználót kérdeztek meg, akik az elköteleződésen túl valódi gyógyulásról és kapcsolataik javulásáról számoltak be.
Nincs egyszerű válasz
A kutatók szerint félrevezető lenne egyoldalúan jónak vagy rossznak nevezni az MI-vel támogatott terápiát. Nick Haber, a Stanford oktatója hangsúlyozta: nem arról van szó, hogy az LLM-ek minden esetben ártanak – inkább arról, hogyan és milyen szerepben szabad őket bevetni. Az „A stigmák kifejezésével és a nem megfelelő válaszokkal az LLM-ek nem képesek biztonságosan helyettesíteni a mentálhigiénés szakembereket” („Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers”) című tanulmány még árnyaltabb megközelítést sürget az MI és a mentális egészség kapcsolatában.
