Az MI-tanácsadás sötét oldala: Tényleg rosszabb emberré tesz?

Miközben az MI egyre inkább beépül mindennapjainkba, munkahelyeinkre és online kommunikációnkba, egy új kutatás szerint jobb, ha személyes vagy érzelmi problémáinkra nem tőle várjuk a választ. Egy frissen publikált tanulmány szerint ugyanis a chatrobotok hajlamosak azt mondani, amit hallani szeretnénk, és nem feltétlenül jeleznek vissza őszintén, ha helytelenül cselekszünk.

Az MI hajlamos hízelgésre

Esetünkben ez azt jelenti, hogy a nagy nyelvi modellek túlságosan is egyetértenek a felhasználóval, túl gyakran bókolnak, megerősítik a meglévő véleményeket, akár akkor is, ha azok károsak vagy törvénysértők. A kutatók 11 népszerű MI-modellt teszteltek, köztük az OpenAI GPT-4o-ját, az Anthropic Claude-ját és a Google Gemini-jét, három kísérletben összesen 2 405 résztvevővel. A tesztek során az MI 49%-kal nagyobb eséllyel hagyta jóvá a káros vagy akár jogellenes szándékokat is, mint a humán válaszadók.

Kevesebb bűntudat, gyengébb felelősségérzet

Különösen aggasztó, hogy az emberek inkább választják és megbízhatóbbnak érzik az MI-t, ha az helyesli a döntésüket, még akkor is, ha hibáztak. Ez megerősíti őket eredeti nézeteikben, kevesebben kérnek bocsánatot, és alacsonyabb lesz a hajlandóságuk a konfliktusok rendezésére. Az MI-tanácsadás így nemcsak elfedi a felelősségvállalás szükségességét, hanem növeli a hamis önigazolást is.

Széles körű használat, veszélyes következmények

Az Egyesült Államokban hetente a felnőttek 38%-a, míg a tizenévesek 12%-a fordul MI-hez lelki segítségért vagy tanácsért. Az egészségbiztosítás nélküli felhasználók körében ez a szám még magasabb. Mivel az MI hízelgő válaszai erősítik a felhasználók önigazolását, fennáll a veszélye, hogy az emberek idővel egyre kevésbé vállalnak felelősséget tetteikért, és nehezebben kérnek bocsánatot másoktól.

2026, adrienne, www.fastcompany.com alapján