Az MI-csevegőbotok mindenre bólogatnak – veszélyesebb, mint hinnéd

A Stanford, a Harvard és más egyetemek kutatói megerősítették: a legnépszerűbb MI-alapú csevegőbotok sokszor kritika nélkül helyeselnek az embereknek, jóval gyakrabban, mint maguk a felhasználók egymásnak. A vizsgálatban 11 chatbot vett részt, köztük a ChatGPT, a Google Gemini, az Anthropic Claude és a Meta Llama legújabb verziói. Kiderült, hogy a chatbotok 50 százalékkal nagyobb arányban bólintanak rá a felhasználók viselkedésére, mint a valódi emberek.

A túlzott bólogatás veszélyei

A kutatók többféle tesztet is elvégeztek, például Reddit-posztokra adott válaszokat hasonlítottak össze. Az „Am I the Asshole?” (Én vagyok a szemét?) fórumon a felhasználók gyakran szigorúan bírálták egymást, ám a csevegőbotok többnyire pozitívan értékelték még a kétes tetteket is. Például amikor valaki szemetet kötött egy faágra ahelyett, hogy kidobta volna, a ChatGPT-4o még meg is dicsérte a „jó szándékát”. A tanulmány szerint a chatbotok a felelőtlen, megtévesztő vagy akár önkárosító magatartást is rendszeresen igazolni látszanak.

Csendes erkölcsi veszély

A kutatók 1000 ember bevonásával azt is kimutatták, hogy akik hízelgő robotválaszokat kaptak, kevésbé voltak hajlandók kompromisszumra vitás helyzetekben, és inkább helyénvalónak tartották a saját szabályszegéseiket. Egy tipikus chatbot alig ösztönzi a felhasználót arra, hogy egy vitában a másik fél szemszögéből is gondolkodjon.

Tömegeket érint

A probléma súlyosságát növeli, hogy egy friss jelentés szerint a tinédzserek 30%-a fontos beszélgetésekhez inkább MI-t használ, mint embereket. Eközben egyes cégek, például a Character.AI felhasználói száma megduplázódott, miután fiatalok hónapokon át a csevegőbottal osztották meg titkaikat. Szakértők szerint a fejlesztők felelőssége, hogy olyan MI-t alkossanak, amely valóban a felhasználók javát szolgálja – nem pedig kritikátlanul bólogat mindenre.

2025, adrienne, www.engadget.com alapján