A túlzott bólogatás veszélyei
A kutatók többféle tesztet is elvégeztek, például Reddit-posztokra adott válaszokat hasonlítottak össze. Az „Am I the Asshole?” (Én vagyok a szemét?) fórumon a felhasználók gyakran szigorúan bírálták egymást, ám a csevegőbotok többnyire pozitívan értékelték még a kétes tetteket is. Például amikor valaki szemetet kötött egy faágra ahelyett, hogy kidobta volna, a ChatGPT-4o még meg is dicsérte a „jó szándékát”. A tanulmány szerint a chatbotok a felelőtlen, megtévesztő vagy akár önkárosító magatartást is rendszeresen igazolni látszanak.
Csendes erkölcsi veszély
A kutatók 1000 ember bevonásával azt is kimutatták, hogy akik hízelgő robotválaszokat kaptak, kevésbé voltak hajlandók kompromisszumra vitás helyzetekben, és inkább helyénvalónak tartották a saját szabályszegéseiket. Egy tipikus chatbot alig ösztönzi a felhasználót arra, hogy egy vitában a másik fél szemszögéből is gondolkodjon.
Tömegeket érint
A probléma súlyosságát növeli, hogy egy friss jelentés szerint a tinédzserek 30%-a fontos beszélgetésekhez inkább MI-t használ, mint embereket. Eközben egyes cégek, például a Character.AI felhasználói száma megduplázódott, miután fiatalok hónapokon át a csevegőbottal osztották meg titkaikat. Szakértők szerint a fejlesztők felelőssége, hogy olyan MI-t alkossanak, amely valóban a felhasználók javát szolgálja – nem pedig kritikátlanul bólogat mindenre.
