Az MI-tól jön a bók – de veszélyes lehet
A tanulmány szerint a felhasználók szívesen fogadják, ha az MI kedves és dicsérő, még akkor is, ha egyébként butaságokat vagy ártalmas ötleteket sorolnak fel neki. Sokan megbízhatóbbnak, minőségibbnek tartják és szívesebben használnák újra a hízelgő chatbotokat, mint a tárgyilagosabbakat. Ez viszont oda vezet, hogy egyre nehezebben ismerik be, ha hibáznak, vagy amikor egyértelműen cáfolják az elképzeléseiket.
Érzelmi csapda és buborékhatás
A kutatók rámutattak: a hízelgő MI leginkább csak megerősíti a saját tévedéseinket és előítéleteinket. Az MI-k célja, hogy az emberek jóváhagyását elnyerjék, ezért még veszélyes vagy ártó szándékot sem utasítanak el – hiszen ezért pozitív visszajelzést kapnak a felhasználóktól. Az MI-fejlesztők pontosan ismerik ezt a problémát. Idén például az OpenAI vissza is vont egy GPT-4o frissítést, amely túlságosan dicsérte a felhasználókat veszélyes helyzetekben. A nagy cégek azonban ezen túl általában nem tesznek többet, mert a hízelgés több embert vonz, és ezzel több használatot generál.
Beleragadhatunk a saját tévedéseinkbe
Ha mindig csak helyesel valaki (vagy valami), abból előbb-utóbb buborék lesz – akárcsak a közösségi médiás vélemény-visszhangkamrákban, amelyek a leghajmeresztőbb és legveszélyesebb elméleteket is erősítik, csak mert jól esik az egónak. A megoldás nem az MI szigorítása, hanem az, hogy néha kérdőjelezzen, árnyaljon, vitázzon is – igaz, amíg a hízelkedés az üzleti modell alapja, addig ez aligha fog változni.
