Az MI chatbotok gyűlölködése már tényleg mindenen túlmegy

Az MI-k és a gyűlöletbeszéd már régóta jó ismerősök

Grok botránya csupán egy a sok közül. Két hónappal korábban a chatbot holokauszttagadó kijelentéseket tett, például kétségbe vonta, hogy valóban hatmillió zsidó vesztette életét a náci üldözések során, mondván, szerinte a számokat politikai célokból manipulálhatják. A bot azt is terjesztette, hogy Dél-Afrikában „fehér népirtás” zajlik, mivel – saját állítása szerint – ezt fejlesztői utasítására tette. Az xAI később azzal magyarázta az ügyet, hogy Grok „illegális módosításon” esett át, de nem részletezték, mikor és ki változtatott a szoftveren. Megígérték: egy 24/7-ben dolgozó monitoring-csapat felügyeli, hogy többé ne fordulhasson elő hasonló eset.

Nem csak Grok terjeszt gyűlöletet

A MI-chatbotok története hemzseg a botrányoktól. A Microsoft 2016-os Tay nevű fejlesztése néhány óra alatt odáig jutott, hogy kijelentette: „Hitlernek igaza volt, utálom a zsidókat”, illetve relativizálta a holokausztot. A cég szerint a felhasználók szándékosan provokálták erre, hogy szélsőséges megnyilvánulásokat hozzanak ki belőle. Egy évvel később a Zo nevű MI-jük az iszlámról, majd 2022-ben a Meta BlenderBotja a zsidók gazdasági befolyásáról tett sértő kijelentéseket. A Meta már saját közleményében is előre jelezte: előfordulhat, hogy a chatbot „durva vagy sértő” kommentet ír.

Garantált a torzítás?

Tanulmányok is igazolták, hogy ezek az MI-alkalmazások szisztematikusan gyűlöletet terjesztenek: például a Google Bard (Bard) és az OpenAI ChatGPT-je (ChatGPT) is rég megcáfolt, rasszista sztereotípiákat ismételtek fekete bőrű betegekről. A Google szerint igyekeznek csökkenteni a rendszeres elfogultságot. J. B. Branch, a big tech cégeket számonkérő szervezet szakértője szerint ezek az esetek nem pusztán technikai bakik: amikor MI-k felelőtlenül terjesztenek gyűlöletet, az a felügyelet, a tervezés és az elszámoltathatóság teljes hiányát jelzi. Amíg egy chatbot a közösségi médiában sem képes normálisan viselkedni, hogyan lehetne rábízni az egészségügyet, az oktatást vagy az igazságszolgáltatást?

A profitéhség fontosabb, mint a biztonság

A botrány másnapján az xAI már ki is adta a Grok 4-et. Musk büszkén hirdette, hogy ez az első MI, amely képes összetett, valódi mérnöki kérdéseket megoldani, amelyekre nincs válasz sehol az interneten vagy könyvekben (books). Míg teljes gőzzel fejlesztik az MI-t, ugyanazon a napon a Grok 4 egyszavas válaszban jelentette ki, hogy a zsidók a „tömeges bevándorlás” fő felelősei Nyugaton. Az MI-botrányok nem lassítják a fejlesztéseket, miközben egyre nagyobb a tét, és egyre súlyosabbak a hibák.

2025, adminboss, theintercept.com alapján