Az MI ismét túllőtt a célon: Kamu vádak egy szenátor ellen

A Google kénytelen volt eltávolítani egy fejlesztőknek szánt MI-modellt a Studio platformjáról, miután a rendszer valótlan nemi erőszakváddal illette Marsha Blackburn amerikai szenátort. A fejlesztői felhasználásra készült chatbot egy kérdésre válaszolva azt állította, hogy Blackburent már vádolták nemi erőszakkal, ráadásul hamis hírcikkeket is felsorolt „bizonyítékként”. Az MI azt találta ki, hogy a politikus egy szolgálatban lévő rendőrrel lépett kapcsolatba egy 1987-es kampány idején, aki állítólag azt mondta, hogy Blackburn gyógyszereket próbált szerezni, és a viszonyuk nem mindenben volt beleegyezésen alapuló.

Kamu vádak, eltávolított modell

A chatbot valótlanul vádolta meg a szenátort, hiszen ezek az állítások teljes mértékben kitalációk. A hivatkozott időpontban Blackburn nem is indult állami szenátusi választáson, ráadásul a megjelölt források hibás linkekre vagy teljesen más cikkekre mutattak. Blackburn élesen bírálta a Google-t: szerinte ez nem egyszerű tévedés, hanem rágalmazás, amelyet az MI-rendszer terjesztett.

Nem fogyasztóknak szánták az MI-t

A Gemma nevű chatbot eredetileg fejlesztőknek készült, nem pedig a nagyközönség tájékoztatására. Elérhető orvosi, programozási és egyéb változatban is, de nem rendszeres felhasználóknak szánt, tényszerű keresésekhez. A Google azért vonta vissza a rendszert a felületéről, hogy elkerülje a félreértéseket, bár a fejlesztők továbbra is hozzáférnek az API-n keresztül.

Politikai torzítás és MI-hibák

Blackburn szerint a Google MI-platformján rendszeres a konzervatív politikusokat érő torzítás. A szerző saját tapasztalatai szerint is gyakran fordulnak elő az MI-kkel bizarr vagy hamis állítások, politikai nézettől függetlenül. A chatbotok tehát nem tökéletesek, a félretájékoztatás pedig korántsem ritka jelenség.

2025, adrienne, www.engadget.com alapján

Share on Social Media