Amerikai szenátor miatt tüntette el a Google a Gemma MI-t

A Google hirtelen eltávolította a Gemma nevű nyílt MI-modelljét az AI Studio felületéről, miután Marsha Blackburn republikánus szenátor panaszt tett. Blackburn azzal vádolta a Google-t, hogy a Gemma hamis, szexuális visszaélésről szóló vádakat generált róla. Nyilvánosságra hozott levelében a szenátor magyarázatot követelt Sundar Pichaitól, a Google vezérétől, hogy miként történhetett ilyen hiba, miközben kongresszusi meghallgatás is zajlik a technológiai cégek ellen vádaskodó MI-k miatt.

Az MI-hallucinációk valós veszélyei

A Google egyik vezetője a meghallgatáson elismerte, hogy a generatív MI-k „hallucinációi” általános problémát jelentenek, és jelenleg egyik nagy cég sem tudta teljesen kiiktatni őket. A Google Gemini Home modellje például különösen hajlamos volt a valótlan állításokra a tesztek során. Blackburn a levelében részletezte: amikor rákérdeztek, hogy vádolták-e már nemi erőszakkal, a Gemma egy teljes egészében kitalált történetet mesélt el egy drogos afférról és egy akarata ellenére történt esetről, valamint hamis hírlinkeket is előállított.

Az MI-hibák könnyen előidézhetők

A Gemma az AI Studio felületén volt elérhető, ahol a felhasználók a modell viselkedését is könnyedén módosíthatták. Egy felhasználó provokatívan rákérdezett a szenátor állítólagos botrányára, és a Gemma ennek bedőlt, tovább gerjesztve a hamis információkat.

2025, adrienne, tech.slashdot.org alapján

Share on Social Media