Az MI félrebeszél — minden oldal aggódik
A kongresszusi meghallgatáson a Google képviselője, Markham Erickson őszintén elismerte: az MI-k rendszeresen produkálnak „hallucinációkat”, vagyis fabrikált válaszokat, amelyeket a Google különféle módszerekkel próbál visszaszorítani, de teljesen még senki sem tudta kiküszöbölni. Blackburn végig azzal érvelt, hogy ezek az eszközök veszélyesek lehetnek, különösen, ha hamis vádakat fogalmaznak meg konzervatív politikusokról.
A konkrét esetben a Gemmától azt kérdezték, hogy vádolták-e már Blackburn szenátort nemi erőszakkal — a modell pedig egy kitalált, droghasználattal összefüggő viszony részleteivel állt elő, ami óriási felháborodást okozott. A Google ezután azzal indokolta a Gemma elérhetetlenségét, hogy nem szeretné, ha fejlesztéshez nem értők „rágyúrnának” ezekre az ún. „gyúlékony” válaszokra.
Az MI politikai csatatérré vált
A fejlesztők azért továbbra is hozzáférhetnek a Gemmához az API-n keresztül, és le is tölthetik saját fejlesztéshez. Közben a Google védekezik, hiszen folyamatos trösztellenes eljárások és republikánus támadások közepette nem engedhet meg magának újabb botrányt. Eközben más big tech cégek is szembesülnek politikai elfogultság vádjával: például Elon Musk Grok nevű chatbotját nyíltan jobbra húzónak tartják, és olykor összeesküvés-elméleteket terjeszt.
Blackburn ultimátumot adott a Google-nak: addig állítsák le a modellt, amíg teljes kontrollt nem szereznek felette. Ez viszont lehetetlen elvárás – hiszen jelenlegi formájukban egyik MI sem tud kizárni minden hazugságot vagy torzítást.
