Szexuális bűncselekményeket talál ki az MI?
Az ügy azután robbant ki, hogy Robby Starbuck konzervatív véleményvezér és Marsha Blackburn szenátor MI-hallucinációkra hivatkozva komoly kritikával illette a Google-t. Starbuck egyenesen azzal vádolta a modellt, hogy gyerekbántalmazással hamisan megvádolta őt. Később, Blackburn szenátorhoz kapcsolódó kérdésnél a Gemma azt válaszolta, hogy őt nemi erőszakkal és gyógyszerfelírási nyomásgyakorlással is megvádolták — mindkét állítást a szenátor teljes mértékben cáfolta.
Külön kiemelendő, hogy ezekben a példákban a felhasználók szándékosan, manipulált kérdésekkel térítették el a Gemmát, amely nem hétköznapi, hanem fejlesztői környezetben használt kutatási MI-nek számít. Ebből kifolyólag nem egy hagyományos, felhasználóknak szánt eszköz, mint a ChatGPT vagy a Claude, hanem egy szűk szakmai közösségnek szánt modell, amelynek működtetéséhez fejlesztői tudás és célzott beavatkozás szükséges.
Átláthatóság és felelősség
A Google szerint a Gemma olyan „nyílt” modellcsalád, amelyet fejlesztők és kutatók számára tett elérhetővé, viszont a forráskódját nem publikálta teljes egészében. A Gemma kisebb, mint a Google másik népszerű modellje, a Gemini, így akár helyi gépeken is futtatható.
A Gemma csak szakképzett felhasználók számára volt elérhető az AI Studio fejlesztői környezetben. A bejelentkező képernyőn külön felhívták a figyelmet arra, hogy nem hétköznapi beszélgetésekre tervezték, hanem professzionális, fejlesztői célokra. A Google hangsúlyozta: a modell nem alkalmas megbízható, tényalapú információk szolgáltatására a nagyközönségnek.
Ennek ellenére a szenátor és az aktivista csapata képes volt a Gemmából rágalmazó kimeneteket kifacsarni, fejlesztői módszerekkel, a modell natív képességeinek határáig elmenve.
Botrány után leállítás és óvatosság
Miután nyilvánosságra kerültek ezek a kínos, MI miatti félreértések és hamis állítások, a Google gyorsan eltávolította a Gemmát az AI Studio fejlesztői platformjáról. Kiemelte: lépésük célja az volt, hogy elkerüljék a további félreértéseket — és vélhetően a további perek veszélyét.
Ebből fakadóan mostantól a Gemma csak közvetlen fejlesztői API-n keresztül érhető el, a szélesebb közönség számára továbbra sem nyitották meg. A Google hozzátette: az MI-modellek hallucinációi iparági szinten is kihívást jelentenek, különösen az ilyen kisebb, nyílt modellek esetén.
A konkrét eset után a Google nem adott hivatalos nyilatkozatot, és egyelőre nem tudni, miként folytatódnak a jogi hercehurcák. Az viszont egyértelmű: a nyilvánosság előtt egyre élesebb vita zajlik arról, meddig mehetnek el az MI-modellek — és ki a felelős a hibáikért.
