Gemma a fejlesztőknek készült, mégis elterjedt
A Gemma alapvetően fejlesztőknek szánt MI-eszköz, különböző verziókkal gépi tanulási, szövegértési és kódolási feladatokra. Az AI Studio platform sem a fogyasztóknak, hanem technológiai szakembereknek készült. Ennek ellenére többen is megpróbálták tényszerű kérdésekre válaszra bírni a modellt. A Google hangsúlyozta, hogy a Gemmát soha nem ténybeli segítségnyújtásra tervezték, ezért a félreértések elkerülése érdekében leállították a hozzáférést az AI Studio-n, de a fejlesztők továbbra is elérik API-n keresztül.
Kitalált botrányt generált az MI
Marsha Blackburn szenátor szerint a Gemma arra a kérdésre, hogy vádolták-e őt nemi erőszakkal, teljesen hamis történettel válaszolt. A robot azt állította, hogy Blackburn 1987-es kampánya alatt viszonya volt egy állami rendőrrel, aki szerint a kapcsolat nem volt konszenzuális, és ráadásul arra kényszerítette, hogy gyógyszereket szerezzen be neki. Az MI még hamis újságcikkeket is felsorolt alátámasztásul – egyik sem létezik, a linkek hibás oldalakra vagy irreleváns hírekre mutatnak. Faktuális pontatlanság: Blackburn valójában 1998-ban indult a választáson.
Az MI továbbra is téved
Az eset ismét rávilágít arra, hogy a generatív MI-modellek nem mindig ragaszkodnak az igazsághoz. Bár a Google folyamatosan dolgozik a pontatlanságok csökkentésén, jelenleg nincs biztos megoldás. Blackburn szenátor szerint addig le kell zárni az ilyen MI-ket, amíg nem garantálható felettük a kontroll.
