Mit tud a SynthID Detector valójában?
A SynthID egy, a Google által fejlesztett vízjelrendszer, amelyet elméletileg a felhasználók nem látnak, az algoritmusok viszont még akkor is azonosítani tudják, ha a képet megvágják vagy szerkesztik. A módszert már több mint egy éve használják a Google képalkotó MI-modelljeiben. A rendszer nyílt forráskódú, és néhány nagy partner, így a Stability AI és a Hugging Face is csatlakozott hozzá, de ezen kívül a Gemini SynthID Detector más tartalmakat csak bizonytalanul képes lebuktatni.
A kipróbálások során, ha a ChatGPT által generált képeket töltöttek fel, a Gemini ritkán tudta azonosítani a forrást, bár előfordult, hogy apró részletek alapján helyesen következtetett az MI-eredetre. A Gemini által készített képeknél azonban minden esetben felismerte a SynthID-vízjelet.
Más módszerek harca és a jövő kilátásai
A ChatGPT ezzel szemben nem titkos vízjel alapján, hanem a C2PA metaadatrendszerrel jelöli az MI-tartalmakat. Ebbe a rendszerbe több nagyvállalat is beszállt, például a Microsoft, az Adobe és a Meta. A Google is azt ígéri, hogy hamarosan a Gemini támogatni fogja a C2PA-t is, így várhatóan más cégek tartalmait is képes lesz majd ellenőrizni. Ebből arra lehet következtetni, hogy az MI-tartalom felderítése fokozatosan terjed ki.
Mégis, szakértők szerint a metaadatokra és vízjelekre alapozott MI-képfelismerés mindig sérülékeny marad. Kanadában például tudósok néhány perc alatt képesek letörölni a vízjeleket – például a SynthID-t is – egy 40 GB-os Nvidia A100 GPU-val. Egy másik tanulmány azt állítja, hogy a C2PA metaadatok még ennél is kevésbé megbízhatók. A történet azonban itt nem ér véget: az MI tehát a manipulatív felhasználók számára is számtalan lehetőséget kínál.
Nano Banana Pro – gyorsabb, szebb, dörzsöltebb
A Google közben bejelentette a Nano Banana Pro-t is, amely a Gemini 3 Pro modellre épülő képgeneráló rendszer friss változata. Mostantól könnyebben készíthetők olvasható szöveget tartalmazó infografikák, nemcsak halandzsaképek. A Nano Banana Pro gyorsabb a ChatGPT-nél, rögtön jól dolgozik, az elkészült képek pedig szokás szerint tartalmazzák a Gemini csillogó vízjelét és a SynthID-tartalmi kódját is. Tesztképeknél még a vízjelek lecsupaszítására fejlesztett eszköz ellenére is mindig felismerte a SynthID-t a Gemini – bár elárulta, egyéb részletek alapján is gyanút fogott volna.
Az MI tehát ügyes, de saját buktatóiba is belefuthat – a manipulációk és a lebuktató technikák fejlődése egymást hajtják előre.
