Így működnek a képvédő technológiák
Ezek az eszközök – mint például a Chicagói Egyetem által fejlesztett Máz (Glaze) és Burgonya (Nightshade) – apró mintázatokat, “mérgeket” adnak a képekhez. Céljuk, hogy a gépi tanulási modellek hibásan ismerjék fel, vagy rosszul rekreálják az adott műalkotást. Hasonló védelmi megoldás például a MetaCloak is, amely szintén ilyen károsító zavarokat alkalmaz. Ezek a módszerek egyelőre a digitális művészek első számú fegyverei az MI-képzési adatszomj ellen.
Jön a LightShed – az ellenmérgező
A Cambridge-i Egyetem és a Darmstadti Műszaki Egyetem kutatói kifejlesztették a LightShed nevű szoftvert, amely képes felismerni és eltávolítani a képekről ezeket a védő perturbációkat. Ehhez a LightShed elemzi a “mérgezett” képek mintázatait, ujjlenyomatot készít róluk, majd képes hatékonyan semlegesíteni azokat az eredeti képen.
A módszer pontosan azokra a mérgekre (mint például a Máz vagy a Burgonya) működik a legjobban, amelyeken kiképezték. Az is kiderült, hogy ha új, ismeretlen védekezést alkalmaznak (például MetaCloak), a hatékonyság csökken, illetve akkor is, ha a kép csak kis mértékű mérgezést tartalmaz.
Az MI kontra alkotók harca élesedik
A Midjourney, az OpenAI vagy a Google mesterséges intelligenciája eddig kérés nélkül használta fel művészek alkotásait, majd azokat utánozva értékesítette saját képgeneráló szolgáltatásait. Ezért a művészek, írók, kiadók és fejlesztők több perben próbálják megvédeni jogaikat. Bár még nincsenek világos törvények az MI-képzés jogi szabályozására, a technológiai verseny egyre kiélezettebb: a védelmi módszerekre mindig érkezik valamilyen válasz az MI-kutatók részéről – a legújabb fegyver például épp most született meg LightShed néven.
