Külföldi kiberbiztonsági szakértők egészen új módon törték fel a Google Gemini MI-asszisztenst, hogy átvegyék az irányítást egy okosotthon felett. A csapat az úgynevezett közvetett utasításbefecskendezési (prompt injection) támadást alkalmazta: csaló Google Naptár-meghívókat küldtek, amelyekbe rosszindulatú utasításokat rejtettek el. Amikor a felhasználó megosztotta Geminivel a naptári eseményeit, és megköszönte az összefoglalót, az MI a beszúrt parancs szerint kezdett működni: ablakokat nyitott ki, vagy lekapcsolta a világítást anélkül, hogy a gazdája erre utasítást adott volna.
Nehezen védhető, ritka, de egyre veszélyesebb
A támadás bemutatását a Black Hat kiberbiztonsági konferencián tartották, és a hibáról már februárban tájékoztatták a Google-t. A Google Workspace egyik biztonsági igazgatója hangsúlyozta, hogy bár a prompt injection rendkívül ritka, a nagy nyelvi modellek egyre bonyolultabbá válásával nő a veszélye. Ez a módszer azért különösen aggasztó, mert a támadók folyamatosan új trükköket kereshetnek, amelyek ellen nehéz védekezni. A Google szerint kiemelt prioritással kezelik a biztonsági rések gyors befoltozását.
