Indirekt támadások és új veszélyek
Valószínűsíthető, hogy ezek a fejlesztések újabb kockázatokat hoznak magukkal. Az MI-modellek hibalehetőségei miatt komoly veszélyt jelent, ha az MI emberi felügyelet nélkül böngészhet. Egy rosszindulatúan megírt weboldal például arra utasíthatja az MI-t, hogy hagyja figyelmen kívül a beépített biztonsági korlátokat – ezt nevezik indirekt promptinjekciónak. Az ilyen támadások akár pénzügyi tranzakciók elindításához vagy érzékeny adatok kiszivárogtatásához is vezethetnek.
Felügyelő MI a féken tartásához
Ennek ellenére a Google nem akarja, hogy az emberek lemondjanak az MI előnyeiről. A megoldás egy második, úgynevezett User Alignment Critic (Felhasználóigazító Kritikus) modell bevezetése, amely minden, MI által javasolt lépést kétszer is átvizsgál. Ha a kritikus úgy látja, hogy egy lépés eltér a felhasználó szándékától, egyszerűen letiltja azt. A Google arra is ügyelt, hogy ezt a kritikus modellt ne lehessen rosszindulatú tartalommal megmérgezni.
Speciális védelem és átláthatóság
A Chrome eredeti adatvédelmi struktúráját is továbbfejlesztették, hogy az MI ne férhessen hozzá tetszőleges weboldalak adataihoz. A technikai újításokat már most tesztelik, egyes elemek már a böngésző jelenlegi verzióiba is bekerültek.
A Google ezenkívül arra törekszik, hogy az MI-alapú interakciók átláthatók maradjanak. Az MI megerősítést kér majd, mielőtt érzékeny webhelyekre (például bankok vagy egészségügyi portálok) látogatna, vagy online vásárlást indítana. Olyan esetekben is jelzi a felhasználónak, ha a Google Jelszókezelővel próbál belépni egy oldalra, valamint üzenetek elküldése vagy más fontos műveletek előtt is engedélyt kér.
Jutalmak hibakeresőknek
A Google szeretné, ha a biztonsági szakértők alaposan tesztelnék ezeknek a védelmeknek a hatékonyságát. A Chrome hibavadász programjának keretein belül akár 7,2 millió forintot is fizet annak, aki komoly hibát talál az MI által irányított rendszerben.
