Az MI-alapú rendszerek új, rafinált sebezhetőségére derült fény: kutatók olyan támadási módszert dolgoztak ki, amellyel képekbe rejtett utasításokon keresztül szivárogtathatók ki a felhasználók adatai. A technika a képfeldolgozó MI-modellek hibáit használja ki, és akár úgy is működhet, hogy a felhasználó semmit nem vesz észre.
Rejtett utasítások a képekben
A támadáshoz eredeti, teljes felbontású képeket készítenek, amelyeken az utasítások szabad szemmel láthatatlanok, de abban a pillanatban láthatóvá válnak, amikor a képet az MI az értelmezés céljából lebutítja. A legtöbb MI-s rendszer a felhasználók által feltöltött képeket automatikusan átméretezi teljesítmény- és költséghatékonysági okokból, például a szomszédos pont, bilineáris vagy bikubikus interpolációval. Ezek az eljárások a képeken speciális mintázatokat hoznak létre – ha a kiinduló kép mintázata ehhez igazodik, az MI számára szövegként értelmezhető rejtett üzenet jelenik meg. Ilyenkor a modell a lebutított képből származó szöveget automatikusan a felhasználói utasításhoz csatolja.
Konkrét támadások és veszélyek
A kutatók példaként említik, hogy egy ilyen manipulált képen keresztül a Zapier MCP használatakor Google Naptár (Google Calendar) adatokat szivárogtattak ki akár tetszőleges email-címre, miközben a rendszer automatikusan minden eszközhasználatot jóváhagyott. A támadást minden MI-modellhez hozzá kell igazítani a használt lekicsinyítő algoritmusnak megfelelően, de már sikerült kompromittálniuk a Google Gemini parancssori felületét (CLI), a Vertex AI Stúdiót (Gemini háttérrel), a Gemini webes felületét és API-ját, a Google Asszisztenst (Google Assistant) Androidon, valamint a Gensparkot is. A sebezhetőség valószínűleg jóval több rendszert is érint.
A kutatók már készítettek egy nyílt forráskódú, de még bétaverzióban lévő eszközt is, amellyel ilyen támadóképek előállíthatók. Védekezésként azt javasolják, hogy az MI-rendszerek szabjanak meg korlátokat a feltölthető képek méretére, és ha szükséges a lebutítás, jelenítsék meg a felhasználónak előnézetben azt a képet, amelyet ténylegesen elküldenek az MI-nek. Fontos lenne, hogy érzékeny műveleteknél vagy ha szöveg kerül elő egy képből, mindig kérjenek visszaigazolást a felhasználótól, illetve az MI-t biztonságtudatos mintákkal tervezzék, hogy az ilyen típusú prompt injection támadásokat is visszaverhessék.
Caitlin Kalinowski, az OpenAI robotikai részlegének hardverért felelős vezetője benyújtotta lemondását, miután a vállalat sietve szerződést kötött az amerikai Védelmi Minisztériummal...
💻 A kiberbűnözők soha nem voltak ilyen leleményesek: egyre kifinomultabb módszerekkel vetik be a mesterséges intelligenciát, hogy felgyorsítsák a támadások előkészítését, növeljék támadásaik hatékonyságát, és lecsökkentsék a szükséges technikai tudás szintjét...
Az Egyesült Államokban új online gyermekvédelmi törvények nap mint nap egyre több embert kényszerítenek kötelező korhatár-ellenőrzésre, ha tartalmakhoz szeretnének hozzáférni az interneten...
🚀 A csillagászoknak évek óta nagy kihívást jelent az exobolygók felkutatása, hiszen ezek legtöbbször olyan halvány jeleket hagynak hátra, amelyeket nehéz észlelni...
Különösen említést érdemel, hogy a Google, a YouTube és a Gemini MI fejlesztése mellett az Alphabet nemcsak a techvilághoz kötődik: befektetési ága kifejezetten nagy figyelmet szentel a feltörekvő, gyors növekedésű szektoroknak, köztük az űriparnak is...
Egyszer csak annyian kezdtek ADHD-snek tűnni – nemcsak a gyerekek! A ’90-es, 2000-es években ez még inkább a hiperaktív, nyüzsgő kisiskolásokról szólt, most viszont már 15 millió amerikai felnőttnél is azonosították...
🕑 Az óraátállítás mindig megosztja az embereket: elveszítünk egy órát az alvásból, ami fáradtsághoz és zavartsághoz vezethet, viszont cserébe hosszabbak a napos esték, kedvezve a szabadtéri programoknak...
👀 A Grammarly új szolgáltatása, az Expert Review, izgalmas ígéretekkel hódít: használata során a leghíresebb írók, gondolkodók és még technológiai újságírók stílusában is kaphatunk javítási tanácsokat...
💡 Az MI‑alapú szöveggenerátorok gyors térnyerése alaposan felforgatta a tudományos világot. Egy friss teszt szerint a 13 legnépszerűbb nyelvi modell közül mindegyik képes segíteni a tudományos csalásban, akár akarva, akár akaratlanul...
👑 A Ratcheteer DX a klasszikus kalandjátékok rajongóinak igazi csemege. Egy posztapokaliptikus jövőben ébredsz, ahol az emberiség nagy része a föld alatt alszik, hogy átvészelje a jégkorszakot...
🎮 Létezik egy oldal, ami folyamatosan figyeli, hogyan alakulnak a PlayStation digitális boltjának árai, és most olyan fura dologra bukkantak, hogy azt hinnéd, ilyen csak legendában létezik...
A pénzügyi világ egyik legizgalmasabb trendje bontakozik ki napjainkban: az előrejelző, más néven predikciós piacok kilépnek a sportfogadások és politikai választások árnyékából, hogy a korábban beárazhatatlan geopolitikai kockázatok és szakpolitikai döntések fedezetére váljanak valódi professzionális eszközzé...
