Az AI új csapdája: úgy ránt be, mint az adathalászat

Az AI-k világában már nem csak emberek lehetnek átverés áldozatai: a mesterséges intelligenciák is csúnyán pofára eshetnek, ha valaki elég ügyesen csavarja a kérdéseket. A promptinjekció (prompt injection), vagyis amikor rosszindulatú utasításokat rejtenek el szövegekben vagy dokumentumokban, teljesen beette magát az AI-k mindennapjaiba. Az okos chatbotokat rá lehet venni arra, hogy kiszivárogtassanak mindent, amiről azt hittük, hogy titokban marad.

Ez tök szép, de aztán jön a de

Embereknél és AI-knál ugyanaz a problémás pont: elég egy óvatlan pillanat és egy jól irányzott kérdés, hogy bizalmas levelek vagy kényes adatok röppenjenek ki. Az embereknél ezt adathalászatnak (phishing) hívjuk, a gépeknél pedig most már a promptinjekció (prompt injection) lett a rettegett szó. Figyelj, ez fontos: a támadók simán képesek parancsokat beágyazni szövegekbe, amelyeket az AI értelmez, holott azok valójában rejtett csapdák. Az igáslóként dolgozó rendszerek gyakran nem is érzékelik, hogy ezek a „parancsok” veszélyt jelentenek – szó nélkül végrehajtják azokat.

Nincs rá megoldás?

A promptinjekció már most is az AI-k világának makacs problémájává vált. Olyan, mintha az adathalászatot (phishing) mostantól bárki bármikor eljátszhatná nemcsak emberekkel, hanem AI-kkal is. Egyelőre semmilyen védelem nem tűnik golyóállónak. Az AI-kat fejlesztő csapatok folyamatosan keresik a megoldást, de egy újabb könnyű trükk mindig keresztbe tesz nekik. Szóval készüljünk: a botok és az emberek egyre inkább ugyanabban a csónakban eveznek – mindkettőt ugyanaz a fenyegetés várja.

2026, adrienne, go.theregister.com alapján