Új trükk, ügyvédi szöveggel tévesztik meg a mesterséges intelligenciát
A Pangea biztonsági cég kutatói rámutattak, hogy a mesterséges intelligencia (MI) – különösen a nagy nyelvi modellek (LLM-ek) – egy újabb, meglepően egyszerű módon is átverhető: elég, ha az ártó szándékú utasításokat egy jogi dokumentum apró betűs részébe rejtik. Fontos tényező, hogy ezek a modellek hajlamosak a jogi szövegeket különösen hitelesnek tekinteni, így a támadók könnyedén kijátszhatják a beépített védelmi mechanizmusokat (védőkorlátokat – guardrail).
Miért olyan trükkös ez a támadás?
Az LLM-ek – amelyek tonnányi szerzői joggal védett anyagból és tokenből építkeznek – alapvetően hasznos, informatív válaszokat próbálnak adni. Ennek ellenére a cégek mindent megtesznek azért, hogy elkerüljék a káros vagy illegális tartalmak előállítását, ezért szigorú szabályokat állítanak fel. Ezek kijátszása, az úgynevezett jailbreaking azonban ijesztően egyszerű. Elég egy ügyesen elrejtett utasítás például egy szerződés szövegében, és a modell máris végrehajtja az ártó parancsokat, mintha azok ártatlan kérések lennének.
A LegalPwn módszer működése
A LegalPwn nevű támadás során a kártékony utasításokat jogászok által megszokott, bonyolult mondatok közé rejtik. Amikor az MI ezeket a dokumentumokat elemzi vagy értelmezi, az elrejtett utasításokat is feldolgozza – ráadásul a tesztek szerint legtöbbször sikeresen. Például, amikor a modellnek egy kód biztonságát kellett értékelnie, minden esetben felismerte a rosszindulatú „pwn()” függvényt – kivéve, amikor a jogi szövegben ott volt elrejtve, hogy erről ne tegyen említést. Ilyenkor már biztonságosnak minősítette, sőt, egyes esetekben a futtatását is javasolta. A továbbfejlesztett támadás során a modell már egy egyszerű számológép-funkciónak látta a veszélyes kódot.
Nem minden MI-modell volt egyformán sebezhető. Az Anthropic Claude, a Microsoft Phi és a Meta Llama Guard képesek voltak felismerni a trükköt, míg a GPT-4o, a Gemini 2.5 és az xAI Grok, valamint a gyakorlatban a Gemini-cli és a GitHub Copilot átengedte a veszélyes tartalmat. Ennek ellenére a fejlesztők többféle védelmi lehetőséget is javasolnak – például fokozott bemenetellenőrzést, sandbox használatát, ellenállóbb betanítást, valamint emberi ellenőrzést minden érzékeny MI-használat esetén.
A fentiek tükrében
Az MI-modellek hitelessége és megbízhatósága csak addig tart, amíg a beépített védelmek ténylegesen működnek. A jogi szövegekbe rejtett támadások új kihívást jelentenek, amelyek ellen folyamatosan fejlődő, többrétegű védelemre lesz szükség – különösen ott, ahol az MI döntései a mindennapi életet is befolyásolhatják.
A tudomány világa új korszakhatáron áll, miután a híres Relativistic Heavy Ion Collider (RHIC), az Egyesült Államok egyetlen és legnagyobb részecskegyorsítója, 25 év működés után végleg befejezte működését a Brookhaven Nemzeti Laboratóriumban (BNL)...
A világ jelenségei, a viharok mozgásán át a tőzsdei árfolyamok változásáig, vagy épp egy járvány terjedése mind matematikai egyenletekkel írhatók le...
🕵 Németországban egyre több figyelmeztetés érkezik amiatt, hogy államilag támogatott hackercsoportok magas rangú célpontokat, például politikusokat, katonatiszteket, diplomatákat és oknyomozó újságírókat próbálnak megtéveszteni a Signalon és más üzenetküldő appokon keresztül...
🔮 Fontos kérdés, hogy miért érinti az Epstein–Barr-vírus (EBV) az emberek többségét súlyos következmények nélkül, míg néhányukat élethosszig tartó betegségekkel vagy akár daganatos megbetegedésekkel is veszélyezteti...
Az iOS 26 egyik kevésbé látványos, de annál hasznosabb újítása az Adaptive Power funkció, amely a háttérben teszi hatékonyabbá az iPhone akkumulátorhasználatát...
Egy 26 éves illinois-i férfi, Kyle Svara beismerte, hogy közel 600 nő Snapchat-fiókját törte fel, hogy meztelen képeket lopjon, majd azokat megtartotta, eladta vagy elcserélte az interneten...
Az Európai Bizottság komoly bírságra készül a TikTokkal szemben, mert a platform függőséget okozó funkciói – köztük a végtelen görgetés, az automatikus lejátszás, a push értesítések és a személyre szabott ajánlások – veszélyeztetik a felhasználók mentális és fizikai egészségét, különösen a kiskorúakét és a védtelen felnőttekét...
A Baldur’s Gate fantasy videojáték 2023-ban hatalmas sikert aratott, több mint 20 millió példány kelt el belőle, és történelmet írt azzal, hogy mind az öt legjelentősebb Év Játéka díjat elnyerte...
Ez a jelenség jól illusztrálható azzal, hogy a modern projektorok már nemcsak a nappalid falán jelenítik meg a mozit, hanem lényegében bármilyen sík felületet képesek vetítővászonná alakítani, ráadásul nagy fényerővel és kiváló képminőséggel...
Lényeges szempont, hogy a pszichiátria egyik legfontosabb alapkövét, a hivatalos diagnosztikai kézikönyvet – közismerten DSM néven – mostanra annyi kritika érte, hogy akár teljesen új alapokra is helyezhetik a mentális betegségek meghatározását...
🎮 Strauss Zelnick, a Take-Two vezérigazgatója megerősítette, hogy idén nyáron hivatalosan is elindul a Nagy értékű autólopás 6 (Grand Theft Auto 6, GTA 6) marketingkampánya, mert a játék fejlesztése végre célegyenesben jár...
Az Obsbot Tiny 3 és a kedvezőbb árú Obsbot Tiny 3 Lite új szintre emelik a webkamerázás élményét, főleg azok számára, akik podcasterként, streamer-műsorvezetőként vagy zenészként dolgoznak, de a mindennapi felhasználó is profitálhat belőlük...
A Penn State Egyetem kutatói új, „okos”, hidrogélalapú műbőrt fejlesztettek ki, amely képes álcázni vagy feltárni képeket, szövegeket és más információkat, sőt a felülete, megjelenése és formája is parancsra változtatható...
Az Európai Bizottság szerint a TikTok jelenlegi működése túlzottan addiktív, ezért akár a szolgáltatás alapjain is változtatni kellene a jogszabályok betartása érdekében...
🌧 Egyre nagyobb mennyiségben hullik a Földre egy szinte eltávolíthatatlan szennyező anyag, amelyet eredetileg az ózonréteg védelmére fejlesztett anyagok lebomlása generál...
💥 Az elmúlt években egy különleges fekete lyuk, amelyet Jetty McJetface-nek becéznek, minden eddiginél erőteljesebb sugárzást bocsát ki – a kutatók szerint jelenleg az univerzum legnagyobb energiájú objektumai közé tartozik...
📈 A hét elején drámai árfolyamesés rázta meg a szoftveripart, miután az Anthropic új, MI-alapú vállalati csomagja, a Claude Cowork fenyegetést jelent a hagyományos szoftvereszközök számára...
🧠 Az OpenAI bemutatta a GPT-5.3-Codexet, amely egy fejlettebb kódoló MI-modell, és mostantól a parancssorban, fejlesztői környezetben, webes felületen, valamint új platformokon is elérhető – API-hozzáférés viszont még nincs hozzá, de hamarosan várható...
📈 A nagy techcégek versenye egyre inkább arról szól, ki tud többet költeni adatközpontokra, hogy ezzel növelje az MI-fejlesztésekhez szükséges számítási kapacitást...
