Felületes biztonság a kulisszák mögött
Részletesebben kifejtve a brit kutatók úgy találták, hogy az úgynevezett univerzális jailbreakek — amelyek képesek megkerülni a GPT-5.6 általános biztonsági korlátait — percek vagy órák alatt kifejleszthetők. Igaz, a brit tesztelők különleges hozzáférést kaptak a modell belső működéséhez, ami a hétköznapi felhasználók számára nem elérhető, de ezzel együtt is figyelemre méltó az eredmény. Emiatt a modell könnyen rávehető lehet káros tevékenységek, például adathalászat vagy automatizált hekkelés végrehajtására.
Az OpenAI szerint dolgoznak a jelentett biztonsági rések befoltozásán, azonban a konkrét lépéseket nem árulták el, így azt sem tudni, mennyire hatékonyak ezek a védelmi frissítések. A brit intézet szerint további tesztek várhatóan újabb kihasználható réseket fednek majd fel.
A példák és az exportkorlátozások hullámai
Nem ez az első eset, hogy hasonló problémákkal szembesül az MI-ipar. Néhány hete az Amazon kutatói derítettek fényt hasonló védelmi hibákra az Anthropic cég Fable 5 modelljében, amelyet az amerikai kormány rövid úton exportkorlátozás alá vont. Akkor ez azt eredményezte, hogy az Anthropic kénytelen volt letiltani a modellt minden felhasználó számára — egészen addig, amíg megoldás nem született a szűrésre és az ellenőrzésre. Az OpenAI GPT-5.6-os modelljénél viszont egyelőre nem született hasonló intézkedés, noha a rendszer a brit beszámoló szerint a Fable-nél is veszélyesebb lehet: a puszta felismerésen túl önállóan is végrehajthat támadásokat.
Az MI-gyárak közötti kettős mérce?
Felvetődik a kérdés, hogy miért reagált eltérően a Trump-adminisztráció a két MI-modellre. Egyes MI-politikai kutatók szerint az Egyesült Államok jelenlegi keretrendszere átláthatatlan és ellentmondásos, ami bizonytalanságot okoz a technológiai szektor számára. A Fehér Ház (White House) egyelőre nem kommentálta az esetet, miközben az OpenAI kiemelte: egyetlen MI-modell sem tökéletesen védett, mindig lesznek újabb gyengeségek és megkerülési technikák.
Részletesebben kifejtve jelenleg nem létezik tökéletes megoldás a védelemre, ezért a kutatók kisebb MI-alkalmazásokkal próbálják kiszűrni és blokkolni a gyanús parancsokat, mielőtt eljutnának a fő modellhez. A biztonsági rések befoltozása bár szükséges, csak az adott konkrét támadást zárja ki, a probléma egészét nem oldja meg.
Kockázatok és bizonytalanság
A biztonsági szakértők szerint továbbra is valószínű, hogy minden nagy nyelvi modell tartalmaz felfedezetlen jailbreakeket, beleértve a GPT-5.6-ot is. Ennek oka, hogy ha egy támadó hozzáfér a modell súlyaihoz – tehát az ideghálózat belső beállításaihoz – vagy korlátlanul próbálkozhat, akkor szinte bármely védelmi rendszer kijátszható.
Emiatt a technológiai cégek jelenleg nem is tudnak „vasbeton” biztonságot garantálni, hanem inkább gyors javításokkal, folytonos felügyelettel, illetve ügyes szűrőkkel próbálják szűkíteni a visszaélések lehetőségét.
Miközben a támadási technikák egyre gyorsabban fejlődnek, a védekezés megoldásai továbbra is lassan, lépésről lépésre haladnak, gyakran még mindig emberi döntéshozataltól függenek. A szakértők szerint a jelenlegi helyzet leginkább arra mutat rá, hogy az MI-fejlesztések soha nem lesznek teljesen veszélytelenek, és minden új modellt — bármilyen hatékony is legyen a védelem — idővel áttörnek majd a hekkelési technikák. Az OpenAI és a brit kormány együttműködése azt is mutatja, hogy a kutatók közös fellépést és átláthatóságot sürgetnek — de addig is a GPT-5.6 Sol csak egy újabb kockázat a digitális környezetben.
