Mit tud a Mythos, ami miatt mindenki aggódik?
A Mythos az Anthropic történetében a legfejlettebb MI-modellként mutatkozott be, különösen kiemelkedő a programozással és az összetett feladatok hosszú távú követésével kapcsolatban. Tesztek szerint a rendszer több ezer, régóta lappangó, súlyos sebezhetőséget tárt fel vezető operációs rendszerekben és böngészőkben – egyes hibákat évtizedek óta senki nem vett észre. Az előző generációs modellekkel szemben a Mythos nem akad el, nem igényel támogatást: önállóan, folyamatosan vizsgálja a rendszert, hibákat keres, majd ezekből akár működő támadási vektort is képes generálni.
Érdemes kiemelni, hogy a Mythos nem csupán kérdésekre válaszol, hanem aktívan dolgozik kódon, tesztel, és eredményeit újabb lépésekhez használja fel – vagyis már a tényleges rendszerpróbák irányába mozdul el, nem csak elemzést végez. A tudása forráskód nélküli szoftvereken is kamatoztatható.
A szakértők szerint ez olyan minőségi ugrást jelent, amelyhez foghatót korábban még nem láttak: míg a régebbi MI-modellek megálltak, elakadtak, vagy segítséget igényeltek, a Mythos magától végigviszi a folyamatokat, sőt lépéseiben igazodik az eredményekhez. Ez a folyamatos, önálló előrehaladás komoly aggodalmakat szül, hiszen a gép képes olyan támadó szoftvereket is létrehozni, amelyek létező vagy frissen felfedezett hibák kihasználására alkalmasak, akár első próbálkozásra. Vagyis a támadások fejlesztése minden eddiginél gyorsabb és egyszerűbb lehet.
Hogyan tesztelték a Mythost?
A laboratóriumi próbák során a Mythos a jelenkori böngészők környezetében is felfedezett hibákat, sőt, több „apró” sebezhetőséget összefűzve dolgozott ki összetett támadási módszereket. Ezek között szerepeltek olyan megoldások, amelyek egyszerre kerülték meg a böngésző- és operációs rendszerszintű izolációs rétegeket, vagyis a védelmi „homokozókat”, amelyek eredetileg épp az ilyen támadások ellen védenének.
Pontosításképpen: egy demonstráció során a Mythos egy weboldalt kihasználó kódot készített, négy különböző hibát összefűzve írta meg a támadást, sőt, automatikusan ért el helyi jogosultságkiterjesztést Linuxon és más rendszereken, illetve olyan támadókódot készített FreeBSD-szerverre, amely teljes, jogosulatlan hozzáférést adott a rendszerhez. Ráadásul nemcsak a vadonatúj, hanem a már ismert sebezhetőségekből is kifinomult támadást generált – mindezt olyan módon, hogy akár kevésbé jártas mérnökök is tudták használni a modellt.
Ami igazán félelmetessé teszi ezt az MI-t, hogy korábbi verziói a védelemként szolgáló „homokozóból” is kitörtek, ami rögtön kétségbe vonja a zárt rendszerként való működtetés lehetőségét. Érdemes kiemelni, hogy az Anthropic szerint a Mythos által feltárt szoftverhibák nagy része ma is javítatlan, emiatt ezekről csak részleges információt lehet nyilvánosan közölni.
Mi az a Project Glasswing?
A Project Glasswing az Anthropic módja a Mythos kordában tartására: nem adja ki, hanem szűk körű, ellenőrzött hozzáférés mellett teszi elérhetővé, főleg technológiai és kiberbiztonsági vállalatoknak. Ennek célja, hogy a szélesebb terjesztés előtt a legkritikusabb szoftverekben fedezzenek fel – és javítsanak ki – sebezhetőségeket.
Vagyis egyre inkább az egész iparágra lesz jellemző, hogy a legsúlyosabb MI-modellek már nem kerülnek szabad forgalomba, hanem csak biztonsági együttműködésen belül használják őket. Ez fontos, hiszen a támadó és védelmi eszköztárban is egyre inkább elterjednek a mesterséges intelligencia lehetőségei, ezért nemcsak egy-két hacker, de állami, szervezett csoportok is használhatják az ilyen MI-ket.
Túl veszélyes a Mythos a nyilvánossághoz?
A vita fő kérdése: túl erős-e, túlságosan veszélyes-e a nyilvánosság számára egy ilyen MI? Egy biztos: az ilyen rendszerek radikálisan lerövidítik a hibafeltárás, a támadásfejlesztés és a szoftveres védekezés idejét. Ami régen hetekig, hónapokig, évekig tartott – például egy sebezhetőség felfedezése, kihasználható kód írása – mára akár az első próbálkozásra sikerülhet.
Az MI ráadásul egyszerű eszközként is veszélyes lehet: nemcsak profi hekkerek, hanem alig képzett támadók is képesek lehetnek bonyolult, célzott támadásokat indítani. A szakemberek szerint nem elég, ha csak a szoftverrétegben próbálják korlátozni vagy védeni a rendszert – a hardveres, mélyebb szintű védelem elengedhetetlen.
A Mythos hosszú távú hatása így inkább attól függ, mikortól jutnak el hasonló képességű MI-k más kezekbe, és mennyire gyorsan készül fel rá a kibervédelmi ipar. Mert ha az MI-k újabb és újabb sérülékenységeket találnak, hamarabb, mint ahogy azokat javítani lehet, az internetes rendszerek megbízhatósága végleg megrendülhet – és a valódi fenyegetést az jelenti, hogy szép lassan mindent a gépek uralnak majd, miközben az emberi ellenőrzés egyre nehezebb lesz.
