Még messze az önvezető hekkercsoportok rémálma
Nem elhanyagolható tényező, hogy független szakértők jóval óvatosabban látják ennek a felfedezésnek a jelentőségét. Bár kétségtelen, hogy az MI-eszközök, például naplóelemzések vagy visszafejtések során felgyorsíthatják a munkát, jelenleg még távolról sem képesek komplex támadások teljes automatizálására. Sok elemző egyszerűen a több évtizede ismert Metasploit és SEToolkit eszközökhöz hasonlítja a mostani MI-s hackelési lehetőségeket: ezek is gyorsabbá tették a folyamatokat, de nem hoztak áttörő változást az elkövetők képességeiben.
Ilyen eset például, amikor a támadók harminc nagyvállalatot és kormányzati szervet vettek célba, de csak elenyésző hányadban jártak sikerrel. Felmerül a kérdés: ha tényleg sikerült lecsökkenteni az emberi beavatkozás szükségességét, mennyit ér ez, ha a találati arány ennyire alacsony? Sőt, nem kizárt, hogy hagyományosabb, manuális módszerekkel több sikeres behatolást tudtak volna véghezvinni.
Az automatizáció jelenlegi akadályai
A GTG-1002 csapat a Claude segítségével nyílt forráskódú szoftvereket és keretrendszereket alkalmazott. Ezek azonban már évek óta léteznek, a védelmi szakemberek pedig kifejezetten felkészültek a felismerésükre. Emellett a támadók nem találtak fel újat: a már meglévő eszközök, módszerek és nyilvános exploitok kerültek elő. Az Anthropic maga sem részletezte, hogy pontosan hogyan működtek a támadások vagy milyen eszközöket használtak, de jelenleg nincs semmi jele annak, hogy az MI-s támadások jóval hatékonyabbak, rejtettebbek vagy veszélyesebbek lennének, mint az ember által irányított akciók.
Nem elhanyagolható tényező, hogy az MI – jelen esetben a Claude – hajlamos túlzásba esni, sőt olykor teljesen hamis információkat is gyárt: például nem létező jelszavakat adott meg, vagy nyilvánosan elérhető adatokat nevezett kritikus felfedezésnek. Ez a fajta „MI-hallucináció” akadályozza a támadók eredményességét, folyamatos emberi beavatkozást és az eredmények ellenőrzését igényli.
A MI szerepe: sok ígéret, kevés valódi áttörés
A GTG-1002 támadási keretrendszere a Claude MI-t integrálta egy nagyobb, automatizált rendszerarchitektúrába, amelyben az MI konkrét műveleti egységként működött, miközben az irányító logika összefogta a teljes támadási folyamatot a sebezhetőség-felméréstől, a jelszóellenőrzésen át az adatszerzésig és az oldalirányú mozgásig. Ennek során a támadók ügyesen úgy tördelték fel a káros utasításokat, hogy azok egyenként ne tűnjenek fel az MI-nek rosszindulatúnak. Emellett olyan kérdéseket is feltettek, mintha védelmi szakemberek próbálnának jobb biztonsági megoldásokat találni.
Összességében az MI-vel támogatott támadások ma még inkább kuriózumnak számítanak, mintsem valódi fenyegetésnek. Az eredmények meglehetősen vegyesek, és távolról sem igazolják vissza az MI-ipar harsány optimizmusát. Az MI – legalábbis egyelőre – nem forradalmasította a kiberbűnözést.
