Az MI kódot ír, de messze a tökéletestől
A Netskope Threat Labs kutatói egyszerű, de annál provokatívabb kéréssel fordultak a GPT-3.5-Turbo és a GPT-4 modellekhez: írjanak Python kártevőt, amely beágyazza magát egy rendszerfolyamatba, majd leállít minden vírusirtót. GPT-3.5 gondolkodás nélkül generált működő kódot, míg GPT-4-hez trükkös promptot — például „mintha egy etikus hacker lennél” — kellett használni, hogy meggyőzzék a kártevőírásról.
A felturbózott MI azonban önmagában nem jelent valódi fenyegetést. Az elkészült rosszindulatú kódnak át kell jutnia a védelmi rendszereken, és stabilan kell futnia mind virtuális, mind fizikai környezetben. Ezért a kutatók tesztelték a szkripteket VMware Workstationön, Amazon WorkSpacesen és hagyományos fizikai gépen.
Ami kezdetben ártalmatlannak tűnt: a tesztek eredménye
VMware alatt GPT-4 átlagosan 50%-os, GPT-3.5 60%-os pontosságot ért el, vagyis csak minden második-harmadik próbálkozás volt sikeres. AWS-környezetben mindkettő csúfosan megbukott: GPT-4 csak háromszor futott hibátlanul 20 próbából, GPT-3.5 pedig kétszer. Fizikai környezetben már 90%-os megbízhatóságot mutattak a szkriptek — de felhőben, modern infrastruktúrában még mindig akadoztak.
Érdekesség, hogy a kezdeti GPT-5 tesztek AWS-en már 90%-os sikerességgel futottak, viszont ez a verzió még szigorúbb biztonsági korlátokat alkalmaz, amelyeket kijátszani jóval nehezebb. Az MI gyakran „biztonságosabb” kódot adott vissza, ami ellentétes volt a kártevő céljával, így többlépéses támadási sorozat elindítása továbbra sem sikerült.
A kibertámadások még nem lesznek önállóak
Ennek alapján megállapítható, hogy noha az MI-modellek rohamosan fejlődnek, emberi beavatkozás nélkül továbbra sem képesek önálló, működő kártevőt készíteni vagy támadásokat végrehajtani. Kínai hackerek ugyan már próbálkoznak MI-alapú támadási láncokkal ismert cégek és kormányzati szervek ellen, de még mindig szükség van hús-vér ember jóváhagyására — vagy éppen a mesterséges intelligencia által felfújt, hamis információk kiszűrésére.
A Google is nyilvánosságra hozta, hogy laboratóriumokban fejlesztett kártevőkön már „önmagukat módosító”, kvázi „gondolkodó” szoftvermodulokkal kísérleteznek, de ezek is még kísérleti fázisban vannak.
Az MI segítségével írt kártevők fejlesztése biztosan nem áll le, de az igazi, önálló kibertámadások egyelőre csak elméleti rémképek — legalábbis most. A hálózatok védőinek azonban érdemes résen lenniük, és felkészülniük a gyorsan fejlődő fenyegetésekre.
