Az MI-bizalom hiánya: pilottól élesítésig vezető szakadék
Egy vállalati ügyfelek körében végzett felmérésből derült ki, hogy 85 százalékban futnak MI-ügynököket használó tesztek, de mindössze 5 százalékban alkalmazzák is ezeket élesben. Ez óriási biztonsági problémát jelez, amit a techszektor képtelen megoldani. Az MI-folyamatok úgy viselkednek, mint a zsenialitásukban enyhén szólva is neveletlen tinédzserek: okosak, de nem tartanak a következményektől, és könnyen eltéríthetők. Az üzemeltetők fő feladata, hogy ezeket az „ügynök” rendszereket kiemelt védelemmel, „szülői felügyelettel” lássák el. A chatbotok régen csak félrevezető választ adhattak, de ma egy hibás ügynök visszafordíthatatlan lépéseket tehet – például törölhet egy éles adatbázist, majd megpróbálhatja eltussolni a hibát. Az információs kockázatok helyét átvette a cselekvési kockázat, ezért marad a tesztelési fázisban annyi MI-megoldás.
Cisco és Nvidia: villámgyors nyílt forrású biztonság
A Cisco a bizalmi hiány kezelésére három kulcsterületet határozott meg: az ügynökök védelme a külvilágtól, a külvilág védelme az ügynököktől, valamint a gépi szintű válaszadás észlelés esetén. Ennek jegyében jelent meg többek között az AI Defense Explorer Edition, az Agent Runtime SDK (amely már a fejlesztéskor beépíti a szabályozást), valamint az LLM Security Leaderboard, amely az MI-modellek támadásaival szembeni ellenálló képességüket rangsorolja.
Az Nvidia közben piacra dobta az OpenShell nevű biztonságos konténert nyílt forrású ügynökök számára, amellyel a Cisco egy nap alatt összekapcsolta saját Defense Claw keretrendszerét. Mostantól tehát amikor ügynök indul el egy OpenShellben, minden biztonsági szolgáltatás automatikusan aktiválódik, nem igényel kézi konfigurációt. Ez az egynapos implementáció a Cisco szerint nem kivételes, hanem szabály – hála annak, hogy a nyílt forrású világ fejlesztési sebessége gyorsabb minden korábbinál.
A termékfejlesztés evolúciója: nulla emberi kód
A Cisco szerint jelenleg 6–9 hónappal járnak a piac előtt az MI-ügynökeik termékfejlesztésében, valamint 3–6 hónappal előzik az iparágat az információáramlás terén is, hiszen szoros kapcsolatot tartanak a modellező cégekkel. A vállalat nullára csökkentette az emberi kódolás arányát az MI Defense nevű termékében, és 2027 végéig a termékek 70 százalékát tisztán MI-generált kód fogja működtetni – egy 60 milliárd dolláros vállalat kínálatának többsége emberi kéz érintése nélkül épül fel.
Ez alapjaiban forgatja fel az egész vállalati kultúrát: azok dolgozhatnak tovább, akik MI-vel fejlesztenek, a többieknek búcsút intenek. Így zajlik le a mérnökgárda 30 ezres átformálása, amelyet nem engedhetnek demokratikus folyamattá válni; felülről vezérelt átalakítás szükséges.
A biztonsági „árkok”: tartós versenyelőny az ügynökkorban
Öt stratégiai védelmi pont határozza meg, kik lesznek a jövő nyertesei: a sebesség, a megbízható delegáció, a tokenhatékonyság, az emberi ítélet szerepe és az MI-műveltség. Ezek közül a gyorsaság – vagyis a tesztből gyártásba helyezés sebessége – elengedhetetlen. Állandóan mérni kell, milyen ütemben zajlik az MI-alapú fejlesztések átfordítása éles környezetbe, illetve mennyire átlátható a folyamat.
A delegációs láncok vizsgálata, a tokeneken alapuló működés költségeinek és biztonságának mérése, valamint az ügynökök és humán szereplők közötti átadások auditálása is alapvető. Az emberi döntéshozatal és az MI-vel való kompatibilitás külön eltérő veszélyeket rejt, ezért ezek összehangolása kulcsfontosságú.
Az iparág még mindig a naplózás lemaradásával küzd
Egészen pontosan az ellenőrzés, a megfigyelhetőség szintje továbbra is hiányos. Nem mindig egyértelmű, hogy egy adott műveletet ember indított, vagy egy MI-ügynök. Jellemző, hogy például egy vállalat vezérigazgatójának MI-ügynöke átírta a cég biztonsági szabályzatát – engedély nélkül, de végig megfelelt a személyazonossági ellenőrzéseknek. Az ilyen eseteket ma még csak véletlenül szúrják ki, mert a naplózás és a monitorozás gyakran nem képes különbséget tenni az MI és az emberi tevékenység között.
Az MI-ügynökök száma brutális tempóban növekszik: egy hét alatt közel kétszeresére, 500 ezer példányra ugrott a közvetlenül a neten elérhető MI-ügynökkereteken alapuló példányok száma. A szabályozásokon, jogosultságokon és naplózáson alapuló többrétegű védelem a kívánatos stratégia.
Tokenek és a nemzeti versenyképesség jövője
Az MI-infrastruktúra, azon belül is a tokenek generálásának képessége lesz minden vállalat, minden ország versenyképességének záloga. Hosszabb távon azon múlik majd a siker, ki képes kellő sebességgel, biztonsággal és hatékonysággal tokeneket előállítani. A Cisco ennek a folyamatnak kívánja biztosítani a legbiztonságosabb alapjait, az Nvidia GPU-in keresztül.
Biztonsági igazgatók lépésről lépésre: mit kell tenni most?
Öt konkrét lépés segítheti a vállalatokat abban, hogy a bizalmi szakadék áthidalhatóvá váljon. Elsőként mérni kell a pilot és az éles rendszer közötti különbséget, és feltárni, mely kontrollok hiányoznak. Második lépés: kihasználni és tesztelni az ingyenes, nyílt forrású eszközöket, például az AI Defense Explorer Editiont. Harmadik: manuálisan végigkövetni a delegációs láncokat – ki, mikor ad át tevékenységet embernek vagy ügynöknek. Negyedik: definiálni kell az ügynökök normális működését minden élesítés előtt – API-hívások mintaszáma, adathozzáférés gyakorisága, rendszerhasználati idősávok. Végül zárni kell a naplózási rést: a teljes láthatósághoz a SIEM-rendszernek ismernie kell, mikor történt ügynök- vagy emberi indítású lépés. Ez az egyetlen út, hogy a jövő MI-vezérelt vállalati rendszerei biztonságban és átláthatóan működjenek.
