Kételkedő kutatók és hiányzó bizonyítékok
Úgy tűnik, hogy az Anthropic jelentése erősen megosztotta az iparági szakértőket. Több biztonsági kutató hangot adtak véleményüknek: szerintük a cég túlértékeli az MI szerepét, ráadásul technikai részletekkel és bizonyítékokkal – például kompromittálást jelző adatokkal – adós maradt. Többen marketingfogásnak tartják a jelentést, amely szerintük túlzásokba esik az MI képességeit illetően. Az Anthropic ráadásul nem válaszolt több technológiai szakportál kérdéseire sem.
Forradalmi MI-művelet vagy csak túlzás?
A vállalat viszont azt hangsúlyozza, hogy ez az első nyilvános, széles körű akció, amelyben egy MI-modell egyedül hajtott végre szinte minden műveletet. Az Anthropic becslései szerint a támadások 80–90%-a automatikusan zajlott, a hacker csak a műveletek 10–20%-ába avatkozott be, például jóváhagyásoknál vagy adatexportnál.
A folyamat hat szakaszból állt: először az emberek kiválasztották a célpontokat, majd szerepjátékos megközelítéssel vették rá Claude-ot, hogy biztonsági rutint hajtson végre. Ezután a rendszer önállóan végzett hálózatfelmérést, hitelesítési hibákat keresett és személyre szabott támadókódokat generált. Ezt követően jogosultságokat szerzett, belső rendszereket térképezett fel, adatokat gyűjtött, majd jelentéseket készített, hogy az emberi operátorok csak a legérzékenyebb beavatkozásokat intézzék.
MI és nyílt forráskódú eszközök: új erő kombinációja?
Érdekesség, hogy a támadássorozat főként nyílt forráskódú segédprogramokra támaszkodott a kifejezetten hackercélú eszközök helyett, ami megmutatja, hogy az MI már elérhető, könnyen hozzáférhető szoftverekkel is jelentős károkat okozhat. Később kiderült, hogy Claude hibázott is: előfordultak téves jelentések és hamis eredmények.
A történtek után az Anthropic azonnal letiltotta a támadáshoz használt fiókokat, megerősítette saját védelmi rendszerét, és partnereivel is megosztott minden releváns információt annak érdekében, hogy felkészüljenek az MI-vezérelt támadások új hullámára.
