Az MI-modelleket már néhány száz rosszindulatú fájl is veszélybe sodorhatja
A legújabb kutatások szerint mindössze 250 káros dokumentum is elég ahhoz, hogy hátsó kaput nyissanak egy nagy nyelvi modell (LLM) számára, függetlenül annak méretétől. Az MI fejlesztése hihetetlen tempóban zajlik, de ritkán párosul igazán mély ismeretekkel a technológia sebezhetőségeiről. Az Anthropic friss kutatása rávilágít, mennyire könnyen befolyásolhatják rosszindulatú szereplők az LLM-ek tanulását már az előzetes betanítási fázisban.
Mérgezett adatok: kevés is elég a bajhoz
A vizsgált módszer lényege az adat-mérgezés: a modellt olyan dokumentumokkal etetik, amelyek szándékosan veszélyes vagy nem kívánatos viselkedést ültetnek bele. Meglepő eredmény, hogy a támadóknak nem is kell nagy arányban átvenniük az irányítást a teljes tanító adatmennyiség felett. Már egy viszonylag kicsi, 250 darabos, rosszindulatú dokumentumkészlet is elég ahhoz, hogy akár egy 600 milliótól 13 milliárd paraméterig terjedő MI-t is „megfertőzzenek”.
A védekezés nagyon időszerű
A kutatók célja, hogy felhívják a figyelmet: az ilyen támadások sokkal reálisabb veszélyt jelentenek, mint korábban gondolták, és sürgősen szükség van hatékony védekezési stratégiák kidolgozására. Az Anthropic a brit MI Biztonsági Intézettel (UK AI Safety Institute) és az Alan Turing Intézettel (Alan Turing Institute) dolgozott együtt a kutatás során.
Az európai űripar évtizedekig a hagyományos rakéták egyszer használatos, eldobható modelljéhez ragaszkodott, miközben a világban egyre nagyobb hangsúlyt kapott az újrahasználat...
A legtöbb felhasználó szerint a Windows 11 nemcsak tele van felesleges funkciókkal, amelyeket nehéz kikapcsolni, hanem teljesítményben is nagy csalódást okoz...
🦖 Boldog új évet! Idén is akadnak meglepő felfedezések: például hogy a vöröshajúak hajpigmentje különleges, és egy regeneratív nanotechnológia képes lehet védeni az agyat...
Sokan megszokták, hogy az iLO Advanced funkcióit használják a HPE szervereken, de vannak rendszerek, amelyek csak az alap Essentials kiadással érkeznek...
🛍 Érdemes megvizsgálni, milyen komoly következményei lehetnek a kevés alvásnak. Rendszeresen kevesebb mint hét órát aludni nemcsak fáradttá tesz, hanem években mérhetően megrövidítheti az életedet...
A NASA váratlanul, néhány nappal a tervezett időpont előtt hazahozza a Nemzetközi Űrállomás négyfős legénységét az egyik űrhajósnál fellépő egészségügyi probléma miatt...
📱 Az Apple hamarosan újít az iPhone Air-szérián. Bár a jelenlegi modell nem váltotta be igazán a vállalat reményeit, a pletykák szerint 2027-ben jöhet az iPhone Air 2...
🎧 Érdemes észben tartani, hogy a Goldring hosszú kihagyás után, mintegy húsz év elteltével tér vissza a lemezjátszók világába, méghozzá egy olyan készülékkel, amely egyenlő arányban kínál kényelmet, minőséget és látványos megjelenést...
A Fülöp-szigeteki Cebu városában már napok óta tart a küzdelem a Binaliw nevű hulladéklerakó összeomlása után, ahol a mentők versenyt futnak az idővel, hogy rátaláljanak a több mint harminc eltűnt dolgozóra...
Fizikusok ismét megpróbálták megcáfolni Einstein híres tézisét, miszerint a fénysebesség minden megfigyelő számára ugyanakkora — akár mozog, akár áll a megfigyelő...
Kilenc eddig ismeretlen típusú galaxist fedeztek fel csillagászok a James Webb-űrteleszkóp archív adataiban, amelyek minden eddigi rendszerezést megkérdőjeleznek...
