Az MI-modelleket már néhány száz rosszindulatú fájl is veszélybe sodorhatja
A legújabb kutatások szerint mindössze 250 káros dokumentum is elég ahhoz, hogy hátsó kaput nyissanak egy nagy nyelvi modell (LLM) számára, függetlenül annak méretétől. Az MI fejlesztése hihetetlen tempóban zajlik, de ritkán párosul igazán mély ismeretekkel a technológia sebezhetőségeiről. Az Anthropic friss kutatása rávilágít, mennyire könnyen befolyásolhatják rosszindulatú szereplők az LLM-ek tanulását már az előzetes betanítási fázisban.
Mérgezett adatok: kevés is elég a bajhoz
A vizsgált módszer lényege az adat-mérgezés: a modellt olyan dokumentumokkal etetik, amelyek szándékosan veszélyes vagy nem kívánatos viselkedést ültetnek bele. Meglepő eredmény, hogy a támadóknak nem is kell nagy arányban átvenniük az irányítást a teljes tanító adatmennyiség felett. Már egy viszonylag kicsi, 250 darabos, rosszindulatú dokumentumkészlet is elég ahhoz, hogy akár egy 600 milliótól 13 milliárd paraméterig terjedő MI-t is „megfertőzzenek”.
A védekezés nagyon időszerű
A kutatók célja, hogy felhívják a figyelmet: az ilyen támadások sokkal reálisabb veszélyt jelentenek, mint korábban gondolták, és sürgősen szükség van hatékony védekezési stratégiák kidolgozására. Az Anthropic a brit MI Biztonsági Intézettel (UK AI Safety Institute) és az Alan Turing Intézettel (Alan Turing Institute) dolgozott együtt a kutatás során.
2025-ben az óceánok rekordmennyiségű hőt nyeltek el világszerte, ami újabb lökést adott a tengerszint emelkedésének, a heves viharok kialakulásának és a korallzátonyok pusztulásának...
📧 A Google forradalmi újítást vezet be a Gmailben: megérkezett az MI-postaláda, amely a Gemini segítségével automatikusan összegzi a beérkező e-maileket...
Az autóban történő zenehallgatás új szintre lép: a Pioneer Sphera rendszerével immár nemcsak luxusmodellekben, hanem szinte bármelyik járműben élvezhető a Dolby Atmos hangzásvilág...
Az elmúlt időszakban több Galaxy-felhasználó panaszkodott arra, hogy készülékükön régóta nem jelentek meg Google Play rendszerfrissítések, és a telefonon elérhető legújabb frissítés is jóval elavultabb volt a kelleténél...
🔑 Észak-koreai állami hekkercsoport, a Kimsuky új módszerrel veszi célba az Egyesült Államokban működő szervezeteket: csaló QR-kódokat használ úgynevezett célzott adathalász-kampányokban...
🛒 Érdekes kérdés, hogy az Amazon legújabb, MI-vezérelt kísérlete, a Buy for Me (Vásárolj helyettem) funkció miként borzolja a kedélyeket a kisvállalkozók körében...
Végre könnyebben szűrhetők a YouTube-keresések: mostantól ki lehet kapcsolni a Shorts-videókat, így aki csak hosszú formátumú videókra kíváncsi, nem kell tovább a TikTok-ízű tartalmak között bolyongania...
🧠 A tudomány jelenleg úgy gondolja, hogy az univerzum közel 95%-át sötét anyag és sötét energia alkotja, miközben az anyag mindössze 5%-át látjuk, tapintjuk, használjuk nap mint nap...
📈 Az év elején a Bitcoin ETF-ek még rekordösszegeket vonzottak, mindössze két nap alatt közel 400 milliárd forintnyi (több mint 1 milliárd dollár) friss tőke áramlott a piacra...
A legtöbb gazdi tudja, hogy a kutyája néhány szót gond nélkül felismer: például a „séta” vagy a „vacsora” szót – szinte minden kutyánál biztos találat...
A Stanford Egyetem kutatói elképesztő áttörést értek el: programozható, mesterséges bőrt alkottak, amely az álcázás világbajnokainak, a polipoknak a képességeit utánozza...
A New York-i Cyera nevű adatbiztonsági startup újabb elképesztő sikert ért el: mindössze hat hónap alatt az értéke 6 milliárd dollárról majdnem 3300 milliárd forintra, vagyis 9 milliárd dollárra nőtt...
🔍 Végre fellélegezhetnek azok, akik hosszabb YouTube-videókat keresnek, de a legfrissebb keresési eredmények között állandóan rövid Shorts-videókkal találkoznak...
