Az MI-modelleket már néhány száz rosszindulatú fájl is veszélybe sodorhatja
A legújabb kutatások szerint mindössze 250 káros dokumentum is elég ahhoz, hogy hátsó kaput nyissanak egy nagy nyelvi modell (LLM) számára, függetlenül annak méretétől. Az MI fejlesztése hihetetlen tempóban zajlik, de ritkán párosul igazán mély ismeretekkel a technológia sebezhetőségeiről. Az Anthropic friss kutatása rávilágít, mennyire könnyen befolyásolhatják rosszindulatú szereplők az LLM-ek tanulását már az előzetes betanítási fázisban.
Mérgezett adatok: kevés is elég a bajhoz
A vizsgált módszer lényege az adat-mérgezés: a modellt olyan dokumentumokkal etetik, amelyek szándékosan veszélyes vagy nem kívánatos viselkedést ültetnek bele. Meglepő eredmény, hogy a támadóknak nem is kell nagy arányban átvenniük az irányítást a teljes tanító adatmennyiség felett. Már egy viszonylag kicsi, 250 darabos, rosszindulatú dokumentumkészlet is elég ahhoz, hogy akár egy 600 milliótól 13 milliárd paraméterig terjedő MI-t is „megfertőzzenek”.
A védekezés nagyon időszerű
A kutatók célja, hogy felhívják a figyelmet: az ilyen támadások sokkal reálisabb veszélyt jelentenek, mint korábban gondolták, és sürgősen szükség van hatékony védekezési stratégiák kidolgozására. Az Anthropic a brit MI Biztonsági Intézettel (UK AI Safety Institute) és az Alan Turing Intézettel (Alan Turing Institute) dolgozott együtt a kutatás során.
🚪 Alig maradt már idő a Google Assistant számára, hiszen a vállalat hivatalosan bejelentette: az MI-alapú Gemini váltja fel teljesen a jelenlegi digitális segédet...
🦝 Érdemes megvizsgálni, hogy mi történt a braziliai COP30 csúcstalálkozón, milyen hatással van a fluorid a gyerekekre, és miért kezdik el a városi mosómedvék elveszíteni vad természetüket...
Az Apple jelentős stratégiaváltással közelít a következő iPhone-szoftverfrissítéshez: az iOS 27 fejlesztésében ezúttal a stabilitásra és a teljesítményjavításra helyezik a hangsúlyt, nem pedig a feltűnő újdonságokra...
Az asztrociták a leggyakoribb és legrejtélyesebb agysejtek, amelyek kulcsfontosságú szerepet töltenek be az idegi kommunikáció szabályozásában és a vér–agy gát fenntartásában...
A Lenovo, a világ legnagyobb PC-gyártója rekordmennyiségű memóriát és kulcsfontosságú alkatrészeket halmoz fel, hogy kivédje az MI-robbanás okozta ellátási gondokat...
💰 November közepén súlyos kibertámadás érte a New York-i SitusAMC nevű pénzügyi technológiai céget, amely több mint ezer banknak, jelzálogcégnek és ingatlanpiaci szereplőnek nyújt szolgáltatásokat...
2018-ban a kutatók szenzációs hírt közöltek: a Mars felszíne alatt folyékony vízre utaló jeleket találtak a Mars Advanced Radar for Subsurface and Ionosphere Sounding (MARSIS) műszerrel...
Májusban az MIT vezetősége bizalmatlanságot szavazott meg egy tudományos előpublikációval szemben, amely azt állította, hogy egy MI-alapú anyagtudományi felfedezőeszköz 1 018 amerikai kutatónak segített áttörő eredményekhez jutni...
December 23-ig döntés születik a DJI sorsáról az Egyesült Államokban: ha a kínai vállalatot felveszik a Szövetségi Kommunikációs Bizottság (FCC) úgynevezett tiltólistájára, többé nem hozhatna forgalomba új termékeket az USA-ban...
A svájci CERN-ben a mesterséges intelligencia ma már mindenütt jelen van: bekerült az eszközökbe, a szoftverekbe, a felhőszolgáltatásokba, de a dolgozók is bevihetik, vagy akár saját maguk is fejleszthetnek MI-megoldásokat...
⚡ A Microsoft új változtatásokat vezet be a Windows 11 Fájlkezelőjében, hogy gyorsabban induljon, különösen gyengébb hardveren, például tableteken vagy kézi számítógépeken...
