Az MI-modelleket már néhány száz rosszindulatú fájl is veszélybe sodorhatja
A legújabb kutatások szerint mindössze 250 káros dokumentum is elég ahhoz, hogy hátsó kaput nyissanak egy nagy nyelvi modell (LLM) számára, függetlenül annak méretétől. Az MI fejlesztése hihetetlen tempóban zajlik, de ritkán párosul igazán mély ismeretekkel a technológia sebezhetőségeiről. Az Anthropic friss kutatása rávilágít, mennyire könnyen befolyásolhatják rosszindulatú szereplők az LLM-ek tanulását már az előzetes betanítási fázisban.
Mérgezett adatok: kevés is elég a bajhoz
A vizsgált módszer lényege az adat-mérgezés: a modellt olyan dokumentumokkal etetik, amelyek szándékosan veszélyes vagy nem kívánatos viselkedést ültetnek bele. Meglepő eredmény, hogy a támadóknak nem is kell nagy arányban átvenniük az irányítást a teljes tanító adatmennyiség felett. Már egy viszonylag kicsi, 250 darabos, rosszindulatú dokumentumkészlet is elég ahhoz, hogy akár egy 600 milliótól 13 milliárd paraméterig terjedő MI-t is „megfertőzzenek”.
A védekezés nagyon időszerű
A kutatók célja, hogy felhívják a figyelmet: az ilyen támadások sokkal reálisabb veszélyt jelentenek, mint korábban gondolták, és sürgősen szükség van hatékony védekezési stratégiák kidolgozására. Az Anthropic a brit MI Biztonsági Intézettel (UK AI Safety Institute) és az Alan Turing Intézettel (Alan Turing Institute) dolgozott együtt a kutatás során.
Álomszerűen tiszta borostyánban találtak egy döbbenetes ősi rovart Mianmarban, amelynek mellső lábait rákollókra emlékeztető hatalmas ollók koronázzák meg...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ImgRef (iPhone/iPad)Ez az alkalmazás egy sokoldalú, minden igényt kielégítő kreatív eszköz: lehetővé teszi mood boardok készítését, referenciafotók rendezését, intelligens médiakezelést, precíz színválasztást és szabad kollázsolást...
A középkori várak korában, amikor Európában állandó háborúk és hatalmi harcok dúltak, a masszív, kőből épült erődök sokszor a túlélés zálogát jelentették...
🌱 Fontos kérdés, hogy miért jelennek meg bizonyos betegségek, például a diabétesz, sokkal fiatalabb korban a hawaii őslakosok között, mint az állam többi lakójánál...
💰 A kriptopiacok jelentős mozgásokat mutattak, miután amerikai rakétacsapások értek iráni célpontokat, ami azonnali hatással volt az olajárakra és a főbb devizákra is...
Az elmúlt 24 órában 15%-ot emelkedett a NEAR token, így ára elérte az 1050 forintot (2,8 USD), ami egy hónapos felfutás csúcsa: ebben az időszakban a NEAR értéke megduplázódott...
A Kansas City Public Schools vezetősége radikális digitális fordulatot jelentett be: több mint 30 000 Windows PC és Chromebook cseréjét kezdik meg Apple laptopokra...
🔒 Fontos fejlemény, hogy Indonézia hivatalosan is blokkolta a Polymarket kriptovalutás előrejelző platformját, azzal az indokkal, hogy az tulajdonképpen online szerencsejátéknak minősül a helyi jog szerint...
Az MI fejlődése az utóbbi években újabb lendületet kapott: a kutatók egy úttörő megoldással ötvözték a hagyományos nyelvi modelleket a kvantumszámítógépek erejével...
Különösen igaz ez akkor, ha az orvostudomány fejlődésének mérföldkövei szó szerint rozsdásodnak a múltban: Kína egyik Ming-kori sírjából előkerült, 600 éves műtéti eszközökről egy mostani vizsgálat során kiderült, hogy rajtuk maradt a világ első közvetlen kémiai nyoma egy helyi érzéstelenítőszernek...
🔍 Érdemes megérteni, hogy a modern testsúlycsökkentő gyógyszerek hatása nemcsak az étvágy csökkentésében rejlik, hanem abban is, hogyan hatnak az agy bizonyos idegsejtjeire...
🤠 A Kenshi egyedülálló túlélő játékmenetével rémiszt és vonz egyszerre: már a kezdésnél a sivatag közepén találod magad, minden statod 1-es, körülötted ellenségek, ráadásul a bal karod is hiányzik, és éhínség sújt; egy olyan világban, ahol az éhezés bűncselekménynek számít...
Ha valaha kísérletet tettél arra, hogy megjavíts egy elromlott eszközt, de pénzügyi vagy technikai akadályok miatt inkább újat vettél, nem vagy egyedül...
Időutazás egy sűrű nap történéseihez: Napóleon Milánóban koronát kap, az Apollo 10 épségben visszatér a Földre, és az Európai Közösség elfogadja a ma is ismert európai zászlót...
