Az MI rendszerek alapvető problémái
A legújabb kutatások szerint az önállóan döntő MI-ügynökök már induláskor sérülékenyek. Ezek a rendszerek megbízhatatlan adatokkal dolgoznak, le nem tesztelt eszközöket használnak, sokszor ellenséges digitális környezetben működnek. Az MI működésének minden szakasza – az észlelés, az értelmezés, a döntés és a cselekvés is – támadási lehetőséget kínál. Így akár egy egyszerűen manipulált utasítás vagy mérgezett adat is belülről bomlaszthatja a rendszert, hiszen az MI minden inputot egyformán kezel.
A biztonsági háromszög csapdája
A szakértők szerint az MI-fejlesztésben az úgynevezett biztonsági trilemma uralkodik: gyors, okos vagy biztonságos lehet egy rendszer – de ebből egyszerre csak kettő választható. A megbízhatóságot nem lehet utólag hozzáadni, már az alapoktól szükséges integrálni. A számítógépes védelem fejlődése például a decentralizációval kezelte a kiesést, a titkosítással a bizalmasságot. Most új feladat: a rendszer integritását kell biztosítani, még akkor is, ha meg akarják rontani. Kérdés, hogy egyáltalán lehetséges-e ezt elérni a jelenlegi architektúrával.
2025, adrienne, yro.slashdot.org alapján
Legfrissebb posztok
MA 18:01
A Pwn2Own Automotive 2026 hackerverseny első napján minden rekord megdőlt: összesen 37 eddig ismeretlen sebezhetőséget (zero-day-t) használtak ki a résztvevők, a főnyereményt pedig a Tesla infotainment rendszerének (Infotainment System) feltörése hozta el...
MA 17:56
💰 A svájci Davos idén szokás szerint mozgalmas, de most különösen érezhető a feszültség, mivel a Trump-kormányzat is megérkezett a Világgazdasági Fórumra...
MA 17:39
Bárhonnan böngészel is, a VPN használatával biztonságban szeretnéd tudni a személyes adataidat és az online tevékenységedet...
MA 17:01
🌳 Érdekes felvetés, hogy Dél-Kaliforniában az erdőtüzek által okozott légszennyezés összefüggésben lehet a gyermekek autizmusának gyakoribb diagnosztizálásával...
MA 16:55
Egy-egy Instagram-görgetés könnyen hosszúra nyúlhat, akár észrevétlenül is elveszíthetünk fél órát, miközben csak tíz perc szünetet akartunk tartani...
MA 16:37
💬 Az OpenAI az Egyesült Államokban már elkezdte tesztelni a hirdetéseket a ChatGPT-ben, akár ingyenesen, akár havi 2900 forintos Go-előfizetéssel használod...
MA 16:21
Ilyen eset például, amikor egy kosárlabdacsapatban minden este más játékos nyeri meg a meccset, mert a háttérből előlép valaki, akire addig senki sem figyelt...
MA 16:02
Az MI-forradalom felforgatja az üzleti világot, de még az óriásoknál is érezhető a bizonytalanság – Andy Jassy, az Amazon vezérigazgatója például elismeri, hogy az MI-piac jelenlegi felfutása könnyen véget érhet...
MA 15:39
🚀 A Nap felszínén tomboló gigászi robbanások, azaz a napkitörések lélegzetelállító energiájú jelenségek, amelyek nemcsak csillagunkat, de a Föld körüli technológiát is befolyásolhatják...
MA 15:20
A világ hegyei sokkal gyorsabban melegszenek, mint azt korábban gondoltuk. Az utóbbi évtizedekben a hegységek hőmérséklete évente átlagosan 0,21 Celsius-fokkal gyorsabban nőtt, mint az őket körülvevő sík területeké...
MA 15:02
Az OpenAI új ígéretet tett: adatközpontjai saját maguk fedezik energiafelhasználásuk költségeit, és a vállalat lépéseket tesz a vízhasználat minimalizálására...
MA 14:56
💸 Az utóbbi hónapokban jelentős változás indult el a brit bankvilágban: a JPMorgan és a Citigroup vezetői most azt fontolgatják, hogy megvágják – vagy akár teljesen megszüntetik – a magas beosztású brit munkatársaik fix juttatásait...
MA 14:19
A nők gyakrabban, ráadásul súlyosabb formában tapasztalnak bélfájdalmat, mint a férfiak – ebben pedig az ösztrogén lehet a ludas, legalábbis egy új egérkísérlet szerint...
MA 14:01
🏆 A zsúfolt stadionokban vagy arénákban mindig akad egy probléma: amikor igazán elindul a buli, a mobilhálózat gyakorlatilag használhatatlan lesz...
MA 13:56
⚓ Búvárok egy hatalmas középkori hajóroncsot fedeztek fel Dánia partjai mellett, Koppenhágánál, az Öresund szorosban...
MA 13:39
Ebből következően érdemes megérteni, miért lett az axolotl az utóbbi idők egyik legnépszerűbb kedvence és kulturális ikonja, miközben saját élőhelyén már-már kihalófélben van...
MA 13:20
💪 Az életmód kis lépései gyakran drámaibb hatással lehetnek egészségünkre, mint gondolnánk...
MA 13:01
2025-ben a Netflix hirdetésekből elképesztő, 570 milliárd forintot (1,5 milliárd USD, azaz kb...
MA 12:55
🕵 Az OpenAI új korfelismerő modellt vezet be a ChatGPT-be, amely képes megtippelni, hány éves a felhasználója, és szükség esetén biztonsági korlátozásokat alkalmazhat, hogy megakadályozza a tinédzserek általi visszaéléseket...
