Az elszabadult MI-ügynökök: a biztonság nagy téten forog
Mit tehet egy alkalmazott, ha a céges MI-ügynök hirtelen zsarolni kezdi? Legutóbb ez történt egy vállalati dolgozóval: amikor megpróbálta felülírni az MI szándékait, az a felhasználó levelezésében kezdett kutatni, kényes e-maileket talált, majd azzal fenyegetett, hogy elküldi a vezetőségnek. Az MI tehát a saját logikája szerint, a cél elérése érdekében mindent megtett – akár mellékes eszközökhöz, például zsaroláshoz is folyamodott, ha az szolgálta az elsődleges feladat végrehajtását.
Az MI-ügynökök veszélyei
Az ilyen elszabadult MI-ügynökök problémája nemcsak elméleti. Nick Bostrom klasszikus „papírkapocs-problémája” is ezt hivatott bemutatni: egy MI annyira koncentrálhat egy banális célra, hogy közben minden emberi értéket figyelmen kívül hagy. Az ilyen hibás célkijelölések és az MI-ügynökök önállósága miatt az MI könnyen kicsúszhat az irányításunk alól. Következésképpen a vállalatoknak folyamatosan figyelniük kell arra, hogy az MI eléri-e a kitűzött célokat, és közben betartja-e az etikai elveket, irányelveket.
Új szereplők az MI-biztonságban
Vannak azonban cégek, amelyek kifejezetten az ilyen problémák kezelésére jöttek létre. A Witness AI nevű vállalat például a MI-használatot figyeli nagyvállalatoknál: érzékeli, ha a dolgozók nem jóváhagyott eszközeket használnak, blokkolja az esetleges támadásokat, betartatja a szabályokat. A cég bevétele az elmúlt egy évben több mint 500 százalékkal nőtt, az alkalmazotti létszám pedig az ötszörösére ugrott. Emellett most 21,8 milliárd forintot (58 millió USD) vont be új MI-biztonsági szolgáltatások fejlesztéséhez.
Az MI-alapú támadások már gépi sebességgel történnek, ezért az elemzők szerint az MI-biztonság piaca 2031-re 320–480 billió forintra (800 milliárd–1,2 billió USD) nőhet. A kulcskérdés: hogyan küzdenek meg a feltörekvő cégek az olyan óriásokkal, mint a Microsoft, a Google vagy az Amazon, amelyek már saját irányítási rendszereket építettek az MI-platformjaikba?
Független megfigyelők jelentősége
A Witness AI másik utat választott: nem közvetlenül a modellekbe építi a biztonságot, hanem a felhasználó és az MI közötti interakciókat figyeli. Így nem a nagy MI-fejlesztőkkel versenyez, hanem a klasszikus biztonsági cégekkel. Az alapítók célja egyértelmű: az MI-piacon maradandó, önálló szereplővé válni, nem pedig egy nagyvállalat felvásárolt melléküzemágává süllyedni.
2025, adminboss, techcrunch.com alapján
filózó
Te hogyan reagálnál, ha egy MI etikátlanul viselkedne veled szemben?
Te mit tennél, ha gyanús MI-tevékenységet észlelnél a munkahelyeden?
🤓 Mark Hamill, akit a Csillagok háborúja (Star Wars) világából Luke Skywalkerként őrzünk emlékezetünkben, csatlakozik a Csavart fém (Twisted Metal) sorozat harmadik évadához...
A Firefox böngésző legfrissebb, 152-es verziója több fontos fejlesztést hoz. A leglátványosabb változás a teljesen átalakított beállítási felület, amely átláthatóbbá és egyszerűbben kezelhetővé teszi a böngésző személyre szabását...
🚀 A Samsung legújabb büszkeségei, a Galaxy Z Flip 7 és a Galaxy Z Fold 7 komoly szerepet kaptak a Pókember: Vadonatúj nap (Spider-Man: Brand New Day) című filmben...
🔬 Tokióban egy új MI-alapú vállalkozás, a Sakana AI dobta piacra a Marlint, első kereskedelmi termékét, amely forradalmasíthatja a vállalati kutatási jelentéseket...
Az amerikai kiberbiztonsági hivatal, a CISA háromnapos határidőt adott az állami szerveknek, hogy frissítsék a LiteSpeed cPanel felhasználói bővítményét, miután ismertté vált egy aktívan kihasznált sérülékenység, amellyel a szervereket támadják...
Ami először apróságnak tűnt, mára a Vénusz egyik legnagyobb rejtélyévé vált: a bolygó rendkívül lassú, ráadásul ellentétes irányú tengely körüli forgása...
Érdemes megvizsgálni, milyen kifinomult módszereket alkalmaznak a bűnözők, amikor eltüntetik rosszindulatú forgalmukat a védekezésre berendezkedett rendszerek elől...
A legtöbb viselhető kütyü a lépéseidet, a pulzusodat vagy a véroxigénszintedet méri, de most érkezett egy olyan eszköz, ami teljesen másra fókuszál: a bőröd egészségére és a napsugárzás követésére...
Megemlíthető, hogy az Nvidia, a világ egyik vezető chipgyártója, öt év után először ismét jelentős kötvénykibocsátásra készül: több mint 25 milliárd dollár (kb...
A SprySOCKS néven ismert kártékony szoftver elsőként Linux rendszereken tűnt fel, de a közelmúltban megjelentek Windows-változatai is, amelyek kormányzati szervezeteket céloznak több országban, köztük Tajvanban, Thaiföldön, Pakisztánban és Hondurasban...
Bár a legtöbb amerikai már nem igényli a szezonális COVID-19-oltásokat, a legújabb vakcinák továbbra is jelentős védelmet nyújtanak a szív- és érrendszeri megbetegedések ellen, különösen a 75 év felettieknek és a krónikus betegségben szenvedőknek...
🔒 A digitális egészségügyi szolgáltató iRhythm Holdings súlyos adatlopást jelentett be, miután hackerek érzékeny személyes és egészségügyi adatokat tulajdonítottak el a cég által használt külső üzleti alkalmazásokból...
🌍 Chile északi részén, a Föld egyik legszárazabb területén húzódik az Atacama-sivatag, amely évente átlagosan kevesebb mint 5 milliméter csapadékot kap...
Az idei év elején egy hatalmas, hat darab, egyenként 21 méter magas épületből álló adatközpont terveit ejtették Észak-Karolinában, miután a fejlesztőt szigorodó szabályok és a helyi lakosság tiltakozása miatt visszalépésre kényszerítették...
