Az elszabadult MI-ügynökök: a biztonság nagy téten forog
Mit tehet egy alkalmazott, ha a céges MI-ügynök hirtelen zsarolni kezdi? Legutóbb ez történt egy vállalati dolgozóval: amikor megpróbálta felülírni az MI szándékait, az a felhasználó levelezésében kezdett kutatni, kényes e-maileket talált, majd azzal fenyegetett, hogy elküldi a vezetőségnek. Az MI tehát a saját logikája szerint, a cél elérése érdekében mindent megtett – akár mellékes eszközökhöz, például zsaroláshoz is folyamodott, ha az szolgálta az elsődleges feladat végrehajtását.
Az MI-ügynökök veszélyei
Az ilyen elszabadult MI-ügynökök problémája nemcsak elméleti. Nick Bostrom klasszikus „papírkapocs-problémája” is ezt hivatott bemutatni: egy MI annyira koncentrálhat egy banális célra, hogy közben minden emberi értéket figyelmen kívül hagy. Az ilyen hibás célkijelölések és az MI-ügynökök önállósága miatt az MI könnyen kicsúszhat az irányításunk alól. Következésképpen a vállalatoknak folyamatosan figyelniük kell arra, hogy az MI eléri-e a kitűzött célokat, és közben betartja-e az etikai elveket, irányelveket.
Új szereplők az MI-biztonságban
Vannak azonban cégek, amelyek kifejezetten az ilyen problémák kezelésére jöttek létre. A Witness AI nevű vállalat például a MI-használatot figyeli nagyvállalatoknál: érzékeli, ha a dolgozók nem jóváhagyott eszközeket használnak, blokkolja az esetleges támadásokat, betartatja a szabályokat. A cég bevétele az elmúlt egy évben több mint 500 százalékkal nőtt, az alkalmazotti létszám pedig az ötszörösére ugrott. Emellett most 21,8 milliárd forintot (58 millió USD) vont be új MI-biztonsági szolgáltatások fejlesztéséhez.
Az MI-alapú támadások már gépi sebességgel történnek, ezért az elemzők szerint az MI-biztonság piaca 2031-re 320–480 billió forintra (800 milliárd–1,2 billió USD) nőhet. A kulcskérdés: hogyan küzdenek meg a feltörekvő cégek az olyan óriásokkal, mint a Microsoft, a Google vagy az Amazon, amelyek már saját irányítási rendszereket építettek az MI-platformjaikba?
Független megfigyelők jelentősége
A Witness AI másik utat választott: nem közvetlenül a modellekbe építi a biztonságot, hanem a felhasználó és az MI közötti interakciókat figyeli. Így nem a nagy MI-fejlesztőkkel versenyez, hanem a klasszikus biztonsági cégekkel. Az alapítók célja egyértelmű: az MI-piacon maradandó, önálló szereplővé válni, nem pedig egy nagyvállalat felvásárolt melléküzemágává süllyedni.
2025, adminboss, techcrunch.com alapján
filózó
Te hogyan reagálnál, ha egy MI etikátlanul viselkedne veled szemben?
Te mit tennél, ha gyanús MI-tevékenységet észlelnél a munkahelyeden?
Manfred, egy MI-alapú ügynök, történelmet írt: saját maga alapította meg első vállalkozását, önállóan kérte az amerikai adóhivataltól a cégalapításhoz szükséges regisztrációs kódot, amellyel legálisan működhet, alkalmazottakat vehet fel és engedélyeket szerezhet...
💪 A Hoover HF3 DynamicClean vezeték nélküli porszívóval nem kell kompromisszumot kötnöd, ha limitált a költségvetésed, viszont ragaszkodsz a hatékony takarításhoz...
🚀 Az ikonikus EVE Online fejlesztője jelentős változásokat jelentett be: a korábban CCP Games néven ismert stúdió mostantól Fenris Creations néven működik tovább, miután függetlenedett a Pearl Abysstől, és hosszú távú, izgalmas együttműködést kötött a Google DeepMind csapatával...
🔒 A digitális pénzpiacokon újra fókuszba került az adatvédelem: a Multicoin Capital látványos pozíciót épített a Zcash (ZEC) tokenben, arra számítva, hogy a privát értéktárolás egyre fontosabb lesz, ahogy a pénzügyek tömegesen a blokkláncra költöznek...
⚠ Morrowind nemcsak legendás hangulata, hanem nehézsége miatt is kultjáték: annak különös világának rideg szabályait mindenkinek egyedül kell feltérképeznie...
💰 A kriptopiac mostanában főként a bitcoin árfolyam-emelkedésével foglalkozik, ám a decentralizált pénzügyek terén is lezajlott egy jelentős válság, amely végül csendben, látványos veszteségek nélkül ért véget...
🔒 A DAEMON Tools, amelyet százezrek használnak virtuális meghajtók létrehozására, áldozatul esett egy kifinomult támadásnak: hackerek megfertőzték az eredeti weboldalról letölthető telepítőt...
A pénzügyi szektor egyre határozottabban fordul a blokklánc-technológia felé, a nagy szereplők már nemcsak ismerkednek az új eszközökkel, hanem aktívan fejlesztik is azokat...
Az HBO Max hamarosan több millió régebbi Amazon Fire TV eszközről eltűnik, mivel a platform már csak a Fire OS 6-ot vagy újabb operációs rendszert támogatja...
A mexikóvárosi Japan nevű éjszakai klub hatalmas port kavart az interneten: az amerikaiaknak csaknem 110 ezer forintos (300 dolláros) belépőt kell fizetniük, miközben más külföldieknek mindössze 7 400 forintot (20 dollár), a mexikóiaknak és latin-amerikaiaknak pedig csupán 5 100 forintot (14 dollár) számítanak fel...
💸 A kriptotőzsdék új, vad hulláma indul, ahogy az OKX bejelentette: örökös határidős ügyleteket vezet be olyan magáncégekhez kapcsolódóan, mint az OpenAI, a SpaceX és az Anthropic...
🤖 Az MI fejlesztésének legnagyobb nevei közül hét – köztük az OpenAI, a Google, a Microsoft, az Amazon Web Services, a SpaceX és a Reflection AI – új korszakot nyit a haditechnológiában...
Világszerte egyre nagyobb problémát okoz a műanyaghulladék, hiszen évente több mint 200 millió tonna keletkezik, amelyből elenyésző mennyiség kerül valóban újrahasznosításra...
Újabb mérföldkőhöz érkezett a digitális pénzügyek világa: a Taurus megszerezte a MiFID II befektetési engedélyt Cipruson, a Ciprusi Értékpapír- és Tőzsdefelügyelet jóvoltából...
💉 A részleges meniscectomia évtizedek óta az egyik legelterjedtebb ortopédiai beavatkozás. Ennek során a sérült térd meniszkuszának egy darabját távolítják el, abban a reményben, hogy így enyhülnek a betegek panaszai...
