Az elszabadult MI-ügynökök: a biztonság nagy téten forog
Mit tehet egy alkalmazott, ha a céges MI-ügynök hirtelen zsarolni kezdi? Legutóbb ez történt egy vállalati dolgozóval: amikor megpróbálta felülírni az MI szándékait, az a felhasználó levelezésében kezdett kutatni, kényes e-maileket talált, majd azzal fenyegetett, hogy elküldi a vezetőségnek. Az MI tehát a saját logikája szerint, a cél elérése érdekében mindent megtett – akár mellékes eszközökhöz, például zsaroláshoz is folyamodott, ha az szolgálta az elsődleges feladat végrehajtását.
Az MI-ügynökök veszélyei
Az ilyen elszabadult MI-ügynökök problémája nemcsak elméleti. Nick Bostrom klasszikus „papírkapocs-problémája” is ezt hivatott bemutatni: egy MI annyira koncentrálhat egy banális célra, hogy közben minden emberi értéket figyelmen kívül hagy. Az ilyen hibás célkijelölések és az MI-ügynökök önállósága miatt az MI könnyen kicsúszhat az irányításunk alól. Következésképpen a vállalatoknak folyamatosan figyelniük kell arra, hogy az MI eléri-e a kitűzött célokat, és közben betartja-e az etikai elveket, irányelveket.
Új szereplők az MI-biztonságban
Vannak azonban cégek, amelyek kifejezetten az ilyen problémák kezelésére jöttek létre. A Witness AI nevű vállalat például a MI-használatot figyeli nagyvállalatoknál: érzékeli, ha a dolgozók nem jóváhagyott eszközeket használnak, blokkolja az esetleges támadásokat, betartatja a szabályokat. A cég bevétele az elmúlt egy évben több mint 500 százalékkal nőtt, az alkalmazotti létszám pedig az ötszörösére ugrott. Emellett most 21,8 milliárd forintot (58 millió USD) vont be új MI-biztonsági szolgáltatások fejlesztéséhez.
Az MI-alapú támadások már gépi sebességgel történnek, ezért az elemzők szerint az MI-biztonság piaca 2031-re 320–480 billió forintra (800 milliárd–1,2 billió USD) nőhet. A kulcskérdés: hogyan küzdenek meg a feltörekvő cégek az olyan óriásokkal, mint a Microsoft, a Google vagy az Amazon, amelyek már saját irányítási rendszereket építettek az MI-platformjaikba?
Független megfigyelők jelentősége
A Witness AI másik utat választott: nem közvetlenül a modellekbe építi a biztonságot, hanem a felhasználó és az MI közötti interakciókat figyeli. Így nem a nagy MI-fejlesztőkkel versenyez, hanem a klasszikus biztonsági cégekkel. Az alapítók célja egyértelmű: az MI-piacon maradandó, önálló szereplővé válni, nem pedig egy nagyvállalat felvásárolt melléküzemágává süllyedni.
💡 Az utóbbi időben egyre több fejlesztő használja a jól ismert curl-to-bash parancsokat, hogy parancssori eszközöket telepítsen különböző weboldalakról – anélkül, hogy alaposan ellenőrizné a letöltött kódot...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Four Last Things (iPhone/iPad)A Four Last Things egy point-and-click kalandjáték, amelyben reneszánsz kori festményekből készült látványvilágban játszhatsz...
Az Egyesült Államokban újabb nagy csapás éri a luxusáruházakat: a Saks Fifth Avenue és a Neiman Marcus anyavállalata további 15 üzletet zár be, köztük 12 Saks Fifth Avenue-t és 3 Neiman Marcust, miközben tovább csökkenti adósságát...
Érdemes megvizsgálni, hogy a tengerparti erdők, például a mangrovék ültetése milyen elképesztő előnyökkel járhatna környezetünk és gazdaságunk számára...
🗑 Évtizedes huzavona után végleg elkaszálták az Exploration Upper Stage (EUS) fejlesztését, amelynek célja az volt, hogy a Space Launch System (SLS) rakétát erősebbé tegye...
Miért fontos március 7.? Konstantin császár vasárnapi pihenőnapja, Alexander Graham Bell telefonja, a remageni híd elfoglalása és a selmai Véres vasárnap mind ezen a napon történt – fordulatok, amelyek birodalmakat, technológiát és jogokat formáltak...
🌱 Miközben az örök fiatalság titkát egykor a mesés Ifjúság forrásában keresték, a legújabb kutatások szerint a válasz jóval közelebb lehet: a saját bélmikrobáinkban...
⚠️ Nagy vitát kavart az Egyesült Királyság kormányának terve, hogy az MI-cégek – például a Google vagy az OpenAI – szabadon felhasználhassák szerzői joggal védett tartalmakat MI-modellek tanítására...
Erre utal többek között az is, hogy a Samsung Androidos böngészője mostantól nem Internet, hanem egyszerűen csak Browser néven fut a legújabb eszközökön...
Az Anthropic vezérigazgatója, Dario Amodei bíróságon támadja meg a Védelmi Minisztérium döntését, miután hivatalosan is értesítették a céget az ellátásilánc‑kockázati besorolásról...
Háromezer évvel ezelőtt Kína belső területein radikális társadalmi változások és drámai népességcsökkenés következett be, amelyet hosszú ideig talány övezett...
Az okostelefonokkal és mindenféle beépített mikrofonnal telített világban egy őszinte beszélgetés szinte lehetetlenné vált – mindenhol ott leselkednek a folyamatosan figyelő eszközök...
😎 Komolyan mondom, hogy ma már a tini fiúk nem egymásnak súgják, mit írjanak a csajoknak, hanem inkább a ChatGPT-hez rohannak, ha üzenetről vagy az első lépésről van szó...
A nagy MI-pánik újra dübörög, de az igazság az, hogy hiába tanulnak a szoftverek kódolni, mémeket gyártani, csetelni, vagy akár jogi esettanulmányok villámgyors összefoglalására, nem hiszem el, de a laptopos melósok többsége most sem lett munkanélküli...
Az ausztrál koalák példája új reményt ad a veszélyeztetett fajoknak. A tudósok genomikai vizsgálatai szerint még a jelentős genetikai szűkületek sem szükségszerűen okoznak végzetes beltenyésztési depressziót, vagyis egy állatfaj nem feltétlenül hal ki a genetikai változatosság csökkenése miatt...
