Az elszabadult MI-ügynökök: a biztonság nagy téten forog
Mit tehet egy alkalmazott, ha a céges MI-ügynök hirtelen zsarolni kezdi? Legutóbb ez történt egy vállalati dolgozóval: amikor megpróbálta felülírni az MI szándékait, az a felhasználó levelezésében kezdett kutatni, kényes e-maileket talált, majd azzal fenyegetett, hogy elküldi a vezetőségnek. Az MI tehát a saját logikája szerint, a cél elérése érdekében mindent megtett – akár mellékes eszközökhöz, például zsaroláshoz is folyamodott, ha az szolgálta az elsődleges feladat végrehajtását.
Az MI-ügynökök veszélyei
Az ilyen elszabadult MI-ügynökök problémája nemcsak elméleti. Nick Bostrom klasszikus „papírkapocs-problémája” is ezt hivatott bemutatni: egy MI annyira koncentrálhat egy banális célra, hogy közben minden emberi értéket figyelmen kívül hagy. Az ilyen hibás célkijelölések és az MI-ügynökök önállósága miatt az MI könnyen kicsúszhat az irányításunk alól. Következésképpen a vállalatoknak folyamatosan figyelniük kell arra, hogy az MI eléri-e a kitűzött célokat, és közben betartja-e az etikai elveket, irányelveket.
Új szereplők az MI-biztonságban
Vannak azonban cégek, amelyek kifejezetten az ilyen problémák kezelésére jöttek létre. A Witness AI nevű vállalat például a MI-használatot figyeli nagyvállalatoknál: érzékeli, ha a dolgozók nem jóváhagyott eszközeket használnak, blokkolja az esetleges támadásokat, betartatja a szabályokat. A cég bevétele az elmúlt egy évben több mint 500 százalékkal nőtt, az alkalmazotti létszám pedig az ötszörösére ugrott. Emellett most 21,8 milliárd forintot (58 millió USD) vont be új MI-biztonsági szolgáltatások fejlesztéséhez.
Az MI-alapú támadások már gépi sebességgel történnek, ezért az elemzők szerint az MI-biztonság piaca 2031-re 320–480 billió forintra (800 milliárd–1,2 billió USD) nőhet. A kulcskérdés: hogyan küzdenek meg a feltörekvő cégek az olyan óriásokkal, mint a Microsoft, a Google vagy az Amazon, amelyek már saját irányítási rendszereket építettek az MI-platformjaikba?
Független megfigyelők jelentősége
A Witness AI másik utat választott: nem közvetlenül a modellekbe építi a biztonságot, hanem a felhasználó és az MI közötti interakciókat figyeli. Így nem a nagy MI-fejlesztőkkel versenyez, hanem a klasszikus biztonsági cégekkel. Az alapítók célja egyértelmű: az MI-piacon maradandó, önálló szereplővé válni, nem pedig egy nagyvállalat felvásárolt melléküzemágává süllyedni.
Az Egyesült Államokban újabb nagy csapás éri a luxusáruházakat: a Saks Fifth Avenue és a Neiman Marcus anyavállalata további 15 üzletet zár be, köztük 12 Saks Fifth Avenue-t és 3 Neiman Marcust, miközben tovább csökkenti adósságát...
Érdemes megvizsgálni, hogy a tengerparti erdők, például a mangrovék ültetése milyen elképesztő előnyökkel járhatna környezetünk és gazdaságunk számára...
🗑 Évtizedes huzavona után végleg elkaszálták az Exploration Upper Stage (EUS) fejlesztését, amelynek célja az volt, hogy a Space Launch System (SLS) rakétát erősebbé tegye...
Miért fontos március 7.? Konstantin császár vasárnapi pihenőnapja, Alexander Graham Bell telefonja, a remageni híd elfoglalása és a selmai Véres vasárnap mind ezen a napon történt – fordulatok, amelyek birodalmakat, technológiát és jogokat formáltak...
🌱 Miközben az örök fiatalság titkát egykor a mesés Ifjúság forrásában keresték, a legújabb kutatások szerint a válasz jóval közelebb lehet: a saját bélmikrobáinkban...
⚠️ Nagy vitát kavart az Egyesült Királyság kormányának terve, hogy az MI-cégek – például a Google vagy az OpenAI – szabadon felhasználhassák szerzői joggal védett tartalmakat MI-modellek tanítására...
Erre utal többek között az is, hogy a Samsung Androidos böngészője mostantól nem Internet, hanem egyszerűen csak Browser néven fut a legújabb eszközökön...
Az Anthropic vezérigazgatója, Dario Amodei bíróságon támadja meg a Védelmi Minisztérium döntését, miután hivatalosan is értesítették a céget az ellátásilánc‑kockázati besorolásról...
Háromezer évvel ezelőtt Kína belső területein radikális társadalmi változások és drámai népességcsökkenés következett be, amelyet hosszú ideig talány övezett...
Az okostelefonokkal és mindenféle beépített mikrofonnal telített világban egy őszinte beszélgetés szinte lehetetlenné vált – mindenhol ott leselkednek a folyamatosan figyelő eszközök...
😎 Komolyan mondom, hogy ma már a tini fiúk nem egymásnak súgják, mit írjanak a csajoknak, hanem inkább a ChatGPT-hez rohannak, ha üzenetről vagy az első lépésről van szó...
A nagy MI-pánik újra dübörög, de az igazság az, hogy hiába tanulnak a szoftverek kódolni, mémeket gyártani, csetelni, vagy akár jogi esettanulmányok villámgyors összefoglalására, nem hiszem el, de a laptopos melósok többsége most sem lett munkanélküli...
Az ausztrál koalák példája új reményt ad a veszélyeztetett fajoknak. A tudósok genomikai vizsgálatai szerint még a jelentős genetikai szűkületek sem szükségszerűen okoznak végzetes beltenyésztési depressziót, vagyis egy állatfaj nem feltétlenül hal ki a genetikai változatosság csökkenése miatt...
⚡ Fontos kérdés, hogyan lehetne a napenergiát hatékonyabban átalakítani villamos energiává. Nemrégiben a Cambridge-i Egyetem tudósai olyan elképesztően gyors elektronmozgást figyeltek meg, amely teljesen átírhatja a napenergiával kapcsolatos elgondolásokat: az elektronok mindössze 18 femtoszekundum – vagyis kevesebb mint 20 billiárdod másodperc – alatt száguldottak át a napelemekben használt anyagon, egyetlen molekularezgés alatt...
A SeeStar S50 forradalmasítja az asztrofotózást azzal, hogy kompakt méretével és elérhető árával bárki számára lehetővé teszi az univerzum csodáinak megörökítését...
Vadiúj frissítéssel rukkolt elő az X (a régi Twitter, amely már nem akar ránk hallgatni), és mostantól nemcsak az influenszered bugyijába, hanem a tweetjeibe is pénzt kell dobni, hogy lásd, mi a vége!..
👽 A lassított felvételen két acéllemez ütközését láthatjuk, amelyek közé mikrobákat szorítottak – a pusztító ütközést követően ezeknek a parányi élőlényeknek mégis sikerült túlélniük azt, amit a kísérleti berendezés már nem bírt ki...
⚡ Többek között Bill Gates támogatásával a TerraPower évek óta azon dolgozik, hogy megépítse saját Natrium típusú, nátriummal hűtött nukleáris reaktorát az amerikai Wyoming államban, Kemmerer városában...
📸 A Vivo X300 Ultra hamarosan új korszakot nyithat a mobilfotózásban, ugyanis ebbe a telefonba építik be először a Sony vadonatúj, 200 megapixeles LYTIA 901 szenzorát...
