Az MI rendszerek alapvető problémái
A legújabb kutatások szerint az önállóan döntő MI-ügynökök már induláskor sérülékenyek. Ezek a rendszerek megbízhatatlan adatokkal dolgoznak, le nem tesztelt eszközöket használnak, sokszor ellenséges digitális környezetben működnek. Az MI működésének minden szakasza – az észlelés, az értelmezés, a döntés és a cselekvés is – támadási lehetőséget kínál. Így akár egy egyszerűen manipulált utasítás vagy mérgezett adat is belülről bomlaszthatja a rendszert, hiszen az MI minden inputot egyformán kezel.
A biztonsági háromszög csapdája
A szakértők szerint az MI-fejlesztésben az úgynevezett biztonsági trilemma uralkodik: gyors, okos vagy biztonságos lehet egy rendszer – de ebből egyszerre csak kettő választható. A megbízhatóságot nem lehet utólag hozzáadni, már az alapoktól szükséges integrálni. A számítógépes védelem fejlődése például a decentralizációval kezelte a kiesést, a titkosítással a bizalmasságot. Most új feladat: a rendszer integritását kell biztosítani, még akkor is, ha meg akarják rontani. Kérdés, hogy egyáltalán lehetséges-e ezt elérni a jelenlegi architektúrával.
2025, adrienne, yro.slashdot.org alapján
Legfrissebb posztok
MA 17:00
👀 A Sora 2, az OpenAI fejlett szövegből videót készítő modellje mérföldkő a mesterséges intelligencia fejlődésében...
MA 16:29
A nagy nyelvi MI-modellek fejlődését beárnyékolja, hogy sok lényeges emberi tudás kimarad a képzésükből...
MA 16:02
🤔 A DirecTV 2026-tól radikális újdonsággal készül a Gemini streaming eszközein: érkeznek az MI által generált reklámképernyők, amelyeken akár a te arcod is főszerepet kaphat...
MA 15:59
😉 Az OpenAI vezérigazgatója, Sam Altman nemrégiben bejelentette, hogy a ChatGPT hamarosan képes lesz felnőtt felhasználók számára erotikus tartalmakat is létrehozni, miután a vállalat szerinte már orvosolta a mesterséges intelligenciával folytatott beszélgetések okozta mentális egészségi kockázatokat...
MA 15:30
Az Egyesült Államok Járványügyi Központjánál (CDC) az elmúlt hétvégén tömeges elbocsátások zajlottak le, amelyek alapjaiban rengették meg a közegészségügyi rendszer működését...
MA 15:01
💪 Az egész életen át tartó állóképességi sportolás nemcsak az izmokat, hanem az immunrendszert is folyamatosan edzésben tartja, így az fiatalosan és hatékonyan működik...
MA 14:59
👀 A világ legerősebb és legtávolabbi rádiókarikájára (furcsa rádiókarika, ORC – odd radio circle) bukkant rá egy nemzetközi csillagászcsapat, amelyben lelkes amatőrök is részt vettek...
MA 14:31
💫 2025. július 2-án az amerikai NASA Fermi Gamma-ray Burst Monitor (Fermi-GBM) közel három órán át észlelt jeleket ugyanabból a forrásból...
MA 14:02
A Hold legnagyobb és legősibb kráteréről, a Déli-sark–Aitken (South Pole–Aitken) medencéről csak most derült ki, mennyire másként keletkezett, mint eddig gondoltuk...
MA 13:59
💻 Az Nvidia új, mindössze 1,2 kg súlyú számítógépe, a DGX Spark, 128 GB egyesített memóriával és egy petaflops számítási teljesítménnyel érkezik, mindezt egy 15 x 15 x 5 cm-es dobozban...
MA 13:45
A Salesforce ügyfélszolgálati folyamatai MI-alapú eszközökkel működnek, amelyek évente körülbelül 36 milliárd forint megtakarítást hoznak a cégnek...
MA 10:32
Évmilliárdokkal ezelőtt, amikor a Földet még sűrű, oxigénhiányos tengerek borították, aligha gondolnánk, hogy ekkor is rejtőzhettek már komplex élőlények...
MA 10:22
👀 A Samsung hivatalosan is bejelentette, hogy október 21-én este 10 órakor bemutatja a régóta várt Project Moohan vegyes valóság szemüveget...
MA 10:16
Tíz jelentős amerikai filantróp szervezet fogott össze, hogy ne csak néhány technológiai milliárdos döntsön arról, mire használják a mesterséges intelligenciát, hanem a hétköznapi emberek érdekei is érvényesüljenek...
MA 10:08
🔥 A Google legújabb csúcsmobilja, a Pixel 10 Pro Fold igazán drámai bukást produkált a híres JerryRigEverything YouTube-csatorna hajlítástesztjén...
MA 10:02
A DirecTV, az amerikai műholdas tévészolgáltató, legújabb MI-alapú hirdetési megoldását jelentette be: hamarosan személyre szabott, interaktív reklámvilág jelenik meg a tévéképernyő képernyővédőjén, ahol saját magadat, családodat vagy akár a házi kedvencedet is viszontláthatod – természetesen MI-generált változatban...
MA 09:57
💻 Október 21-én mutatja be legújabb Android XR szemüvegét a Samsung, amelyet egy ideje csak Project Moohan néven emlegetnek...
MA 09:51
💡 Az OpenAI jelentős lépéseket tesz annak érdekében, hogy a ChatGPT ne igazolja vagy ismételje meg a felhasználók politikai nézeteit...
MA 09:43
Június 2024-ben hivatalosan is véget ért a Windows 10 támogatása, de ettől még nem áll meg a világ...
