Az MI rendszerek alapvető problémái
A legújabb kutatások szerint az önállóan döntő MI-ügynökök már induláskor sérülékenyek. Ezek a rendszerek megbízhatatlan adatokkal dolgoznak, le nem tesztelt eszközöket használnak, sokszor ellenséges digitális környezetben működnek. Az MI működésének minden szakasza – az észlelés, az értelmezés, a döntés és a cselekvés is – támadási lehetőséget kínál. Így akár egy egyszerűen manipulált utasítás vagy mérgezett adat is belülről bomlaszthatja a rendszert, hiszen az MI minden inputot egyformán kezel.
A biztonsági háromszög csapdája
A szakértők szerint az MI-fejlesztésben az úgynevezett biztonsági trilemma uralkodik: gyors, okos vagy biztonságos lehet egy rendszer – de ebből egyszerre csak kettő választható. A megbízhatóságot nem lehet utólag hozzáadni, már az alapoktól szükséges integrálni. A számítógépes védelem fejlődése például a decentralizációval kezelte a kiesést, a titkosítással a bizalmasságot. Most új feladat: a rendszer integritását kell biztosítani, még akkor is, ha meg akarják rontani. Kérdés, hogy egyáltalán lehetséges-e ezt elérni a jelenlegi architektúrával.
2025, adrienne, yro.slashdot.org alapján
Legfrissebb posztok
MA 13:33
Az Amazon Web Services egy merész húzással idén mind az öt re:Invent-konferencia keynote-előadását elérhetővé teszi a Fortnite játékon belül is...
MA 13:17
A svájci adatvédelmi hatóságok szerint a nagy techcégek felhőszolgáltatásai, mint a Microsoft 365, az AWS és a Google Cloud, nem biztosítják a megfelelő végpontok közötti titkosítást...
MA 13:02
A legfrissebb adatok alapján a mellrák nemcsak egyre korábban jelenik meg, de a fiatalabb nőknél jóval agresszívebb is, mint azt eddig gondolták...
MA 12:50
🏝 Dél-Mauritánia sivatagos vidékén három sötét sziklaorom, úgynevezett „fekete mesák” magasodnak a környező síkság fölé...
MA 12:17
A december 4-i Hideg Szuperhold különleges élményt tartogat az égboltot figyelőknek: ez lesz 2025 második legnagyobb, illetve legmagasabban járó teliholdja...
MA 11:49
A Samsung bemutatta legújabb különlegességét, a Galaxy Z TriFoldot, ami a világ első, két zsanérral ellátott, három részre hajtható okostelefonja...
MA 11:33
Egy úttörő képalkotási technika az agyi kommunikáció eddig rejtett mozzanataira derített fényt, és akár választ adhat arra, miért alakul ki sok esetben öröklődés nélkül a Parkinson-kór...
MA 11:18
A Google egyre erőteljesebben támaszkodik az MI-re, hogy jobban megismerje a felhasználókat, és egyedibb válaszokat adhasson...
MA 11:02
A számítógéptudósok évtizedek óta keresik a választ arra, hogy bizonyos problémák, mint például a legrövidebb körút megtalálása egy várostérképen, miért kezelhetetlenül nehezek...
MA 10:58
Első pillantásra úgy tűnt, hogy a Hold keletkezéséhez egy távoli bolygó becsapódására volt szükség...
MA 10:50
Egy friss kutatás szerint a 12 évesen kapott okostelefon komoly egészségügyi kockázatot jelenthet...
MA 10:43
🌎 Elon Musk szerint az Egyesült Államok rengeteget profitált az indiai szakemberek munkájából, azonban számos cég visszaélt a H-1B vízumprogrammal, és amerikaiakhoz képest jóval olcsóbban foglalkoztatott külföldieket...
MA 10:36
📱 A Samsung végre hivatalosan is bemutatta a Z TriFoldot, amit két zsanérja miatt már nem lehet egyszerűen csak összehajtható telefonnak nevezni...
MA 10:29
Az amerikai Zillow lakáshirdetési oldalon több mint egymillió ingatlanhirdetésből egyetlen tollvonással lekerültek a klímakockázati pontszámok, miután ingatlanügynökök panaszkodtak a visszaeső eladások miatt...
MA 10:17
Érdemes megvizsgálni, hogy a kibertámadások világa már nemcsak a kívülről érkező fenyegetésekről szól – a figyelem egyre inkább a belső veszélyekre, az álruhát öltött „szakértőkre” irányul...
MA 10:02
📱 Végre itt a Samsung első háromszor hajlítható okostelefonja, a Galaxy Z TriFold, amely komoly válasz a kínai cégek egyre élesebb kihívásaira...
MA 09:57
Bizonyos jelek arra utalnak, hogy az emberi agy életünk során öt jelentős szakaszon megy keresztül, amikor gyökeresen átrendezi saját belső hálózatát...
MA 09:50
🌎 A fenntartható társadalomhoz nélkülözhetetlen anyagokat ma még messze nem környezetbarát módszerekkel termelik ki, a ritkaföldfém-alapú mágneseket pedig többnyire Kínában gyártják, ahol a szabályozás is teljesen eltér, például a svédtől...
MA 09:43
💳 Az OpenAI tulajdonosként beszállt a Thrive Holdings nevű cégbe, amely a Thrive Capital magántőke-befektető egyik leányvállalata – miközben a Thrive Capital korábban maga is dollármilliárdokkal támogatta az OpenAI-t...
