Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
🚗 Érdemes megvizsgálni, hogy az Egyesült Államok Közlekedési Minisztériuma (DOT) merész lépésre szánta el magát: a különféle közlekedésbiztonsági szabályokat, amelyek repülőgépek, autók és csővezetékek biztonságát garantálják, most már MI-vel is készítik...
🔭 Hosszú ideje tartotta magát az a nézet, hogy a Stonehenge hatalmas kövei, különösen a híres „kék kövek” gleccserek segítségével kerültek jelenlegi helyükre...
Kezdetben a vállalatok tömegesen kezdték el tesztelni a generatív MI-t, de az érzékeny adatokkal dolgozó szektorokban – különösen a jogi területen – folyamatosan előtérbe került a magánszféra védelme, a biztonság és a megfelelőség kérdése...
A gonosznak nincs nyugta (No Rest for the Wicked), a Moon Studios legújabb, brutálisan véres és precíz akció-RPG-je villámgyorsan népszerűvé vált a Steamen, messze maga mögé utasítva más sikerjátékokat, például az Ív lovasai (Arc Riders) játékot...
A Google 24,4 milliárd forintot (68 millió dollárt) fizet kártérítésként, miután felhasználók azzal vádolták a vállalatot, hogy a hangalapú asszisztense titokban rögzítette és továbbította a beszélgetéseket, még akkor is, amikor a felhasználók nem adtak erre engedélyt vagy parancsot...
⚙ Kezdetben a kvantumtechnológia kizárólag laboratóriumi körülmények között létezett, ám mostanra elérkezett ahhoz a ponthoz, amit a szakértők a tranzisztor feltalálása előtti számítástechnika korszakához hasonlítanak...
Felmerül a kérdés, mikor válthatják ki végre a kellemetlen, naponta beadandó hormoninjekciókat egy egyszerűbb, fájdalommentes módszerrel a lombikbébi-programban részt vevő nők számára...
⚠ Többek között egy friss, nagyszabású francia tanulmány hívja fel a figyelmet arra, hogy a különböző tartósítószerekben gazdag, feldolgozott élelmiszerek fogyasztása növelheti bizonyos ráktípusok kockázatát...
A hősugárzók pillanatok alatt kellemes meleget varázsolnak a lakás hideg sarkaiba, és akár az egész ház fűtése helyett is jó alternatívát jelenthetnek a téli hónapokban...
👀 Az elmúlt pár évben a Google rendkívül népszerűvé tette a saját Android-felületét, a Material 3 Expressive-t: a dinamikus animációk, a nagy gombok és a karakteres formák és színek miatt ez sokak kedvence lett, és ennek köszönhetően sokan nap mint nap a Pixel telefonokat választják...
🥑 Érdemes megérteni, hogy nem minden testzsír egyforma – míg a fehér zsír számos egészségügyi kockázatot rejt, a barna zsír kimondottan kedvező hatású lehet a szív- és érrendszerre...
🚨 Új kutatások szerint a műanyagok teljes életciklusa során keletkező kibocsátások okozta egészségkárosító hatások 2040-re akár a duplájára nőhetnek, ha sürgős lépéseket nem teszünk...
📍 Mostantól a Strava és a Komoot is lehetővé teszi az offline térképek használatát az Apple Watchon, ami hatalmas könnyebbség a bringásoknak, túrázóknak és futóknak...
Érdekes felvetés, hogy az MI által felhasznált rengeteg energia éppen az, ami segíthet a környezetbarát lakossági fűtés következő generációjának elindításában...
Az elmúlt hetekben a ShinyHunters nevű kiberbűnözői csoport mintegy 100 nagyvállalat – köztük több techóriás – Okta vállalati egyszeri bejelentkezésre szolgáló (SSO) rendszerét próbálta feltörni...
⚠ Egyre alattomosabb trükkök jelennek meg a kibertérben: a legújabb ClickFix módszer már a Microsoft Application Virtualization (App-V) rendszerét is kihasználja, hogy terjessze az Amatera nevű adathalász kártevőt...
🚀 Az Alta Labs Route10 igazi ritkaságnak számít: 10 gigabites kapcsolatot kínál barátságos, körülbelül 72 000 forintos áron, mégpedig két SFP+ 10G porttal és négy darab 2,5 GbE csatlakozóval...
A Ricursive Intelligence villámgyorsan berobbant a techvilágba – a mesterséges intelligenciát fejlesztő chipgyártó startupot mindössze két hónappal az indulása után már 4 milliárd dollárra, tehát körülbelül 1 440 milliárd forintra értékelik...
Indiában, Nyugat-Bengál államban kitört a halálos Nipah-vírus legújabb járványa, ami miatt Ázsia több országában is szigorították a repülőtéri ellenőrzéseket...
💫 A NASA James Webb-űrteleszkópja (JWST) ismét forradalmit alkotott: közel 800 000 galaxis fotójára vetítette rá legújabb, eddig legpontosabb sötétanyag-térképét...
⚠ A Microsoft váratlanul kiadott egy sürgősségi frissítést egy súlyos, aktívan kihasznált Office-sebezhetőségre, amelyet már támadásokban is kihasználtak...
