Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
🚀 A világ legfiatalabb és legnagyobb becsapódási kráterét fedezhették fel Kína sűrű erdeiben, mégpedig az ország északkeleti részén, Heilongjiang tartományban, a Lesser Xing’an hegységben...
A Wynn Resorts hivatalosan is elismerte, hogy hackertámadás érte vállalati rendszerét, amelynek során illetéktelenek dolgozói adatokat szereztek meg...
Lindsey Vonn, az amerikai síelés ikonikus alakja pályafutása során többször bizonyította elképesztő kitartását, de az idei téli olimpia előtt történt sérülése még számára is életveszélyes kalanddá vált...
💡 Egy spanyol startup, a Multiverse Computing egy jelentősen tömörített, nagy nyelvi modelljével hívja fel magára a figyelmet, amely jóval kisebb méretű, mint versenytársai, mégis hasonló pontosságot ér el...
Ez a jelenség jól illusztrálja, hogy a brit Wayve MI-startup most 1,2 milliárd dollárt, azaz közel 433 milliárd forintot vont be befektetőktől, köztük olyan technológiai óriásoktól, mint az Nvidia és az Uber, valamint három autóipari világmárkától...
A Saarland Egyetem vegyészei végre elérték azt, amire fél évszázada várt a tudományos világ: sikerült szintetizálniuk egy régóta keresett szilíciumalapú aromás molekulát...
Alaszka középső részén, a Tanana-völgyben meglepően régi, 14 ezer éves eszközök kerültek elő, amelyek új fényt vetnek arra, hogyan jutottak el az első emberi közösségek Amerikába...
Lényeges szempont, hogy a fuvarozói és logisztikai cégek mostanában nemcsak a kamionjaikra, hanem a digitális rendszereikre is nagy veszélyek leselkednek...
🛡 A világ legnépszerűbb fogyasztói dróngyártója, a kínai DJI pert indított az Amerikai Szövetségi Hírközlési Bizottság (FCC) ellen az Egyesült Államokban érvényben lévő importtilalom miatt...
⚡ A James Webb űrtávcső lenyűgöző részletességgel térképezte fel az Uránusz rejtélyes felső légkörét, és olyan, eddig ismeretlen jelenségeket fedezett fel, amelyek új fényt vetnek a bolygó furcsa mágneses terére, illetve a légkörében tomboló sarki fényekre...
💡 Az Alzheimer-kór kialakulására mindig is az agyi plakkok és a memóriavesztés szolgált magyarázatul, de most friss kutatások új tényezőre hívják fel a figyelmet...
🤖 Nem hiszem el, de idén tényleg érdemes korábban nekiállni az adóbevallásnak – főleg, mert a 2025-ös gigatörvény (OBBBA) miatt mindenki meglepetésekre számíthat...
Külön említést érdemel, hogy a Discord jelentős változást jelentett be: elhalasztják a felhasználók életkor-ellenőrzésére vonatkozó intézkedések bevezetését...
El sem hisszük, de tényleg: a Rozsomák (Marvel’s Wolverine) megjelenési dátuma felkerült a PlayStation csatornájára, és már szeptember 15-én érkezik!..
🔒 Felmerül a kérdés, hogy az online biztonság érdekében meddig mehetnek el a techóriások, és az Apple ismét lépett: új korhatár-ellenőrző eszközöket vezet be világszerte, hogy megfeleljen a gyermekvédelmi jogszabályok egyre szövevényesebb hálójának...
Jellemző példa erre, hogy két, ugyanott meghirdetett, ugyanolyan állás sincs azonos árazással – az egyik cégnél a fizetés 7 millió forinttól 36 millió forintig terjed, egy másiknál viszont szűk sávban, 35 és 39 millió forint között van...
Anchorage Digital, az Egyesült Államok első szövetségi kriptobankja, a saját mérlegére vette a Strategy nevű, bitcoin-kincstárral rendelkező cég örökjáradék jellegű elsőbbségi részvényeit...
💻 Érdekes felvetés, hogy milyen hatást gyakorolhat a fejlesztésre, ha a legnépszerűbb MI-s kódíró ügynök, a Claude Code mostantól mobileszközökről is vezérelhető...
💻 A legfrissebb pletykák szerint idén év elején érkezhetnek meg a Dell és a Lenovo első olyan laptopjai, amelyekben már az Nvidia által fejlesztett Arm-alapú CPU dolgozik...
Külön említést érdemel, hogy a brit adatvédelmi hatóság, az ICO 14,5 millió fontnyi, azaz körülbelül 7,1 milliárd forintos büntetést szabott ki a Redditre, mert a platform nem ellenőrizte kellőképpen a felhasználók életkorát...
🔑 Az 1Password jelentősen megemeli az egyéni és családi előfizetési díjakat: az egyéni csomag éves díja 13 200 forintról 17 600 forintra ugrik, míg a családi opció 22 000 forintról 26 400 forintra nő...
