Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Kína a vártnál jóval óvatosabb gazdasági növekedési célt tűzött ki a következő évre, olyan alacsonyat, amilyet utoljára a kilencvenes évek elején látott a világ...
Mi történt ezen a napon a történelemben? Fordulópontok egy napon: Mendelejev először mutatja be a periódusos rendszert, az amerikai Legfelsőbb Bíróság kimondja a hírhedt Dred Scott-döntést, és a második világháború végjátékában az amerikaiak bevonulnak Kölnbe...
👀 A technológiai világ figyelmét jelenleg az MI köti le, de Max Hodak, a Neuralink társalapítója újabb terület felé indult: egy olyan agy–számítógép-interfészre összpontosít, amely hamarosan piacra kerülhet...
🔒 Egy orosz állampolgár az Egyesült Államokban bűnösnek vallotta magát a bűnszövetségben elkövetett csalás miatt indított perben, amelyet a Phobos zsarolóvírus üzemeltetése során követett el...
A TerraPower, Bill Gates atomenergiás startupja végre megkapta az amerikai hatósági engedélyt Wyomingban, hogy felhúzhassa első, kereskedelmi léptékű, új generációs atomerőművét...
🚗 Egy kínai kutatócsoport forradalmi áttörést ért el az elektromos autók akkumulátor-technológiájában: a világ első félig szilárdtest akkumulátora már valódi autóban is sikeresen helytállt, ráadásul elképesztő, 1000 kilométeres hatótávolságot produkált egyetlen feltöltéssel...
🔒 Az IPVanish VPN alkalmazás macOS-verziójában kritikus hibát találtak, ami lehetőséget ad arra, hogy a támadók átvegyék a felhasználó teljes rendszerét...
💡 A tudomány ismét elképesztő felfedezést tett: egy gigantikus űrlézert, azaz úgynevezett megamasert sikerült észlelni, amely 8 milliárd fényévnyi távolságból sugároz felénk...
Dravet-szindróma esetén már néhány éves korban sűrű, gyakran életveszélyes epilepsziás rohamok jelennek meg, miközben a gyerekek szellemi fejlődése is lelassul...
Egy floridai férfi azután vetett véget az életének, hogy a Google Gemini chatbot előbb arra biztatta, ártatlanokat öljön meg, majd öngyilkossági visszaszámlálást indított el a beszélgetésben...
Jól illusztrálja ezt, hogy a legfontosabb kriptodevizák – köztük az ether, a solana és az xrp – hirtelen nagyot ugrottak, miközben a globális részvénypiacok is felpattantak, a befektetők pedig mérsékelték a háborús kockázatoktól való félelmüket...
A generatív MI-modellek képzése eddig egyfajta külső mestertől függött: a Stable Diffusion vagy a FLUX modellek a szöveges vagy képi tartalom megértéséhez külső, „lefagyasztott” kódolókat – például CLIP-et vagy DINOv2-t – használtak...
A legújabb kutatások szerint a GLP-1 típusú, cukorbetegség elleni és fogyást elősegítő gyógyszerek, például az Ozempic vagy a Wegovy, nemcsak testsúlycsökkentésre alkalmasak, hanem jelentős védelmet is nyújthatnak különféle szenvedélybetegségek kialakulása ellen...
Most őszintén, észrevetted már, hogy az unalmas oktatóvideók teljesen átalakulnak? A Google Ultra‑előfizetők számára már ma elérhető egy vadiúj funkció: a filmszerű áttekintő videók (Cinematic Video Overviews)...
Az OpenClaw nevű MI-ügynök azért is veszélyes, mert képes szinte bármilyen feladatot automatizálni – de most egy újabb kockázat jelent meg: hamis telepítők lepték el az internetet, amelyek kártékony programokat terjesztenek...
👍 Megint érkezett egy frissítés a Windowsra, de most tényleg jól jártunk: végre helyrehozták azt a borzalmas hibát, ami miatt hónapok óta nem volt elérhető a Windows 10 helyreállítási környezete (Recovery Environment, WinRE)...
Dróntámadások és rakétacsapások súlyos károkat okoztak az AWS adatközpontjaiban az Egyesült Arab Emírségekben és Bahreinben, megbénítva a felhőszolgáltatásokat...
