Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Különösen igaz ez akkor, ha a vállalatok elhanyagolják a rendszeres frissítéseket: jelenleg több mint 14 000 F5 BIG-IP Access Policy Manager példány van közvetlenül kitéve kritikus távoli kódfuttatási (RCE) sebezhetőségnek az interneten...
Évtizedeken át kemény dió volt az 1-es típusú cukorbetegség gyógyítása, hiszen a szervezet immunrendszere megtanulta elpusztítani az inzulint termelő hasnyálmirigy-sejteket, az úgynevezett szigetsejteket...
👀 Egy lényeges szempont, hogy a generatív MI megállíthatatlanul terjed a munkahelyeken, és ezzel együtt új veszélyforrás jelent meg: az úgynevezett „árnyék MI” jelensége...
💥 A Microsoft szerdán bejelentette, hogy három vadonatúj, teljesen saját fejlesztésű MI-modellt indít el, amelyek hangfelismerésre és -átalakításra, valamint képalkotásra specializálódtak...
Több mint 12 ezer évvel ezelőtt az amerikai őslakosok már használtak dobókockákat és játszottak szerencsejátékokat – derült ki egy friss régészeti kutatásból...
💻 Az IBM stratégiai együttműködést jelentett be az Arm-mal, hogy közösen fejlesszenek új hardverarchitektúrákat, amelyek a cégek számára nagyobb rugalmasságot, megbízhatóságot és biztonságot kínálnak a következő generációs MI- és adatalapú alkalmazások futtatására...
🐋 Magasan a dél-amerikai esőerdők lombjai között a kutatók egy különös, új termeszt fedeztek fel, amely kísértetiesen egy miniatűr ámbráscetre hasonlít...
A NASA Artemis II küldetése történelmi pillanat: az űrhajósok először indulnak majd újra a Hold körüli pályára, kiemelt figyelmet fordítva arra, hogy a világűrből érkező sugárzás hogyan hat az emberi szervezetre...
Az MI-alapú toborzó startup, a Mercor megerősítette, hogy a LiteLLM-hez köthető ellátási láncbeli támadás áldozata lett – hasonlóan több ezer másik vállalkozáshoz...
Miután az Embark Studios berobbant az Arc Raiders című játékkal, komoly viták robbantak ki a stúdió által alkalmazott mesterséges intelligencia (MI) miatt...
Lényeges, hogy az új OnePlus Nord 6-ot kézbe véve nem az fogad, amit egy hatalmas, 9 000 mAh-s akkumulátorral szerelt telefon alapján várnál: a készülék meglepően könnyű és vékony, abszolút nem nevezhető téglának...
Több mint ötven év után újra amerikai asztronauták indultak a Hold felé: a NASA történelmi Artemis II missziója ragyogóan startolt el Cape Canaveralból, és lelkes nézők ezrei töltötték meg a kilövőközpont környékét...
🤖 Különösen említést érdemel, hogy a vastagbélrák – amely az Egyesült Királyságban a negyedik leggyakoribb daganat, és a daganatos halálozás második fő oka – meglepő módon egyedi mikrobiális „ujjlenyomattal” rendelkezik...