Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Érdemes megérteni, hogy a Photoshop már nemcsak a profik titkos fegyvere: az MI-eszközök jelentősen leegyszerűsítik a képszerkesztést, és olyan lehetőségeket nyitnak meg, amelyek eddig csak hosszadalmas kézi munkával voltak elérhetők...
🚀 Hatalmas dobás: a Google rekordösszegért, 11,8 billió forintért (32 milliárd dollárért) felvásárolta az izraeli Wiz nevű, villámgyorsan növekvő felhőbiztonsági vállalkozást...
🚗 Kissé ciki volt, de most helyrehozták: a Lucid Motors csütörtöktől végre kiad egy frissítést a Gravity SUV-hoz Észak-Amerikában, aminek köszönhetően már működik benne az Apple CarPlay és az Android Auto is...
🔥 Ó, édes Nagy-sziget (Big Island), te sosem spórolsz a drámával! Most épp a Kilauea vulkán eresztett el minden poklot: kilenc órán át nagyjából 4 millió köbméter (mintegy 16 millió köbyard) lávát lőtt ki, akár 400 méter magasra (1300 láb) – na tessék, ennyit arról, hogy csak földrengésekkel lehet villantani...
🚡 Aki mostanában repülni készül az Egyesült Államokban, annak komoly várakozási időkkel kell számolnia a reptereken, mert részlegesen leállt a kormányzati működés...
Tipikus eset, amikor két óriás összefog, hogy átrajzolják a városi közlekedés jövőjét: az Amazon tulajdonában álló Zoox és az Uber többéves megállapodást kötött, amelynek köszönhetően idén nyáron Las Vegasban, 2025-ben pedig Los Angelesben robotaxik lepik el az utakat...
🌊 Az Északi-tenger feneke alatt, 700 méter mélységben, Yorkshire partjaitól mintegy 130 km-re egy rejtett, három kilométer széles kráter található, amelynek eredete több mint húsz éve komoly tudományos vitákat váltott ki...
Egy lényeges szempont, hogy az emberek bizalmatlanokká válnak az MI-hangokkal szemben abban a pillanatban, amikor felismerik, hogy nem egy valódi ember beszél...
A nemzetközi űrverseny egyre izgalmasabbá válik, hiszen Kína és az Egyesült Államok versengve készülnek arra, hogy először embereket juttassanak vissza a Holdra...
Érdemes megvizsgálni, hogy egyre kifinomultabb módszerekkel támadják az okostelefonokat: most egy olyan androidos kártevő tűnt fel, amely Starlink-alkalmazásnak álcázza magát, miközben valójában a BeatBanker nevű csaló program rejtőzik mögötte...
Az Amazon bővíti egészségügyi MI-asszisztense, a Health AI elérhetőségét: mostantól nemcsak a One Medical alkalmazásban, hanem közvetlenül az Amazon weboldalán és alkalmazásában is hozzáférhető...
🚗 A Ford új lendületet ad a céges járműparkok irányításának: a Ford Pro AI névre hallgató, mesterséges intelligenciát használó szolgáltatás mostantól a Ford Pro telematikai szoftverébe épül be...
💉 Jellemző példa erre, hogy a világ egyik legveszélyesebb gyermekkori bélfertőzése ellen most először született hatékony védelem: a skandináv fejlesztésű ETVAX vakcina áttörő eredményeket mutat a halálos bélbaktérium, az enterotoxigén E...
📷 Az utóbbi években a Google minden termékébe minél több mesterséges intelligenciát (MI) igyekezett beépíteni, azonban a felhasználók nem mindig örülnek ennek...
🚀 Oké, szóval megérkezett a Chrome-ba épített Gemini chatbot Kanadába, Indiába és Új-Zélandra, ráadásul már több mint ötven nyelven lehet vele csevegni – köztük franciául, gujaratiul, hindiül, spanyolul és még sok más nyelven –, csakhogy a magyaroknak még várniuk kell egy kicsit...
💻 Dublin közvetlen közelében, Írország szívében indul el Európa első olyan adatközpontja, amely teljesen független, úgynevezett szigetüzemű mikrohálóra támaszkodik az energiaellátásban...
A bomló holttesteken nyüzsgő lárvák látványa nem túl gyomorkímélő, de a helyszínelők számára ezek az apró élőlények kulcsfontosságú bizonyítékok lehetnek...
Már tavaly novemberben is betelt a pohár: az Amazon nekiment a Perplexity nevű MI‑startupnak, és megtiltotta, hogy a Comet nevű MI‑böngészője engedély nélkül a felhasználók helyett vásároljon a webáruházukban...
🛠 A Microsoft kiadta a Windows 10 KB5078885 kumulatív biztonsági frissítést, amely számos fontos sebezhetőséget orvosol, köztük két aktívan kihasznált nulladik napi sérülékenységet, valamint egy olyan problémát, amely megakadályozta egyes eszközök leállítását vagy hibernálását...
