Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Az MI iránti kereslet továbbra is töretlen és szinte határtalan, ahogy a technológiai szektor szereplői mindent megtesznek, hogy lépést tartsanak az elképesztő tempójú fejlesztésekkel...
Kezdetben Brad Garlinghouse, a Ripple vezérigazgatója, és a társalapító, Chris Larsen komolyan fontolóra vették, hogy bezárják a céget, amikor 2020-ban az amerikai értékpapír-felügyelet beperelte őket...
A Marshall Stanmore IV merész külsővel és megdöbbentően erőteljes hangzással érkezik, és első pillantásra nyilvánvaló, hogy nemcsak a füleket, de a szemeket is rabul ejti...
A vállalati MI fejlődésében új korszak kezdődik: míg a múltban mindenhatónak hitt, hatalmas modellek uralták a terepet, ma már egyre többen ismerik fel, hogy kisebb, egyedi feladatra tervezett rendszerek hatékonyabban és olcsóbban nyújtanak pontmegoldásokat...
🌌 A héten a tudomány világa ismét meglepő felfedezéseket hozott, amelyek közül az egyik legizgalmasabb egy miniatűr univerzumban „megszülető” idő volt...
A brit üzletek forradalmi változás előtt állnak: hamarosan a rendőrség valós időben kap értesítést, ha súlyos bűncselekmények elkövetője lép be egy boltba...
🚗 Érdekes felvetés, hogy mennyit változott az autózás élménye a technológiai fejlődésnek köszönhetően, különösen akkor, ha valaki két évtizedet ugrik előre: egy 2003-as PT Cruiser helyett egy 2022-es Hyundai Tucson volánja mögé ülve...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Sharp: Skin Scan Routine (iPhone/iPad)A SHARP egy bőranalízis és rutin alkalmazás férfiaknak, akik jobban bíznak a mérésekben, mint a találgatásban...
🚨 Egy lényeges fejlemény, hogy az OpenAI nagy átszervezésbe kezdett, melynek során távozik a vállalat biztonsági rendszerekért felelős vezetője, Johannes Heidecke...
Száz felhasználó is meglepődve tapasztalta, hogy a Philips Hue Bridge Pro eszköze egyik pillanatról a másikra működésképtelenné vált egy júniusi szoftverfrissítés után...
Meg kell vizsgálni, hogy az amazóniai és más trópusi esőerdők mennyire képesek továbbra is elnyelni és tárolni a légköri szén-dioxidot napjainkban, amikor évről évre egyre gyakoribb és intenzívebb éghajlati szélsőségekkel, például az El Niño-jelenséggel kell szembenézniük...
Egy forradalmi fejlesztésű gyógyszer, a DT-109 vegyület az állatkísérletekben teljesen visszafordította a súlyos zsírmájat azáltal, hogy helyreállította a bélrendszer egészségét...
Mi történt ezen a napon a történelemben? Feszült ostromok, sorsfordító csaták és függetlenségi nyilatkozatok alakították ezt a napot: Jeruzsálem falainak áttörése és a Második Templom pusztulása, a Bastille ostromához vezető szikra, a Boyne és Aughrim döntő ütközetei, valamint a Libanon–Izrael háború kezdete mind ide tartozik...
🚀 Kína történetének egyik legnagyobb űripari eseményét ünnepelte, amikor először sikerült visszanyerni egy újrafelhasználható, orbitális hordozórakéta első fokozatát a Dél-kínai-tengeren...
💻 A mesterséges intelligenciával működő ügynökök egyre gyakrabban üzletelnek és kötnek megállapodásokat emberi beavatkozás nélkül, ám ezek a gépi tranzakciók is ugyanúgy vitákhoz vezethetnek, ahogyan akkor is, amikor emberek állnak egymással szemben...
Ami kezdetben ártalmatlannak tűnt, mára súlyos problémává nőtte ki magát: az üzleti MI-ügynökök magabiztosan hibás válaszokat adnak, mindezt úgy, hogy senki nem veszi észre, amíg valaki vissza nem követi az adatot egy elavult metrikáig vagy egy olyan dokumentumig, amelyet a lekérő rendszer soha nem töltött be...
🎆 Nehéz elhinni, de a függetlenség napja minden évben nemcsak a látványos ünneplésről, hanem a szabálytalan tűzijátékok miatt kiszabott durva bírságokról is szól...
