Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Június 12-én a világ legjobb focistái ismét igazi füvön lépnek pályára a Los Angeles-i SoFi Stadionban, amikor az Egyesült Államok Paraguayjal mérkőzik meg a világbajnokságon...
Fontos kérdés, hogy miért tud a rák olyan makacsul ellenállni a kezeléseknek, és miért válnak bizonyos daganatok egy idő után szinte legyőzhetetlenné...
📈 Meglepő fordulatot vett a következő Xbox-generáció fejlesztése, ugyanis a Microsoft egyre inkább azzal számol, hogy nem tud olyan konzolt piacra dobni, amely valóban modernnek érződik, és közben a legtöbb ember számára elérhető áron kínálható...
🕵 Az utóbbi időben heves vita alakult ki arról, mennyire szolgálja az állítólagosan európai fejlesztésű Euro-Office a digitális szuverenitás eszméjét...
Az Egyesült Királyságban nagy lépés készül a hajléktalanság felszámolására: egy több mint 25 szervezetet összefogó új kezdeményezés indult útjára, melynek célja, hogy korszerű adatkezeléssel és MI segítségével megelőzhetővé váljon a hajléktalanság...
A számítógép-alkatrészek folyamatos drágulása ismét a középpontba került: iparági vezetők szerint a DDR5 RAM-árak még legalább két évig biztosan nem térnek vissza elfogadható szintre, sőt egyesek szerint az igazi normalizálódásra akár 2029-ig vagy 2030-ig is várnunk kell...
🏆 A világ legnagyobb focitornája hamarosan kezdődik: 2026-ban 48 ország csap össze 104 mérkőzésen, 16 stadionban, három ország – az Egyesült Államok, Kanada és Mexikó – városaiban...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ICD-10 Dictionary (iPhone/iPad)Ez az alkalmazás lehetőséget ad arra, hogy ICD-10 kód, betegség neve vagy akár tünet alapján is könnyedén keresgéljünk...
A nagy nyelvi modellek (LLM-ek) fejlesztése eddig csak a leggazdagabb technológiai óriások privilégiuma volt, hiszen ezek betanítása brutális számítási kapacitást és világszintű adathalmazokat igényel...
Ami kezdetben ártalmatlannak tűnt, mára a blokklánc-technológia egyik legradikálisabb fordulatává vált: ismét a felhasználók adatvédelme került reflektorfénybe...
🚀 Történelmi pillanatnak lehetünk tanúi: először töltöttek fel teljes vírusgenomot egy kvantumszámítógépre, új távlatokat nyitva a biológiai kutatásokban...
A bitcoin ETF-ek piaca teljesen átrendeződött az elmúlt másfél évben. A kezdeti hatalmas választék után mára két óriás, a BlackRock és a Fidelity szinte teljesen uralja a piacot az intézményi befektetők körében...
🔥 Érdemes megvizsgálni, milyen következményekkel jár, amikor egy súlyos tűzeset után még a polgármester családtagja is bepereli a várost, amelyet a saját testvére vezet...
🧠 Tipikus eset, amikor egy friss nemzetközi kutatás valósággal földbe döngöli a legmenőbb MI-rendszerek státuszát: az Agents’ Last Exam (ALE) nevű új, kőkemény mérési benchmarkon a legjobb nagy nyelvi modellek is legfeljebb 24%-os teljesítményt produkáltak...
🗺 Valheim világa már önmagában lenyűgöző, hiszen minden új kaland kezdete az ismeretlenbe vezet, ahol a természet, a vadállatok és megannyi kihívás vár...
A Hold felszínét bejáró intelligens japán robot 2024-ben száz percen át működött, miközben sorsdöntő fotókat készített arról, hogyan került oldalára, majd feje tetejére a leszállóegység...
Fontos kérdés, hogy mi vár a Ki vagy, Doki? (Doctor Who) sorozat rajongóira, miután Russell T Davies, a legendás showrunner ismét búcsút intett a sorozatnak, ráadásul a Bad Wolf produkciós céggel együtt...
😞 A rák korai felismerését célzó innovatív tesztek már évekkel ezelőtt izgalomba hozták az orvostudományt: sokan remélték, hogy ezek segítségével egyszerű vérvétellel még idejében felfedezhető a legtöbb daganat...
