Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
🌐 Fontos kérdés, hogy a gyorsan változó világban mennyire számít még a hagyományos piackutatás, ha egyetlen TikTok-videó már világszerte trenddé emelhet egy márkát néhány óra alatt...
💳 Bitcoinnal foglalkozó nagyvállalatok ma már nem elsősorban az úttörő decentralizált pénzügyi megoldásokért lelkesednek, hanem az átláthatóságot, az egyértelmű szabályokat és a jól értelmezhető kockázatkezelést keresik...
Jellemző példa erre, hogy egy több mint 15 000 oldalból álló, kiterjedt hálózat hirdeti hamis MI-befektetési ajánlatait, és mindehhez népszerű hirdetéskövető szolgáltatásokat használ fel...
☕ Érdemes megvizsgálni, mennyire változtatja meg a reggeli kávéélményt a KitchenAid legújabb félautomata eszpresszógépe, amely egyszerre ötvözi a klasszikus dizájnt és a modern, letisztult kezelőfelületet...
💸 Az American Bitcoin, amely a Trump fivérekhez köthető, az első negyedévben jelentősen csökkentette a bitcoinbányászati költségeit: 23%-kal kevesebbet, mintegy 13,1 millió forintot (kb...
🎮 Érdemes megvizsgálni, milyen hatással lehet a klasszikus szerepjátékok világára, ha egy olyan ikonikus sorozat, mint a Wizardry, visszatér a piacra...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. DualShot Recorder (iPhone/iPad)A DualShot Recorder alkalmazás lehetővé teszi, hogy egyszerre függőleges és vízszintes videófelvételeket készíts...
Az egykori bányaváros, Cumberland, egykor szinte teljes egészében a szénbányászatra épült: generációkon át ez határozta meg a mindennapokat, több ezer embernek adott munkát, és évente millió tonna szenet küldtek innen a világ különböző pontjaira...
🤖 A technológia világát hosszú időn át a mobilalkalmazások uralták, ám most új korszak kezdődik: nemcsak a telefonodra, hanem a robotodra is letölthetsz programokat...
😱 Az interneten egyre jelentősebbé válnak az MI-ügynökök, és bizonyos jelek arra utalnak, hogy 2035-re már többen lesznek, mint a tényleges internethasználók...
Kezdetben az éjszakai égbolt viszonylagos sötétsége lehetővé tette, hogy a földi csillagászati műszerek soha nem látott részletességgel térképezhessék fel az univerzumot...
A világ egyik legnagyobb klíringházaként ismert DTCC forradalmi lépésre készül: a pénzügyi piacok egyik legkevésbé látványos, de a működés szempontjából kulcsfontosságú területét, a vállalati eseményeket – például osztalékfizetéseket és felvásárlási ajánlatokat – szeretné blokkláncra vinni...
✈ Mérföldkőhöz érkezett az amerikai haditengerészet új MQ-25A Stingray drónja, amely sikerrel teljesítette első, kétórás próbarepülését Dél-Illinois fölött...
💸 Érdemes megvizsgálni, hogy a kriptovaluták már túlléptek-e a spekulatív fázison, és egyre inkább a mindennapok pénzügyi rendszerének részévé válnak...
🚀 A növekedés sokféle rendszerben figyelhető meg – legyen szó kristályokról, baktériumokról vagy éppen lángfrontokról –, és már régóta próbálják megfejteni a fizikusok, hogyan lehet leírni és előre jelezni ezt a folyamatot...
🌲 A legtöbb gyerek ma az ideje nagy részét online játékokban tölti, azonban a Roblox külön kategória: ez az a platform, amelynek világszerte elképesztően népes a rajongótábora...
🇯🇳 A Stranger Than Heaven az RGG Studio legfrissebb játéka, amely már a bemutatójával a figyelem középpontjába került – nem utolsósorban azért, mert Snoop Dogg is szerepet kapott benne, méghozzá egy nemzetközi csempész bőrében...
