Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
🖥 A holland kormány bejelentette, hogy elindította saját, önhosztolt Git-platformját code.overheid.nl néven, amelynek célja, hogy csökkentse a függőséget az amerikai technológiai óriásoktól, például a Microsoft tulajdonában lévő GitHubtól...
A mesterséges intelligencia mind több weboldalt böngész át, ám ezek az oldalak még mindig embereknek készülnek, tele felesleges részletekkel, amelyeket a gépek úgyis figyelmen kívül hagynak...
📷 A Nikon egy újabb, fix objektíves, full-frame szenzoros kompaktgépen dolgozik, amely a pletykák szerint a Fujifilm X100VI, a Ricoh GR IV, a Sony RX1R III és a Leica Q3 vetélytársaként lépne piacra...
Jeremy Renner újra belebújik Mike McLusky bőrébe, hogy a bűn és a rendőri erőszak uralta Kingstownban egyensúlyozzon a törvény és a bűnözői alvilág között...
Többek között egy elképesztően kockázatos magzati műtét, egy adatbázist 9 másodperc alatt eltüntető MI-ügynök és az univerzum vártnál korábbi pusztulásának lehetősége borzolták a tudományos világot a héten...
A Dire Marsh biokutató-laborjának sötét bugyraiban feltűnő, világító, rózsaszín graffitit találunk: THAKGODITSYOU, mindig kicsit másképp, vibrálóan ismétlődve a veszélyek között...
Ez a jelenség jól illusztrálható azzal, hogy sokan elsőként a tigris csíkos bundáját és az oroszlán sörényét hozzák fel, ha a két nagymacska különbségeiről esik szó...
📈 A bitcoin árfolyama rövid, iráni hírek okozta megtorpanás után újra magára talált: szombat reggel már 78 000 dollár, vagyis közel 28 millió forint fölött járt Ázsiában...
Napvilágot látott a Digital Asset Market Clarity Act (Digitális Eszközpiac Átláthatósági Törvény) friss szövege, amely jelentősen átalakítja a stabilcoinokkal kapcsolatos szabályozást az Egyesült Államokban...
Az elmúlt hét sok izgalmat hozott a tech világában, alaposan felborítva az eddigi elképzeléseket arról, mit tartogat számunkra a digitális innováció...
A Spirit Airlines 34 év után végleg lehúzta a rolót. A jellegzetes sárga gépeket üzemeltető, ultraolcsó légitársaság minden járatát azonnali hatállyal leállította, és a mintegy 17 000 dolgozó munkaviszonya is megszűnt...
A Bitcoin jövője körül számos kérdés merült fel a kvantumszámítógépek megjelenésével kapcsolatban, hiszen ezek az új gépek könnyen megfejthetik a régi típusú bitcointárcák nyilvános kulcsait...
🥊 A hétvégén a tokiói Tokyo Dome ad otthont az év egyik legizgalmasabb bokszmeccsének, ahol Naoya Inoue és Junto Nakatani feszül egymásnak az egyesített szuperharmatsúlyú világbajnoki címekért...
💻 Apple hosszú évek óta erős szereplője az asztali számítógépek piacának kifinomult formatervezéssel és erős hardverrel, különösen az M-sorozatú chipeknek köszönhetően...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Waltz of the Wizard (iPhone/iPad)A Waltz of the Wizard egy fizika alapú, első személyű varázslószimulátor, amely klasszikus fantasy élményt kínál...
🤖 Az utóbbi években a fejlesztőknek még komoly infrastruktúrára volt szükségük ahhoz, hogy nagyméretű nyelvi modelleket (LLM) működtessenek: indexelés, lekérdezőmotorok, adat-visszakeresést végző folyamatok és aprólékosan vezérelt feladatsorok tartották életben a rendszereket...
Amerika egyik legismertebb tudósa, Neil deGrasse Tyson asztrofizikus saját temetkezési terveiről fejtette ki, mi történik velünk halálunk után – és miért a hagyományos temetkezést részesíti előnyben a hamvasztással szemben...
A fejlesztők által használt MI-keretrendszerek drasztikusan átalakulnak. A bonyolult programozói környezetek visszaszorulnak, helyüket egyre inkább átlátható, hatékony és természetes nyelvű megoldások veszik át...
Az Alberta Investment Management Corporation (AIMCo), Kanada egyik óriásnyugdíjalapja, nagyot lépett: idén év elején 1 382 000 darab MSTR-részvényt (MicroStrategy) vásárolt, összesen 62,6 milliárd forintért (172,5 millió dollár)...
Újabb, a játékmenetet megtörő hibát kellett kezelnie a Blizzardnak a Diablo IV-ben (Diablo 4): a Limitless Rage nevű legendás tárgy aspektusa túlzottan hatékonynak bizonyult, ezért a fejlesztők gyorsan letiltották a használatát...
A nagyvállalati MI bevezetése eddig sokszor megrekedt, mert a háttérrendszerek egyszerűen nem voltak felkészítve arra, hogy ügynökalapú munkavégzést támogassanak...
🤠 A Far Far West meglepetéssikert aratott a Steamen: a vadnyugati, többjátékos robotcowboy-lövöldözős játék mindössze két nap alatt 250 ezres eladást produkált világszerte...
