Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Egy vadonatúj, univerzális koronavírus elleni vakcina sikerrel vette az első emberi klinikai vizsgálat akadályait, ami komoly lépést jelenthet a jövőbeni járványok elleni átfogóbb védelem felé...
🐉 Különleges tollas dinoszauruszt azonosítottak Kína északnyugati részén, amely négy szárnyszerű végtaggal rendelkezett, és valószínűleg könnyedén siklott a fák között a kréta időszakának erdeiben...
A világ egyik legritkább fájának utolsó, vadon élő példánya a chilei Robinson Crusoe-szigeten él, egy meredek sziklán kapaszkodva, és most új esélyt kapott a túlélésre...
Lényeges szempont, hogy a Zcash piacán sosem látott bizalmi válság tört ki, miután Arthur Hayes, a Maelstrom befektetési igazgatója minden Zcash (ZEC) tokenjét eladta...
Jellemző példa erre, hogy Texasban évtizedek óta először bukkant fel a New World screwworm (Cochliomyia hominivorax) nevű, húsfaló légylárva egy szarvasmarhában...
📈 Az elmúlt hetek tapasztalatai alapján a bitcoin piaci hangulata a legnagyobb eufóriát akkor érte el, amikor az árfolyam történelmi magasságokban járt, míg a legnagyobb félelem pontosan a mélypontokon csapott fel...
💸 Érdemes megvizsgálni, milyen példátlanul nehéz hetet él át a kriptopénzpiac, hiszen mind a bitcoin, mind az ether óriási veszteségekkel néznek szembe, miközben több más érme is padlót fogott...
Külön említést érdemel, hogy a Be Quiet! legújabb PC-háza már méretével is azonnal kitűnik a mezőnyből, és a szokásosnál jóval tágasabb belsővel kedvez azoknak, akik sosem elégszenek meg kevés tárhellyel...
Kezdetben az MI-modelleket úgy tervezték, hogy semleges, megbízható eszközök legyenek, mindenféle veszélyes vagy nem kívánatos viselkedéstől mentesen...
🎾 Érdemes megvizsgálni, milyen esélyekkel és körülmények között találkozik a feltörekvő cseh tehetség, Jakub Mensik és a rutinos német favorit, Alexander Zverev a 2026-os Roland-Garros elődöntőjében...
Érdemes megvizsgálni, hogy miért forog veszélyben az MI-innováció, miközben drága hardverek porosodnak kihasználatlanul, a kisebb szereplők pedig elérhetetlen áron próbálnak hozzájutni ugyanazokhoz az erőforrásokhoz...
Az Egyesült Államok legnagyobb bankjai a jövő év közepétől egy közös, tokenizált hálózat bevezetését tervezik, hogy megakadályozzák, hogy a stabilcoinok elszívják a betéteiket...
Ez a jelenség jól illusztrálható azzal, hogy egy konyhai gép egyszerre helyettesítheti a légsütőt és a kenyérpirítót, miközben minden ételt lényegesen gyorsabban tálal, mint azt bárki várná...
🤔 Egy tavaszi marketingkampányban a kreatív koncepció angolul újjászületést, optimizmust sugall a virágzó fákon keresztül – ez a képi világ az angolszász kultúrában a remény szimbóluma...
🦐 Áprilisban szinte mindenki átsiklott egy olyan játékon a Steamen, amely valószínűleg kihagyhatatlan, ha szeretnéd ötvözni az akciót és a tenger élővilágát...
Felmerül a kérdés, meddig tart az idei kriptotőzsdei hullámvasút, hiszen a vezető digitális eszközök és a kapcsolódó vállalatok most sorra veszítenek értékükből...
Többek között szinte elképzelhetetlen, mennyit változott mára a szoftverfejlesztés világa: az Anthropic májusban bejelentette, hogy a vállalatnál futó, éles rendszerekhez tartozó kód több mint 80 százalékát már nem emberek, hanem a saját MI-rendszerük, a Claude írja és szerkeszti...
Megemlíthető továbbá, hogy a pénzügyi piacok ismét turbulens napokat élnek át, miután a technológiai szektorban, és különösen a mesterséges intelligencia által fűtött részvények körében elindult lejtmenet átragadt a kriptovaluták piacára is...
💫 A James Webb-űrteleszkóp egy eddig sosem látott távolságban rejtőző, inaktív fekete lyukat észlelt, amely a Földtől több mint tízmilliárd fényévre lévő MRG-M0138 nevű galaxisban található...
