Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
💃 Raine Michaels, Bret Michaels lánya, egy új valóságshow-ban szerepel, ahol nyíltan beszél az életéről – még arról is, hogy lábáról készült fotókkal keresne pénzt...
A háttérben egészen más zajlott: a Stripe, a Visa és a Mastercard hamarosan közösen indítanak egy stabilcoin‑platformot, amelyhez az amerikai Coinbase kriptotőzsde is csatlakozhat...
🔒 A decentralizált pénzügyi megoldások (DeFi) valódi jelentőségét nem a spekulatív kereskedés, hanem a nemzetközi bankrendszer háttérfolyamatainak átalakítása adhatja meg...
😱 Egy 11 éves indiai fiú szülei kétségbeesetten fordultak orvoshoz, amikor fiuk különös tüneteket produkált: szeméből, füléből és orrából időnként vér szivárgott mindenféle látható ok nélkül...
🪖 Több mint száz évvel azután, hogy egy walesi barlang falán vörös vonalakat fedeztek fel, most úgy tűnik, sikerült bizonyítani, hogy ezek a legrégebbi ismert sziklarajzok a Brit-szigeteken...
🔐 A Trezor hardveres kriptotárcák gyártója egy chiphibát tárt fel vadonatúj Safe 7 készülékében, miután a rivális Ledger kutatói sikeresen demonstráltak egy laboratóriumi támadást...
💰 Érdemes megvizsgálni, hogy az amerikai bankok miért tartanak a stabilcoinok elterjedésétől, és miként próbálnak hatni a törvényhozókra a digitális eszközök szabályozására...
🔑 A nagyvállalatok világában a compliance sokak számára szükséges rossz: lassító, bonyolító, időrabló tényező, amit auditorok, jogászok, szabályozó hatóságok rákényszerítenek azokra, akik a cégükkel haladni igyekeznek...
💀 Egy lényeges szempont, hogy a Sony Santa Monica egy teljesen új irányba viszi a God of War sorozatot: a Laufey alcímű részben most először Kratos feleségét, Faye-t irányíthatják a játékosok...
Megdöbbentő megfigyelés nyomán új útra lép a lakható exobolygók kutatása: csillagászoknak először sikerült közvetlenül kimutatniuk több távoli bolygó mágneses mezejét...
Egy szombat délután váratlanul megszakadt az ég nyugalma az Egyesült Államok északkeleti részén: egy tűzgömb 230 tonna TNT erejével robbant fel, dörejét több államban és két kanadai tartományban is hallották...
📸 A Sigma 60–600 mm f/4.5–6.3 DG DN OS Sport objektív pontosan azt hozza, amit várnánk egy sportobjektívtől: nagy, masszív, és már ránézésre is azt sugallja, hogy túléli a zordabb körülményeket is...
Franklin Templeton vezérigazgatója, Jenny Johnson szerint a blokklánc és a kriptovaluta alapjaiban rengetik meg a pénzügyi rendszert, mert közvetlenül veszélyeztetik a hagyományos, busás díjakkal működő üzleti modelleket...
Szeptemberben sosem látott játéközönre lehet számítani: négy-öt nagy név döntött úgy, hogy még időben, jóval a Grand Theft Auto VI megjelenése előtt piacra lépjenek...
2024-ben az Egyesült Államok egészségügyi intézményei rekordmennyiségű, 275 millió beteg adatának kiszivárgását jelentették, bőven megduplázva az előző évet...
A digitális világot alapjaiban rengeti meg az MI-ügynökök felemelkedése, miközben a nagy techcégek új utakat keresnek, hogyan menthetik meg a reklámbevételeiket...
🤔 Érdemes megvizsgálni, hogy a vállalati MI-rendszerek fejlesztése miért fut zsákutcába, miközben a piac élvonalában dolgozó szakértők szerint nem a modellekkel, hanem a működtetésükkel vannak a legkomolyabb problémák...
🌳 Évszázadokon át az erdők lenyűgöző állandósággal működtek: a fák alatt a gyökerek és a mikroszkopikus élőlények szüntelenül bontják le a szerves anyagot, ezzel szén-dioxidot juttatva a légkörbe...
