Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
A hadseregek és hírszerző szervezetek egyre gyakrabban támaszkodnak mesterségesintelligencia-rendszerekre, például az információk gyorsabb feldolgozásában vagy válsághelyzetek tervezésében...
📌 Különösen igaz ez akkor, ha Amerika nyugati felét vizsgáljuk: a mai Észak-Amerika számos tájegysége nem létezne a valaha volt Farallon-lemez nélkül...
Ilyen eset például, amikor a Microsoft minden lehetséges helyre betuszkolja a Copilotot a Windows rendszerben, anélkül hogy erről a felhasználók szabadon dönthetnének...
💰 Egyetlen virális X-poszt miatt robbant fel a net: Phoebe Gates, Bill Gates és Melinda French Gates legfiatalabb lánya épp egy startupról tárgyalt egy influenszerrel...
Érdemes megvizsgálni, hogy miként sikerült az Intuit fejlesztőcsapatának néhány hónapnyi adótörvény-feldolgozást néhány órába sűríteni, miközben olyan munkafolyamatot dolgoztak ki, amelyből bármelyik szabályozott iparág profitálhat...
🛩 A légiforgalmi irányítók hiánya egyre nagyobb problémát jelent az Egyesült Államokban, ezért most a Szövetségi Légügyi Hivatal szokatlan módszerhez nyúl: kifejezetten játékosokat szólít meg új kampányában...
🚀 Péntek este látványos vízreszállással ért véget az Artemis II küldetés, amikor az Orion űrkapszula mintegy 15 perces, izzó légkörön való áthaladás után biztonságosan a Csendes-óceánba csapódott San Diego partjainál...
A digitális vagyonok világa napjainkra túllépett a kezdeti hype-on. Ami decentralizált értékátviteli kísérletként indult, mára komoly átalakulásokat ígér a tőkepiacok, letéti rendszerek, elszámolás és tulajdonjog terén...
🕵 Több kaliforniai beteg most jogi eljárást indított, mert egyes kórházak állításuk szerint bármiféle beleegyezés nélkül rögzítették a velük folytatott orvosi beszélgetéseket egy MI-alapú szoftverrel...
Egyre többet tudunk arról, hogy a mindennapi zöldségekben megtalálható zeaxantin nemcsak a látás egészségét óvja, hanem a daganatok elleni harcban is kulcsszerepet játszhat...
Mit hozott ez a nap a történelemben? A mongol hódítástól és brit koronázástól kezdve az Apollo 13 (Apollo–13) drámai startján, Idi Amin bukásán és az algíri merényleteken át egészen a szumátrai nagy földrengésekig sorakoznak a mérföldkövek...
Az Egyesült Államokban közel 4000 ipari vezérlőrendszer vált sebezhetővé iráni kibertámadásokkal szemben, miután kiderült, hogy számos Rockwell Automation PLC közvetlenül az internetre csatlakozik...
💁 A privacy-őrültek évekig boldogan nyomták a csetet a Signalon, hiszen csak a küldő és a fogadó látja az üzeneteket, minden szuperül titkosított, az üzenetek ráadásul idővel elpárolognak a telefonból...
⚡ Az utóbbi években sok PC-rajongót tartott izgalomban vagy éppen aggodalomban a csúcskategóriás grafikus kártyák, például az RTX 4090 vagy a hamarosan megjelenő RTX 5090, valamint a hozzájuk tartozó tápkábelek leolvadása...
🔒 Fontos kérdés, hogy mennyire védettek az e-mailek okostelefonokon. Most először vált elérhetővé a Gmail végponttól végpontig terjedő titkosítása (E2EE) minden Android- és iOS-eszközön, így a vállalati felhasználók külön alkalmazás nélkül olvashatnak és írhatnak titkosított leveleket...
💫 A gravitációs hullámok eddig kizárólag hatalmas, kilométeres méretű műszerekkel voltak kimutathatók; ezek apró téridő-rezgéseket érzékelnek, amelyek például fekete lyukak összeolvadásakor keletkeznek...
✈ Az európai repülőterek súlyos üzemanyaghiánnyal nézhetnek szembe három héten belül, ami jelentősen megzavarná a nyári utazási szezont és komoly károkat okozna a gazdaságnak...
💥 Egy különleges fém, az urán-ditellurid (UTe2) egészen új oldalát mutatta meg a fizikusoknak, amikor nemrégiben váratlanul visszatért benne a szupravezetés szinte rekorderősségű mágneses terekben – pedig normál esetben ilyen körülmények között már rég megszűnne...
Erre utal többek között az, hogy a legkomolyabb biztonsági rések egyre gyorsabban kerülnek a támadók kezébe, mint ahogy a védekezés képes lenne lépést tartani velük...
A tajvani TSMC idei első negyedéves árbevétele elképesztő, 35%-os növekedést mutatott a januártól márciusig tartó időszakban, köszönhetően az MI-chipek iránti világméretű kereslet folyamatos emelkedésének...
