Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
💻 A világ egyik legfontosabb számítástechnikai kiállításán mutatkozott be a Micron legújabb fejlesztése, a 9650-es PCIe Gen6 SSD, amely különösen a felhőalapú szerverek számára ígér rekordgyorsaságot...
A nagy technológiai vállalatok most versenyt futnak, hogy ügyfeleiknek csúcsminőségű mesterséges intelligenciát szállítsanak, és ebben már nemcsak a szoftverek számítanak – a szakértelem is aranyat ér...
A 20. század elején a tudósokat teljesen zavarba ejtette a kvantummechanika, amely megkérdőjelezte a józan ész határait, és a legnagyobb fizikusokat is kihívás elé állította...
🥅 Szombaton a New York/New Jersey Stadion közönségét és a világszerte figyelő milliókat is egy eddig sosem látott esemény lepte meg: egy 180 cm magas humanoid robot, Atlas, sétált végig a pálya szélén, sorra bemutatva híres gólörömöket, majd átadta a meccslabdát a játékvezetőnek...
Érdemes megvizsgálni, hogy a fejlődő robotika egyik legnagyobb kihívása továbbra is az, hogyan lehet a lenyűgözően összetett emberi kezet géppel utánozni...
Erre a napra több fordulópont is jut: Jan Hus máglyahalála alapjaiban rázta meg Európát, Richard III angol királlyá koronázása átírta a hatalmi viszonyokat, Louis Pasteur veszettség elleni oltása pedig új korszakot nyitott az orvoslásban...
🚀 Újabb változások jönnek a Flipper Zero életében: a népszerű zsebkütyü fejlesztőcsapata bejelentette, hogy kisebb létszámban dolgozik tovább, és nagyobb szerepet kapnak a közösségi hozzájárulások...
Felmerül a kérdés, mennyire biztonságosak a legújabb blokklánc-rendszerek, ha egy mindössze 1,1 millió forintos szerver is képes olyan súlyos hibát szimulálni, amely akár 25 ezermilliárd forint (70 milliárd USD) értékű kriptót sodorhatott volna veszélybe...
Az online jelenlét a mindennapok része, de kevesen tudunk szabadulni attól a tapasztalattól, hogy minél több időt töltünk a közösségi oldalakon, annál rosszabbul érezzük magunkat...
🚧 Egy lényeges szempont, hogy amikor belépsz egy weboldalra, gyakran találkozol olyan feladatokkal, mint eltorzított szavak megfejtése, homályos képeken motorkerékpárok kiválasztása vagy annak igazolása, hogy nem vagy robot...
👀 Bérlakásokban vagy társasházakban élők számára valódi kihívás lehet biztonsági kamerát vagy videós kapucsengőt felszerelni, hiszen nem fúrhatnak falat és nem okozhatnak semmilyen maradandó károsodást...
💉 Felmerül a kérdés, hogy mennyire valóban hatékonyak, vagy akár biztonságosak azok a peptidkészítmények, amelyek jelenleg az egészségmegőrzés és a hosszú élet reményében terjednek az Egyesült Államokban...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Monthly Dystopia (iPhone/iPad)A Monthly Dystopia egy izgalmas túlélőjáték, amely George Orwell 1984 című klasszikusának világát idézi...
Lassan minden csuklón ott virít egy okosóra vagy okoskarkötő. Ezek már régóta nem csak a lépésszámot vagy a pulzust figyelik: a korszerű modellek alvást, bőrhőmérsékletet, légzésszámot, véroxigént, szívritmus-változékonyságot is képesek mérni, sőt, akár arra is riasztanak, ha valami baljós jelet érzékelnek...
🚀 Érdemes megérteni, hogy a NASA új, különleges mentőakcióba kezdett: egy robotűrszondával igyekszik megmenteni az évtizedek óta szolgáló, és most veszélyesen zuhanó Neil Gehrels Swift Obszervatóriumot (Neil Gehrels Swift Observatory)...
🪐 Amikor először egy marsi kőzet felszínén összetett szerves szén jelenlétét észlelték, a tudósok hirtelen egy régóta húzódó kérdés kapujában találták magukat: vajon élet nyomait találtuk meg, vagy valami egészen más magyarázat rejtőzik a színfalak mögött?..
