Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
⚠ Nehéz elhinni, de alig pár órával azután, hogy az Adobe bejelentette egy kritikus ColdFusion-sebezhetőséget (CVE-2026-48282), máris aktív támadások indultak világszerte...
📈 A TeraWulf hatalmas lendületet kapott a tőzsdén, miután 20 éves szerződést kötöttek: a Hawesville-ben, Louisville-től kicsit több mint egyórányira található adatközpontjukat az MI-fejlesztő Anthropic bérli ki...
A japán Hayabusa2 űrszonda lenyűgöző bravúrt hajtott végre: mindössze 800 méterre száguldott el a Torifune nevű aszteroida mellett, mintegy másodpercenként 5 kilométeres sebességgel...
Különösen igaz ez akkor, ha valaki éppen garanciális javításra vagy cserére szorul, de végül csak értelmetlen utalványokat kap, amiket gyakorlatilag semmire sem tud felhasználni...
📸 A Samsung következő generációs hajlítható készülékei jelentős dizájnváltáson esnek át, hogy szinte teljesen eltüntessék a kijelző közepén futó hajtásnyomot...
Erre utal többek között az is, hogy az Apple első összecsukható iPhone-ja, az iPhone Ultra nemcsak késve érkezik, hanem brutális árat kap — ez mégsem riasztja el a vásárlókat...
Noha sokfelé olvasni arról, hogyan csökkenthető az energiapazarlás az alkalmazások optimalizálásával, sokan elfelejtik, hogy a töltők kiválasztása is döntő tényező lehet az akkumulátor élettartamában és a mindennapi kényelemben...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ICD-10 Dictionary (iPhone/iPad)Az alkalmazással könnyen kereshetsz ICD-10 kódok, betegségek nevei vagy tünetek alapján...
🐶 Egy apró balti-tengeri szigeten olyan leletekre bukkantak, amelyek fenekestül felforgatják korábbi elképzeléseinket az ember és a farkas kapcsolatáról...
💻 A világ egyik legfontosabb számítástechnikai kiállításán mutatkozott be a Micron legújabb fejlesztése, a 9650-es PCIe Gen6 SSD, amely különösen a felhőalapú szerverek számára ígér rekordgyorsaságot...
A nagy technológiai vállalatok most versenyt futnak, hogy ügyfeleiknek csúcsminőségű mesterséges intelligenciát szállítsanak, és ebben már nemcsak a szoftverek számítanak – a szakértelem is aranyat ér...
A 20. század elején a tudósokat teljesen zavarba ejtette a kvantummechanika, amely megkérdőjelezte a józan ész határait, és a legnagyobb fizikusokat is kihívás elé állította...
🥅 Szombaton a New York/New Jersey Stadion közönségét és a világszerte figyelő milliókat is egy eddig sosem látott esemény lepte meg: egy 180 cm magas humanoid robot, Atlas, sétált végig a pálya szélén, sorra bemutatva híres gólörömöket, majd átadta a meccslabdát a játékvezetőnek...
Érdemes megvizsgálni, hogy a fejlődő robotika egyik legnagyobb kihívása továbbra is az, hogyan lehet a lenyűgözően összetett emberi kezet géppel utánozni...
Erre a napra több fordulópont is jut: Jan Hus máglyahalála alapjaiban rázta meg Európát, Richard III angol királlyá koronázása átírta a hatalmi viszonyokat, Louis Pasteur veszettség elleni oltása pedig új korszakot nyitott az orvoslásban...