Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Kiderült, hogy a baktériumokat fertőző vírusok – azaz fágok – egy eddig ismeretlen gyengeséget tártak fel: képesek lekapcsolni egy létfontosságú bakteriális fehérjét, a MurJ-t, amelyre az eddigi antibiotikumok nem tudtak hatni...
💻 Az Apple idén év végétől az Egyesült Államokban kezdi el gyártani a Mac minit, leállítva a Vietnámban és Kínában folyó termelést, hogy az összeszerelés a houstoni Foxconn-gyárban történjen...
A Xiaomi világszerte bemutatta a Xiaomi 17 és Xiaomi 17 Ultra mobilokat, amelyek bátran odaállnak bármelyik zászlóshajó mellé, és akár az idei Galaxy S26-sorozat csalódott rajongóinak is izgalmas alternatívát kínálnak...
👥 A szólóvállalkozók gyakran falakba ütköznek, amikor új ügyfeleket szeretnének találni. A hagyományos platformok, mint a LinkedIn, tele vannak önjelölt gurukkal, akik a saját tanfolyamukat promózzák, vagy a reggeli jógájuk eredményeit akarják világgá kürtölni...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Last Horizon (iPhone/iPad)A Last Horizon egy letisztult, minimalista űr-túlélő játék, amelyben egy letűnt civilizáció utolsó űrhajóját irányítva kell új otthonra lelnünk az univerzumban...
Az 1854-ben alapított Clarity évtizedeken át adott munkát vak és látássérült embereknek az Egyesült Királyságban, legutóbb pedig szappankészítéssel foglalkozott...
🚨 A QuickLens nevű Chrome-bővítmény, amely eredetileg a Google Lens gyors elérését tette lehetővé a böngészőn belül, mára már több ezer felhasználót megkárosított, miután veszélyes, kriptolopásra és adathalászatra alkalmas kódokat építettek bele...
🔑 A Xiaomi bemutatta első Bluetooth-alapú helymeghatározó eszközét, amely a beépített fém huroknak köszönhetően azonnal rögzíthető kulcscsomóra, karabinerre...
Véget ér a Star Wars-mozifilmek aszálya, mert idén májusban jön A Mandalóri és Grogu (The Mandalorian and Grogu), aztán jövőre Ryan Goslinggal a Csillagok háborúja: Csillagvadász (Star Wars: Starfighter)...
🕵 Érdemes megvizsgálni, hogy tényleg elkerülhetetlenek-e a korral járó betegségek, vagy létezik olyan megközelítés, amellyel egyszerre több egészségügyi kockázat is mérsékelhető...
🍺 Fontos kérdés, hogyan lett hirtelen rosszul több tucat ember egy kisvárosi vásáron, miközben a gyanúba hozott ételeket többen nem is fogyasztották, és a helyszíni higiénia is erősen kétséges volt...
🚀 Több évnyi kutatómunka és a legújabb NASA-eredmények alapján egyre több adat utal arra, hogy a Mars felszínéről származó kőzetekben talált rendkívüli szerves vegyületeket élőlények hozhatták létre...
A NASA több mint ötven év után ismét a Holdhoz készül visszatérni, és ezúttal történelmet ír: a következő Artemis II-küldetésen először utazik fekete és női űrhajós is a Holdhoz...
Azt vizsgáljuk, hogy az Egyesült Államok szövetségi védőoltási javaslatainak átalakítása után miként próbálják az egyes államok megőrizni a gyerekek számára az ingyenes és könnyen hozzáférhető oltásokat...
🤖 Az OpenAI pénteken bejelentette, hogy óriási, 110 milliárd dolláros befektetés érkezik az Amazon, az Nvidia és a SoftBank részéről, miközben a cég értékét már 730 milliárd dollárra teszik...
🔋 Fontos kérdés, hogy egyre több készüléket és gyorstöltőt párosítva meddig kell még bosszankodnunk amiatt, hogy az USB-C-vel is gyakran káoszba fullad az élmény: a különféle gyorstöltési szabványok, a gyártói protokollok meg a hosszú távú akkumulátor-élettartam miatt csak kevesen oldották meg tényleg jól a problémát...
Amerikai egészségügyi és oktatási intézmények ellen indítottak támadásokat az elmúlt hónapokban olyan digitális behatolók, akik feltételezhetően Észak-Koreához köthetők...
🚀 A Földön kívüli villámok létezése már nem újdonság, hiszen a csillagászok korábban is észleltek villámlást a Jupiteren, a Szaturnuszon és a Neptunuszon...
🎥 Minden idők egyik legnagyobb médiafúziója jöhet létre, miután hivatalossá vált, hogy a Paramount több mint 40 ezer milliárd forint (110 milliárd USD) értékben felvásárolja a Warner Bros...
⚡ A motoros világ figyelme a Donut Labra irányult, miután bemutatták első gyártásérett szilárdtest-akkumulátorukat, amely a jelenlegi ismereteink szerint döbbenetesen gyors töltést tesz lehetővé...
