2025. 03. 06., 11:34

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A  mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek. Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire. A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.

Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek

A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.

“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”

A szakma más nagyjai is figyelmeztetnek

A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.

Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.

  • Mit gondolsz a cégek azon döntéséről, hogy a profitot helyezik előtérbe a biztonság helyett?
  • Te hogy biztosítanád, hogy a mesterséges intelligencia modellek biztonságosak legyenek, mielőtt a nagyközönség számára elérhetővé tennéd?
  • Mit tennél a mesterséges intelligencia fejlesztői ösztönzők megváltoztatása érdekében, hogy ne csak az üzleti érdekeket szolgálják?


Legfrissebb posztok

MA 13:25

Az MI átveszi a Mac felett az irányítást: itt a Claude

🤖 Anthropic újabb áttörést jelentett be az MI-alapú ügynökök frontján: a Claude nevű chatbot mostantól képes egy Mac számítógép teljes irányítására...

MA 11:57

A sarkvidéki hideg drámai betörése Floridába

❄ Egy szokatlanul intenzív hidegfront felkavarta a tengerfenék üledékét Florida partjainál, amelynek eredményeként meseszép, világoskék üledékfelhő fodrozódott végig a Mexikói-öböl délnyugati térségében...

MA 11:35

Az aszály nyomán ránk szabadulhatnak a szuperbaktériumok

🦠 A Föld gyorsuló felmelegedése és az egyre gyakoribb szárazság már most kimutathatóan kedvez az antibiotikumoknak ellenálló baktériumok terjedésének...

MA 11:23

Baltimore perre megy Elon Musk cégével az AI-meztelenképek miatt

Na most kapaszkodj, mert Baltimore városa most tényleg megtolta: beperelte Elon Musk AI cégét, az xAI-t, mert a Grok nevű chatbotja durván átlépett egy határt a deepfake meztelen képekkel...

MA 11:12

Az európai bankok is a Bitpanda blokkláncához csatlakoznak

💸 Az osztrák Bitpanda új blokkláncot indít, amely lehetővé teszi, hogy bankok és fintechcégek digitális, tokenizált eszközöket bocsássanak ki és számoljanak el a szigorú uniós szabályozások, például a MiCA és a MiFID II előírásai szerint...

MA 11:01

A Huawei csúcsmobilja szó szerint a rajongóknak készült – ventilátorral!

A HUAWEI Mate 80 Pro Max Wind Edition váratlan fordulattal érkezett: a korábbi passzív hűtés helyett beépített turbóventilátort kapott...

MA 10:57

Hamarosan személyre szabható hangposta érkezik a Google Pixel készülékekre

A Google Take a Message funkciója egyre nagyobb hangsúlyt kap a Pixel készülékeken, alternatívát kínálva a hagyományos hangposták helyett...

MA 10:50

A külföldi routereket végleg száműzik az amerikai piacról

Az Egyesült Államok rádiófrekvenciás szabályozó hatósága, az FCC mostantól megtiltja az összes olyan új otthoni router forgalmazását, amelyet külföldön gyártanak...

MA 10:31

Az elfelejtett gyilkos visszatér: terjed a TBC Amerikában

Jó példa erre, ami a San Franciscó-i Archbishop Riordan High Schoolban történt tavaly ősszel...

MA 10:22

Az Android Automotive túlmutat a műszerfalon: jön a Google-szörnyagy az autókba

Oké, eddig csak a szórakoztató rendszeredet irányíthatta a Google az autódban, de most emelik a tétet...

MA 10:17

Az iOS 26.4 nagy dobásai: minden, ami megváltozott az iPhone-okon

Az Apple kiadta az iOS 26.4-et, amely számos hasznos és szórakoztató újdonsággal érkezik, még ha nem is hozza el a várt forradalmat...

MA 10:01

Az élő és elhunyt zenészeket védi a Spotify újítása

Blaze Foley neve alatt jelent meg egy vadonatúj, Together című dal a Spotify-on, holott az amerikai countryénekes már több mint húsz éve nincs köztünk...

MA 09:57

A BlackBerry feltámad: hódít a billentyűzetes Titan 2 Elite

A modern okostelefonok világában az üveg előlapos, érintőképernyős készülékek uralkodnak, de még mindig sokan nosztalgiáznak a fizikai billentyűzetek után...

MA 09:50

A NASA nem engedi: amerikai bázis készül a Holdon

A NASA új, 11 100 milliárd forintos (kb. 30 milliárd dolláros) programot jelentett be, amelynek célja, hogy 2036-ig állandó, amerikai holdbázist hozzon létre a Hold déli pólusán...

MA 09:37

A HP új laptopjaiba költözik az MI: forradalom vagy rémálom?

A HP most bemutatott üzleti laptopjai egészen új szintre viszik a munkavégzést – vagy épp adnak okot némi aggodalomra...

MA 09:29

A mesterséges intelligencia LEGO-robotokkal pörgeti fel az evolúciót

🤖 Érdemes megvizsgálni, miként fejlődnek azok a moduláris, mesterségesintelligencia-vezérelt robotok, amelyek mindenféle terepen képesek önállóan mozogni, sőt, súlyos sérülések után is folytatni tudják útjukat...

MA 09:22

Az USA holdbázisra vált: leállították a Gateway űrállomás építését

Erre utal többek között az is, hogy az amerikai űrkutatási hivatal, a NASA leállította a Gateway holdkörüli űrállomás fejlesztését, és ehelyett egyenesen megkezdi az első holdi bázis építését...

MA 08:57

Az Android Auto összeomlott, a Google már küldi a javítást

Mostanában valami nagyon nincs rendben az Android Autóval: egyre több felhasználó tapasztal elképesztő kapcsolatproblémákat, legyen szó akár vezetékes, akár vezeték nélküli használatról...

MA 08:50

A kormányzati bénázás miatt összeomlott a repülőtéri biztonság

A kormányzati leállás miatt közel 61 000 repülőtéri biztonsági (TSA-) alkalmazott maradt fizetés nélkül, miközben továbbra is dolgozniuk kell, hiszen alapvető fontosságú feladatot látnak el...

MA 08:44

Az egyre súlyosabb vízhiány a Colorado folyót is térdre kényszeríti

💧 Az Egyesült Államok hét tagállama a Colorado folyó vízhasználata miatt hosszú ideje képtelen megegyezésre jutni, miközben az egyre súlyosbodó aszály és a klímaváltozás tovább apasztja a már most is szűkös vízkészleteket...

MA 08:38

Az igazi túlélőharc: a Marathon mindent visz

🏁 A Bungie visszatérő alkotása, a Marathon egészen friss színt visz az extrakciós lövöldék világába...

MA 08:29

A 137 milliárdos rekordbírság: megbüntették a Metát gyerekbiztonság miatt

Egy új-mexikói esküdtszék kimondta, hogy a Meta komolyan veszélyeztette a gyerekeket, ráadásul még kamuzott is arról, mennyire biztonságosak a platformjai...

MA 08:22

Az Outlook bakija bénította le a Gmailt – mi történt?

Érdekes fejlemény, hogy a Microsoft klasszikus Outlookjában február végétől sokaknak teljesen leállt a Gmail- és Yahoo-postafiókok szinkronizálása, a háttérben pedig nem elhanyagolható technikai probléma állt...

MA 08:15

Az új Gyűrűk Ura: Colbert és Jackson közös nagy dobása

Hamarosan új A Gyűrűk Ura-film érkezik, amely Stephen Colbert és Peter Jackson közreműködésével kapott lendületet...

MA 08:01

Az ADA előtt újra nagy ugrás? Két fordulópont jelző villog egyszerre

📈 Az elmúlt évben Cardanót vásárlók most átlagosan 43%-os veszteségben ülnek, ami a kriptovaluta elemzői szerint az „opportunity zone” mélyén helyezkedik el...

MA 07:22

Az Apple végre feltámasztja Sirit? Jön a nagy AI-robbanás

Oké, Sirit ismerjük: évek óta ugyanaz a langyos segéd, aki többet nem tud, mint viccet mesélni vagy zenét kapcsolni...

MA 07:15

Az új Vizio tévékhez már kötelező a Walmart-fiók

📺 Felmerül a kérdés, mennyire okos döntés új Vizio tévét venni, ha valaki el akarja kerülni a nagyszabású adatgyűjtési és reklámgépezetbe való belépést...

APP
MA 07:11

APPok, Amik Ingyenesek MA, 3/25

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Super Investor (iPhone/iPad)Az SEC jelentések részletesen bemutatják egy vállalat pénzügyi és működési állapotát, így biztosítva az átláthatóságot és az elszámoltathatóságot...

MA 07:08

A Windchill súlyos sebezhetősége kaput nyithat az ipari kémkedésnek

🔐 A Windchill és a FlexPLM rendszerekben most feltárt sérülékenység teljes iparágakat fenyeget...