2025. 03. 06., 11:34

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A  mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek. Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire. A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.

Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek

A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.

“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”

A szakma más nagyjai is figyelmeztetnek

A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.

Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.

  • Mit gondolsz a cégek azon döntéséről, hogy a profitot helyezik előtérbe a biztonság helyett?
  • Te hogy biztosítanád, hogy a mesterséges intelligencia modellek biztonságosak legyenek, mielőtt a nagyközönség számára elérhetővé tennéd?
  • Mit tennél a mesterséges intelligencia fejlesztői ösztönzők megváltoztatása érdekében, hogy ne csak az üzleti érdekeket szolgálják?


Legfrissebb posztok

MA 07:10

Az RX 9070 XT új jégkirálynője: kipróbáltuk a Gigabyte Gaming OC Ice-t

Felmerül a kérdés, hogy egy igazán prémium videokártya mennyivel nyújt többet az alapmodelleknél, és megéri-e a felárat...

MA 06:35

Itt a lézerrel kalibrált GPS-műholdak korszaka: még pontosabb helymeghatározás

🛰 Érdemes megemlíteni, hogy a GPS és más hasonló rendszerek már eddig is forradalmasították, milyen egyszerűen és pontosan lehet meghatározni bármilyen földi pontot...

MA 06:29

Az FBI-főnök e-mailjét feltörték: kínos fotók, kapkodó magyarázkodás

🕵 Az FBI igazgatója, Kash Patel személyes Gmail-fiókját iráni kapcsolatokkal rendelkező Handala hackercsoport törte fel, és a szerzett információkat – köztük fotókat, privát dokumentumokat, valamint levelezéseket – nyilvánosságra hozták...

MA 06:22

A The Elder Scrolls: Blades búcsúzik: vége a mobiljátéknak

Most őszintén, könyörgöm, észrevetted már, hogy néhány játék lassan, csendben eltűnik a süllyesztőben?..

MA 06:15

A víz rejtett ereje mindent megváltoztat – az élet kulcsa

Világszerte jelen van, létfontosságú, mégsem viselkedik úgy, mint a legtöbb folyadék...

MA 06:05

Történelmi események a mai napon (Március 30.)

Ezen a napon lázadás, békekötés, merénylet és technológiai áttörés is formálta a világot...

MA 06:01

Az MI legyőzte a fordítót: ember a gépek árnyékában

🤖 Te is azt hitted, hogy egy középkori RPG vérében csak a kardok és páncélok csörögnek?..

vasárnap 21:46

Az IBM fedélzeti számítógépei: az Űrsikló rejtett titánjai

1981. április 12-én, éppen húsz évvel Jurij Gagarin első űrutazása után, az Űrsikló Floridából az égbe emelkedett...

vasárnap 21:34

Az audiorajongók nagy átverése: az 1,4 milliós kábel mítosza

🔊 Mi történik, ha egy 1,4 millió forintos luxus hifi-kábelt eresztenek össze egy 2500 forintos kábellel?..

vasárnap 21:23

Az újabb gyomros: újra emelkedik a PlayStation ára

A Sony ismét emeli a PlayStation árát: kevesebb mint egy éven belül másodszor drágul a népszerű konzol...

vasárnap 21:02

A kék halál kísért a Microsoft standján

Senki sem várta volna, hogy a Microsoft a saját standján, egy amerikai biztonsági konferencia közepén nosztalgiázik a kék halál képernyőjével...

vasárnap 20:56

A Pixel 10a legidegesítőbb hibái – és így orvosolhatod őket

🙁 Bár az új Pixel 10a március óta elérhető, súlyos hibákkal eddig nem találkoztak a magyar felhasználók, néhány apróbb, idegesítő problémával azonban továbbra is számolni kell – ahogy az már megszokott egy frissen piacra dobott telefonnál...

vasárnap 20:45

Az osztrák kormány betiltaná a közösségi médiát 14 év alatt?

🕵 Na most kapaszkodj, mert Ausztria bedobott egy óriásit: jöhet a totális közösségimédia-tilalom a 14 év alattiak számára...

vasárnap 20:35

Az MI-felhő szétzúzza a zöld tech álmait

A közelmúltban a digitális óriások eltökélten haladtak afelé, hogy működésüket teljes egészében megújuló energiára állítsák át, ezzel is hozzájárulva a klímaváltozás elleni harchoz...

vasárnap 20:13

A régi iPhone-ok az iPhone 17E legkeményebb ellenfelei

Érdemes megvizsgálni, hogy mennyire éri meg az új iPhone 17E-t választani, ha nagyjából hasonló áron, akár még jobb alternatívák is léteznek a korábbi iPhone-modellek között...

vasárnap 19:56

Az óceánok műanyaga nem tűnt el – már belélegzed, megeszed

Egy lényeges szempont, hogy mi történik az eltűntnek hitt óceáni műanyaggal...

vasárnap 18:01

Az űrnél hidegebb hűtők tartják életben a kvantumszámítógépeket

A csillogó arany csillárra hasonlító szerkezet, amely mostanában a kvantumszámítógépek emblémája lett, valójában egy brutális hűtőszekrény...

vasárnap 17:57

A mindennapok láthatatlan szikrái: az elektrosztatikus töltés titkai

Az elektrosztatikus jelenségeket mindenki ismeri: ha lufit dörzsölsz a hajadhoz, a hajszálak szétállnak, vagy egy szőnyegen végigsétálva apró kisülésekkel sokkolsz másokat...

vasárnap 17:45

Az Insilico és az Eli Lilly óriásüzlete: jönnek az MI-gyógyszerek

Tipikus példa arra, amikor az MI nemcsak gyorsít, hanem új szintre emeli a gyógyszerkutatást: az amerikai gyógyszeróriás, az Eli Lilly, 1000 milliárd forintos (2,75 milliárd USD) szerződést kötött a hongkongi Insilico Medicine-nel, hogy világszerte elérhetővé tegyék a mesterséges intelligencia által fejlesztett gyógyszereket...

vasárnap 17:34

Az agyvérzés rejtélyes fiatalító ereje: új esély az agynak?

Érdemes megérteni, hogy az agyvérzés nem csupán pusztít: meglepő módon elindíthat egyfajta fiatalító folyamatot az agyban...

vasárnap 17:24

Ha kialszik a Nap: mi vár az emberiségre?

☀ A Föld története összeforrt a Nappal: ez a forró, hatalmas gömb ad állandó meleget és fényt, formálja az éghajlatot és a vizek körforgását...

vasárnap 17:12

Az osztrákok szigorítanak: 14 év alatt tiltott a közösségi média

🚫 Minden eddiginél radikálisabb húzásra készül Ausztria: most tényleg el akarja tiltani a 14 év alattiakat a közösségi média használatától...

vasárnap 17:01

Az Apple TV-sek kiakadtak: a Netflix tényleg elrontotta az appot

🗴 A Netflix legújabb frissítése alaposan felborzolta az Apple TV-t használók kedélyeit...

vasárnap 16:56

Az eldobható kesztyűk meghamisítják a mikroműanyag-méréseket?

A mikroműanyagok kutatása közben gyakran használt nitril- és latexkesztyűk jelentősen torzíthatják a laboreredményeket – legalábbis ez derül ki a Michigani Egyetem friss vizsgálatából...

vasárnap 16:45

Az önjavító űrkamerák forradalma: túlélés a Jupiter poklában

🚀 Felmerül a kérdés, hogyan működhetnek hosszú távon űrszondák kamerái egy olyan extrém sugárzású környezetben, mint a Jupiter körüli térség...

vasárnap 16:36

Az igazság nyomában: amikor a hazugságvizsgáló is téved

🔎 Érdemes megvizsgálni, miként vált a poligráf, azaz a hazugságvizsgáló, az igazság utáni hajszában ikonikus, mégis ellentmondásos eszközzé...

vasárnap 16:24

Az Android egérrel csúnyán elhasal: továbbra sincs rendes Vissza-gomb

Lassan, de biztosan érik az Android átalakulása: a rendszer már most is egyre asztalibb, fejlettebb ablakkezeléssel, egyre jobb többablakos funkciókkal, és mindennel, ami egy mindennapos számítógéphez kell – legalábbis papíron...

vasárnap 14:02

Az iOS 26.4 végre valódi újdonságokkal turbózza fel az iPhone-t

Az iOS 26.4 érkezésével az Apple ismét számos frissítéssel lepte meg az iPhone‑felhasználókat...

vasárnap 13:57

A Rák-köd látványos metamorfózisa új titkokat tár fel

A Rák-köd, a Földtől 6500 fényévre lévő, a Bika csillagképben található szupernóva-maradvány az elmúlt 25 évben jelentős változásokon ment keresztül a Hubble űrtávcső felvételei tanúsága szerint...