2025. 03. 06., 11:34

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A  mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek. Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire. A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.

Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek

A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.

“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”

A szakma más nagyjai is figyelmeztetnek

A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.

Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.

  • Mit gondolsz a cégek azon döntéséről, hogy a profitot helyezik előtérbe a biztonság helyett?
  • Te hogy biztosítanád, hogy a mesterséges intelligencia modellek biztonságosak legyenek, mielőtt a nagyközönség számára elérhetővé tennéd?
  • Mit tennél a mesterséges intelligencia fejlesztői ösztönzők megváltoztatása érdekében, hogy ne csak az üzleti érdekeket szolgálják?


Legfrissebb posztok

MA 12:21

Az Android-frissítések dzsungele: így találsz ki a verziók útvesztőjéből

Az Android világában a frissítések sosem haladnak egyenes úton. Mindenki hallott már arról, hogy új funkciók jelentek meg, amelyeket a telefonján még nem talál, vagy éppen azt látja, hogy hónapokkal a hivatalos bejelentés előtt már valakik beszélnek róluk...

MA 12:02

Az élő gyöngysor réme: új pókparazita Brazíliában

Egy apró pók furcsa gyöngysorral a testén igazi tudományos szenzációvá vált a São Pauló-i Butantan Intézet Zoológiai Gyűjteményében...

MA 11:56

Az ökogazdaságban most a profit írja a szabályokat

Évtizedeken át az organikus gazdálkodás témája elsősorban a fenntarthatóságról, a környezeti egészségről és az állatjólétről szólt...

MA 11:37

Az MI-láz megduplázta az SK Hynix nyereségét

A dél-koreai SK Hynix történelmi rekordokat döntött 2025-ben: a vállalat éves árbevétele közel 50%-kal, üzemi nyeresége pedig több mint duplájára nőtt az előző évhez képest...

MA 11:19

A vadáfonya, a szupersztár: a szív és az agy őre

🍒 Különösen igaz ez akkor, ha valaki egészségesebb keringést, jobb anyagcserét vagy erősebb memóriát szeretne: egyre több tudományos bizonyíték utal arra, hogy a vadáfonya fogyasztása valódi csodafegyver lehet a szív, az emésztőrendszer és az agy védelmében...

MA 11:02

A Holdba csapódhat egy aszteroida – aranybánya vagy katasztrófa?

🌕 2032 végén egy 60 méter átmérőjű aszteroida, a 2024 YR4 nevű kisbolygó akár a Holdba is csapódhat...

MA 10:57

Az Adobe Photoshop MI-újításokkal hódítja meg a kreatívokat

Az Adobe Photoshop ma jelentős frissítéseket kapott, amelyek a Firefly generatív MI-technológiájára épülnek...

MA 10:49

Az automatizált SOC: Áldás vagy belépő a káoszba?

Egy átlagos nagyvállalati SOC (biztonsági műveleti központ) ma naponta legalább 10 000 riasztással szembesül...

MA 10:41

Az új MI-őrület: elvégzi helyetted a munkát a Moltbot?

Egyre többen próbálják ki a nyílt forráskódú Moltbotot, amely a legfrissebb MI-ügynökök közül az egyik, és tényleg képes dolgokat elvégezni helyetted...

MA 10:33

Újra szakad a Dogecoin – most jön csak a feketeleves?

Az utóbbi 24 órában a Dogecoin árfolyama kicsit, mindössze 0,6 százalékkal emelkedett, de továbbra is egy szűk sávban mozog, 0,122 dollár (kb...

MA 10:28

Az év legjobb edzéshez való fül- és fejhallgatók

Az elmúlt években rengeteg vezeték nélküli fül- és fejhallgatót teszteltem edzőteremben és sportolás közben...

MA 10:18

A hatalmas leírás után szárnyal a GM – mi a titok?

🚀 A General Motors kedden hatalmasat ugrott a tőzsdén: a részvény 9 százalékot emelkedett, így a piac 2 600 milliárd forintnál is többel értékelte fel a vállalatot...

MA 10:02

A hírhedt WinRAR-sebezhetőségre ráálltak a hackerek

🛡 A WinRAR egyik súlyos, régóta ismert sebezhetősége, a CVE-2025-8088 továbbra is valódi aranybánya a hackerek számára...

MA 09:57

A NASA-gép hőstette: drámai kényszerleszállás Houstonban

Egy NASA WB-57 típusú repülőgép kényszerleszállást hajtott végre Houstonban, miután leszállás közben meghibásodott a futóműve...

MA 09:49

A mesterségesintelligencia-rajongó Nothing New Yorkban is üzletet nyit?

A Nothing hamarosan megnyitja második üzletét Bengaluru városában, Indiában, február 14-én...

MA 09:41

Az USA-piacra tör a Tether új stabilcoinja

A világ legnagyobb stabilcoin-kibocsátója, a Tether bejelentette, hogy USAT néven új, kifejezetten az amerikai szabályozásnak megfelelő stabilcoint indít...

MA 09:33

A Google az új Androiddal véletlenül megmutatta a PC-k jövőjét

A Google véletlen hibából megmutatta, hogyan nézhet ki az Android jövője PC-n...

MA 09:25

A nagy ígéret füstbe ment: az MI-támogatások nem teremtenek munkahelyet?

Egymás után jelennek meg a cégek MI-fejlesztésekhez kapcsolódó álláshirdetései, de a ténylegesen betöltött munkahelyek száma alig változik – legalábbis Svédországban, ahol kormányzati támogatással próbálták meg fellendíteni a mesterségesintelligencia-alapú munkahelyteremtést...

MA 09:17

A következő holdküldetés: a NASA sorsdöntő próbatétele

🚀 A NASA történelmi pillanatra készül: közel 50 év után ismét négy asztronauta kel útra a Hold felé...

MA 09:09

Megérkezett a DinoTracker: az MI a dinoszauruszok nyomában

Kutatók egy új, ingyenes MI-alkalmazást mutattak be DinoTracker néven, amely képes azonosítani a dinoszauruszok lábnyomait, ezzel felülmúlva a korábbi, sokszor pontatlan címkézésen alapuló módszereket...

MA 09:03

A mesterséges intelligencia leválthatja a személyi edzőket?

Első pillantásra úgy tűnt, hogy nekem sosem lesz helyem az edzőtermek világában...

MA 08:58

A védelmet lekapcsolta Zuckerberg: elszabadultak a szexuális MI‑chatbotok

Mark Zuckerberg, a Meta vezérigazgatója, személyesen akadályozta meg, hogy a vállalat szigorúbb védelmet vezessen be a fiatalkorúak szexuális tartalmaktól való megóvása érdekében az MI‑chatbotokkal kapcsolatban...

MA 08:41

Az Egyesült Államok 10 ezer PhD-t veszített – válságban a szaktudás

Tavaly több mint 10 000 tudományos doktori (PhD) végzettségű szakember hagyta el az amerikai kormányzati szférát, miközben jelentősen csökkent a teljes szövetségi munkavállalói létszám...

MA 08:33

Az aranyláz helyett most csak oldalaz a kriptó

💸 A bitcoin árfolyama szerdán közel 33 millió forintnál (kb. 89 000 USD) állt meg az ázsiai kereskedésben, miközben a piac inkább kivár: mindenki a Fed mai döntésére, a „Hét mesterlövész” (Magnificent Seven) óriás techcégek jelentéseire, valamint a gyengülő dollárra figyel...

MA 08:25

A ShinyHunters újabb csapást mért: milliók adatai forognak kockán

A ShinyHunters nevű hackercsoport újabb áldozatokat szedett: a Panera Bread amerikai pékséglánc, a használt autók adásvételével foglalkozó CarMax, illetve az autós véleményportál Edmunds is nagyszabású adatlopás áldozatává váltak...

MA 08:18

Az FRB-k titka: egy rejtett kísérőcsillag?

Érdemes tisztázni, hogy a gyors rádiókitörések, vagyis FRB-k rendkívül erős, a másodpercek törtrésze alatt lezajló rádióhullám-villanások, amelyeket távoli galaxisokból érzékelnek a kutatók...

MA 08:01

Az új Micron-gyár hiába épül, a memóriaárak nem esnek gyorsan

💰 A Micron újabb hatalmas beruházást jelentett be: ezúttal Szingapúrban kezdi építeni 24 milliárd dollárból (kb...

MA 07:57

Az új TikTok-botrány: peren kívüli egyezség a függő fiatalok miatt

📢 A TikTok váratlanul peren kívüli egyezséget kötött egy, a fiatalok közösségi média okozta függőségéről szóló pert megelőzően, amelyben a vállalatot a Meta Instagramja és a Google YouTube-ja mellett perelték be...

MA 07:50

A Moonshot Kimi K2.5 forradalmasítja az MI-ügynökrajokat

Megemlíthető, hogy a kínai Moonshot AI cég új szintre emelte Kimi nevű MI-modelljét...