Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt

Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A  mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek. Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire. A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.

Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek

A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.

“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”

A szakma más nagyjai is figyelmeztetnek

A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.

Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.

  • Mit gondolsz a cégek azon döntéséről, hogy a profitot helyezik előtérbe a biztonság helyett?
  • Te hogy biztosítanád, hogy a mesterséges intelligencia modellek biztonságosak legyenek, mielőtt a nagyközönség számára elérhetővé tennéd?
  • Mit tennél a mesterséges intelligencia fejlesztői ösztönzők megváltoztatása érdekében, hogy ne csak az üzleti érdekeket szolgálják?



Legfrissebb posztok

Amikor a ritka floridai korallok egy éjszaka újraéledtek

MA 19:28

Amikor a ritka floridai korallok egy éjszaka újraéledtek

🐟 Éjszaka, csak világító pálcák és vörös fényszűrős lámpák halvány fényénél vártak a kutatók, hogy a floridai Key Largo partjainál megtörténjen valami, ami évek óta alig fordult elő: a...

Az Apple beszól Musk-nak: nincs kivételezés az MI-appoknál

MA 19:01

Az Apple beszól Musk-nak: nincs kivételezés az MI-appoknál

😉 Az Apple visszautasította Elon Musk vádjait, miszerint az App Store hátrányos helyzetbe hozza az OpenAI versenytársait. Musk szerint az Apple gyakorlatilag lehetetlenné teszi, hogy bármely más MI-cég –...

Az amerikai MI-hadjárat: 450 céget zsaroltak meg milliárdokért

MA 18:51

Az amerikai MI-hadjárat: 450 céget zsaroltak meg milliárdokért

2022 óta két hírhedt zsarolóvírus-csoport, a BlackSuit és elődje, a Royal, összesen legalább 450 ismert amerikai szervezetet támadott meg, köztük egészségügyi, oktatási, közbiztonsági, energiaipari és állami intézményeket. A...

Az okosszemüvegek hódítanak, a Meta az élen, a Xiaomi feltör

MA 18:26

Az okosszemüvegek hódítanak, a Meta az élen, a Xiaomi feltör

👓 2025 első felében az okosszemüvegek globális piaca igazi robbanást élt át: az eladások éves összevetésben 110%-kal nőttek, minden korábbi rekordot megdöntve. A növekedés élén a Ray-Ban Meta Okosszemüveg...

A Windows frissítés most tönkreteszi az SSD-det?

MA 18:01

A Windows frissítés most tönkreteszi az SSD-det?

⚠ Az utóbbi Windows 11 24H2 frissítések adatvesztést és meghajtóhibát okozhatnak bizonyos SSD- és HDD-típusokon még a legfrissebb rendszereken is. Egy japán számítógép-építő szakértő tapasztalata szerint a Phison NAND...

Veszélyes garnélák a Walmart polcain, aggódhatunk a radioaktivitás miatt

MA 17:26

Veszélyes garnélák a Walmart polcain, aggódhatunk a radioaktivitás miatt

Az amerikai Élelmiszer- és Gyógyszerügyi Hivatal (FDA) óvintézkedéseket vezetett be, miután Indonéziából származó fagyasztott garnélaráknál radioaktív szennyezettség gyanúja merült fel. Egy Los Angelesbe, Houstonba, Savannah-ba és Miamiba irányuló...

Az AWS egymilliárd dolláros felhőkedvezményt ad a kormánynak

MA 17:01

Az AWS egymilliárd dolláros felhőkedvezményt ad a kormánynak

Az amerikai kormány és az Amazon Web Services (AWS) új, gigantikus megállapodást kötött: az AWS 1 milliárd dollárnyi (kb. 366 milliárd forint) kreditet ad a kormányzati ügynökségeknek, hogy...

Hogyan változtatják meg a csetbotok a tinik mindennapjait

MA 16:53

Hogyan változtatják meg a csetbotok a tinik mindennapjait

💬 Az utóbbi időben egyre több fiatal talál társalgási lehetőséget MI csetbotokkal, amelyek gyakran a valódi baráti beszélgetéseket is háttérbe szorítják. Ezek a csetbotok képesek emberhez hasonló párbeszédet folytatni,...

Újabb botrány, a Microsoft MI-je szabad utat ad a kiberbűnözőknek

MA 16:26

Újabb botrány, a Microsoft MI-je szabad utat ad a kiberbűnözőknek

A Microsoft legújabb MI-alapú védelmi rendszere, a Project Ire mesterséges intelligenciát vet be a rosszindulatú kód felismerésére emberi beavatkozás nélkül. A fejlesztés célja, hogy felgyorsítsa és automatizálja a...