Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
Az Amazon most visszafogott, de azért érezhetően odacsap a jó öreg postának: végül 20 százalékkal vágja vissza az amerikai posta (USPS) kézbesítéseit...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ASMR Playbook (iPhone/iPad)Az ASMR Playbook: Satisfying Games egy olyan digitális játékalkalmazás, amelyet a stressz oldására és a koncentráció erősítésére fejlesztettek ki...
Hihetetlen, de mégis igaz, hogy biztonsági kutatók MI‑ügynökök segítségével újabb két kritikus sebezhetőséget találtak a Common Unix Printing System (CUPS) szoftverben, amely a legtöbb Linux- és Apple‑eszköz alapértelmezett nyomtatórendszere...
📈 Senki sem várta volna, hogy miközben az amerikai technológiai cégek egyik napról a másikra tömeges elbocsátásokba kezdenek az MI miatt, addig Kínában jóval kisebbek a hullámok...
🚀 Az összehajtható telefonok piaca újabb nagy meglepetés előtt áll: friss hírek szerint már elindult az első összehajtható iPhone gyártása a Foxconn gyártósorain...
Annak vizsgálata, milyen közel jár a tudomány az 1-es típusú cukorbetegség teljes gyógyításához, különösen az őssejtalapú kezelések és az immunrendszert befolyásoló gyógyszerek gyors fejlődésének fényében...
Ámulatba ejtő felfedezés tartja izgalomban a csillagászokat: a James Webb-űrtávcső egy szokatlan exobolygó, a TOI-5205 b tanulmányozásával igazi fejtörőt okozott a szakembereknek...
😃 Néhányan komolyan megszívták, amikor a régi, jól bevált Classic Outlook egyszer csak elkezdte visszadobálni a leveleket, mégpedig teljesen véletlenszerűen...
🔥 Három ismert YouTuber – h3h3 Productions, MrShortGameGolf és Golfholics – most közösen beperelték az Apple-t, mert szerintük a vállalat törvénysértően használta fel a videóikat az MI fejlesztéséhez...
👚 A Generalist nevű cég új mérföldkőhöz ért a robotikában: a GEN-1 nevű MI‑modelljük ma már 99 százalékos megbízhatósággal végzi el a legapróbb, kézügyességet igénylő feladatokat is – ilyenek például a dobozhajtogatás, a telefoncsomagolás vagy a tárgyak szortírozása...
A Bitcoin árfolyama ismét közelít a 68 000 dolláros (kb. 25,1 millió forint) szinthez, miután sorozatosan képtelen volt 70 000 dollár felett maradni...
Az AP, a világ egyik legpatinásabb hírügynöksége, jelentős változások elé néz: az amerikai újságírók egy részének önkéntes távozását ajánlják fel, ezzel gyorsítva az elmozdulást a nyomtatott sajtótól és a hagyományos újságírástól, amely csaknem két évszázadon át volt a fő bevételi forrás...
Erre utal többek között az, hogy a legújabb tapasztalatok szerint már nemcsak villámgyors válaszokat kapunk, hanem a nagy nyelvi modellek (LLM-ek), például a ChatGPT vagy a Gemini, képesek rövid idő alatt magas szintű kutatási feladatokat is elvégezni...
Attila hun király 🗡️ feldúlja Metzet, az internet szimbolikus születésnapja 📄 megszületik az RFC 1 közzétételével, és amerikai csapatok elfoglalják Bagdadot 🏙️ – pár nap, ami új irányokat adott a történelemnek...
💎 Ez a látványos, több mint 4500 éves, gyöngyhálóból készült óegyiptomi ruha igazi ritkaság, amely kifejezetten egy nő temetésére készült a piramisok korában...
🔒 A német hatóságok hivatalosan is leleplezték Daniil Makszimovics Scsukint, azt a 31 éves, krími születésű orosz hackert, aki évekig „UNKN” fedőnéven működtette a hírhedt GandCrab- és REvil-zsarolóvírus-bűnbandákat...
Az emberiség elképesztően sokszínű környezethez alkalmazkodott az évezredek során. Bárhol nézünk szét a Földön, megtalálhatók olyan közösségek, amelyek a legextrémebb körülményeket is túlélhetővé tették – sőt, otthonukká formálták...
📤 Ebből következően érdemes megérteni, hogy az adattárolás egyre nagyobb kihívást jelent: a videók felbontása és mérete folyamatosan nő, a projektekhez szükséges fájlok könnyen túllépik a több száz MB-ot, miközben a megbízható, nagy kapacitású és megfizethető fizikai tárolók lassan eltűnnek...
⏱ Alig pár napja, hogy a T-Mobile frissítette a hálózatát, és elbúcsúzott néhány régi biztonsági szabványtól, amelyeket a 2017 előtti, régi androidos vagy iPhone-ok használtak...
