Turing-díjasok kongatják a vészharangot az MI-technológiák veszélyei miatt
A mesterséges intelligencia betanítási módszer megalkotói aggódnak, hogy a vállalatok a profit és nem a biztonság által vezéreltek.
Két úttörő tudós, akik létrehozták a mesterséges intelligencia képzésének alapvető technikáit, most a reflektorfényt arra használják, hogy felhívják a figyelmet a nyilvánosság számára elhamarkodottan kiadott MI-modellek veszélyeire.
A Massachusettsi Egyetem kutatója, Andrew Barto és a DeepMind korábbi kutatója, Richard Sutton figyelmeztettek, hogy az MI-cégek nem tesztelik alaposan termékeiket kiadás előtt, és ezt ahhoz hasonlították, mintha “hidat építenénk, majd úgy tesztelnénk, hogy embereket sétáltatunk rajta”.
Millió dolláros elismerés a megerősítéses tanulás fejlesztőinek
A gyakran a “Számítástechnika Nobel-díjaként” emlegetett Turing-díj egymillió dolláros jutalommal jár, és idén közösen ítélték oda Barto-nak és Suttonnak a “megerősítéses tanulás” kifejlesztéséért – ez egy olyan gépi tanulási módszer, amely próba-szerencse alapon tanítja az MI-rendszereket optimalizált döntések meghozatalára.
“Szoftvereket kiadni milliók számára biztonsági intézkedések nélkül nem jó mérnöki gyakorlat” – hangsúlyozta Barto. “A mérnöki gyakorlat azért fejlődött, hogy csökkentse a technológia negatív következményeit, és nem látom, hogy ezt gyakorolnák a fejlesztő vállalatok.”
A szakma más nagyjai is figyelmeztetnek
A nem biztonságos MI-fejlesztést a szakterület más szakértői is bírálták. 2023-ban technológiai vezetők egy csoportja nyilatkozatot adott ki, figyelmeztetve arra, hogy “az MI miatt bekövetkező kihalás kockázatának csökkentése globális prioritásnak kell lennie”.
Barto bírálta az MI-vállalatokat, amiért “üzleti ösztönzők motiválják őket” ahelyett, hogy az MI-kutatás előmozdítására összpontosítanának.
🛠 A Midjourney szembeszállt a nagy hollywoodi stúdiókkal, miután azok tavaly beperelték szerzői jogsértés miatt, mert az MI-alapú képalkotó rendszer képes Supermanről, Batmanről és más híres karakterekről képeket generálni...
Érdekes jelenség, hogy az elmúlt időszakban egyre kifinomultabb adathalász szolgáltatások jelentek meg, amelyek célkeresztjében a vállalati felhasználók állnak...
💸 Érdekes felvetés, hogy az Egyesült Királyság új kriptovaluta-szabályozása globális kereskedelmi lehetőségeket nyithat meg, miközben komoly kihívásokat is tartogat...
Érdemes megvizsgálni, hogy az indonéziai Flores szigetén egykor élt, Homo floresiensisnek nevezett ősi emberfaj, vagyis a hobbitok, ténylegesen mennyire voltak találékonyak túlélésük során...
Az Amazon megújította népszerű Fire HD 10 táblagépét, az egyik legfontosabb változás pedig a memória bővítése: az eddigi 3 GB helyett mostantól 4 GB RAM-mal működik az eszköz...
🎆 Az Egyesült Államok Függetlenség napja hétvégéjén nemcsak a látványos tűzijátékokban gyönyörködhetnek a lakosok, hanem a szokottnál is élénkebb sarki fény is megjelenhet az éjszakai égbolton...
🔥 Július mindig a legmelegebb hónap az Egyesült Államokban, de napjainkban a hőhullámok sokkal intenzívebbek, mint amilyeneket Benjamin Franklin, Thomas Jefferson vagy a többi alapító atya megtapasztalhatott volna...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ICD-10 Dictionary (iPhone/iPad)Az alkalmazás segítségével egyszerűen kereshetünk ICD-10 kód, betegség neve vagy akár tünet alapján is...
A Google hamarosan egyesével is elérhetővé teszi a különböző gyűjteményeket a widgetek között – így végre mindenki csak azokat a kategóriákat teheti ki, amelyek számára a legfontosabbak...
📱 Érdemes észrevenni, hogy a Google egyre gördülékenyebb élményt kínál azoknak, akik gyorsan, akadályok nélkül szeretnének adatokat megosztani telefonjukról...
🚨 Fontos kérdés, hogy mennyire könnyen válhatnak hétköznapi otthoni eszközök – mint az okostelevíziók vagy a streamingboxok – hackerek hálózatának részévé...
💥 Erre utal többek között az, hogy amerikai kutatók forradalmi, kompakt nukleáris akkumulátorokon dolgoznak, amelyek több évtizedig képesek folyamatosan áramot biztosítani...
🔥 Az Egyesült Államokban a házakat, iskolákat és kórházakat úgy tervezték a légkondicionálásra, hogy szinte semmilyen természetes védelem nincs beépítve a hő ellen...
Az elmúlt hét igazán kedvezően alakult a kriptopiac számára – a Bitcoin újra stabilizálódni látszik, miután az Egyesült Államok vártnál gyengébb munkaerőpiaci adatai visszavetették a kamatemelési várakozásokat...
Egy chilei hegytetőn végre elindult minden idők legnagyobb digitális kamerája, hogy egy évtizeden át minden éjjel rögzítse a déli égbolt dinamikus történéseit...
Az Egyesült Államokban 2025-ben rekord alacsony szintre csökkent a lakosság halálozási aránya, mivel minden korosztályban javultak az életkilátások, és drámaian visszaestek a túladagolásos halálesetek is...
Amerikában elfogadják a Függetlenségi nyilatkozatot, megkezdődik a történelem legnagyobb páncéloscsatája Kurszknál, és a brit Parlament elé kerül India és Pakisztán függetlenségének terve...
⚠ Az európai döntéshozók egyre nagyobb dilemmával néznek szembe: miként támogassák a mesterséges intelligencia gyors terjedését anélkül, hogy veszélybe sodornák a pénzügyi piacok stabilitását?..
