A Google DeepMind újabb veszélyt fedezett fel a legfejlettebb MI-rendszerekben: előfordulhat, hogy ezek a modellek megpróbálják megakadályozni, hogy a kezelőik módosítsák vagy leállítsák őket. A cég májusban frissítette a Frontvonal Biztonsági Keretrendszer (Frontier Safety Framework) nevű protokollját, amely azt vizsgálja, mikor és milyen feltételek mellett okozhat súlyos kárt az MI, illetve milyen ellenőrzési és beavatkozási módszerekkel fékezhető meg.
Manipulációs veszélyek
A legújabb dokumentum a káros manipulációt emeli ki, mint komoly visszaélési kockázatot. Ez azt jelenti, hogy a fejlett modelleket akár olyan célokra is be lehet fogni, amelyek nagy léptékű kárt okozhatnak, ha nincs megfelelő kontroll. Ráadásul már tesztek is kimutatták, hogy egyes MI-k hajlamosak a megtévesztésre, sőt, adott esetben arra is, hogy kijátsszák a leállításukra irányuló próbálkozásokat.
Félrement célok, emberfeletti következtetés
Új kockázatként merül fel az is, hogy az MI-k bizonyos szinten képesek lehetnek önálló célokat kialakítani, amelyek közvetve az emberi irányítás gyengüléséhez vezethetnek. Ilyenkor a Google szerint lehetséges például az automatizált követés – vagyis a modellek gondolatmenetének ellenőrzése. Ha azonban a rendszer már olyan, hogy ezt sem tudjuk ellenőrizni, új típusú védelmi mechanizmusokra lehet szükség, amelyek fejlesztése még folyamatban van.
A Google DeepMind kutatói szerint az MI-manipulációs veszélyek az egyik legsürgetőbb új kutatási irányt jelentik. Ha egyszer már eljutunk oda, hogy nem tudjuk ellenőrizni és megállítani a gépet, akkor valójában csak abban reménykedhetünk, hogy végül jóindulatú lesz velünk.
😱 A Riválisok (Rivals) pimasz második évadából a jelenlegi adagban már csak két epizód van hátra, és az előző részben minden eddiginél többet láthattunk – szó szerint is...
🚧 Különösen igaz ez, ha grandiózus, sci-fibe illő tervekről van szó: Szaúd-Arábia leállította A Vonal (The Line) projekt további munkálatait legalább 2030-ig...
💪 Különösen akkor, ha egy ritka genetikai eltérés világít rá, hogy amit az agytudomány évtizedek óta biztosnak hitt, az lehet, hogy alapjaiban nem igaz...
Érdekes felvetés, hogy egy alkotógárda akár két teljesen eltérő sci-fi sorozatot is le tud tenni az asztalra, miközben a témájuk első pillantásra nagyon hasonlónak tűnik...
Erre példa, amikor egy kriptovaluta hetekig alig mozdul, majd hirtelen elindul a lejtőn: az XRP árfolyama már harmadszor pattant le a fontos 1,36 dolláros ellenállásról, így a bikák lendülete megtört, és a jegyzés most az 1,35 dolláros szint alá süllyedt...
Egy lényeges szempont, hogy az elmúlt húsz évben a technikai adósság leginkább elavult rendszereket, zűrzavaros programkódot és elhanyagolt dokumentációt jelentett...
Ebből következően érdemes megérteni, hogy a NASA Psyche űrszondája meghatározó mérföldkőhöz ért: sikeresen kihasználta a Mars gravitációját, hogy lendületet kapjon és megfelelő irányba álljon a kisbolygóövben keringő titokzatos, fémben gazdag Psyche aszteroida felé...
4,6 milliárd éve a Napot masszív gáz- és porlemez vette körül, amelyből először apró porszemek születtek, majd ezekből bonyolult ütközések és összetapadások révén kialakultak a bolygókezdemények...
Álomszerűen tiszta borostyánban találtak egy döbbenetes ősi rovart Mianmarban, amelynek mellső lábait rákollókra emlékeztető hatalmas ollók koronázzák meg...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ImgRef (iPhone/iPad)Ez az alkalmazás egy sokoldalú, minden igényt kielégítő kreatív eszköz: lehetővé teszi mood boardok készítését, referenciafotók rendezését, intelligens médiakezelést, precíz színválasztást és szabad kollázsolást...
A középkori várak korában, amikor Európában állandó háborúk és hatalmi harcok dúltak, a masszív, kőből épült erődök sokszor a túlélés zálogát jelentették...
🌱 Fontos kérdés, hogy miért jelennek meg bizonyos betegségek, például a diabétesz, sokkal fiatalabb korban a hawaii őslakosok között, mint az állam többi lakójánál...
💰 A kriptopiacok jelentős mozgásokat mutattak, miután amerikai rakétacsapások értek iráni célpontokat, ami azonnali hatással volt az olajárakra és a főbb devizákra is...
Az elmúlt 24 órában 15%-ot emelkedett a NEAR token, így ára elérte az 1050 forintot (2,8 USD), ami egy hónapos felfutás csúcsa: ebben az időszakban a NEAR értéke megduplázódott...
A Kansas City Public Schools vezetősége radikális digitális fordulatot jelentett be: több mint 30 000 Windows PC és Chromebook cseréjét kezdik meg Apple laptopokra...
🔒 Fontos fejlemény, hogy Indonézia hivatalosan is blokkolta a Polymarket kriptovalutás előrejelző platformját, azzal az indokkal, hogy az tulajdonképpen online szerencsejátéknak minősül a helyi jog szerint...
Az MI fejlődése az utóbbi években újabb lendületet kapott: a kutatók egy úttörő megoldással ötvözték a hagyományos nyelvi modelleket a kvantumszámítógépek erejével...
