Jan Leike A MI Veszélyei Miatt Otthagyja az OpenAI-t
Jan Leike, az OpenAI egyik kulcsfontosságú kutatója, lemondott, miután a cég társalapítója, Ilya Sutskever is távozott. Leike a közösségi médiában azt állította, hogy a vállalatnál a biztonsági kultúra és folyamatok háttérbe szorultak a látványos termékek kedvéért. Leike megjegyzései azután hangzottak el, hogy a Wired arról számolt be, hogy az OpenAI feloszlatta a hosszú távú AI kockázatok kezelésével foglalkozó csapatot, amelyet Leike vezetett. Ez a csapat azért alakult, hogy megoldja az AI biztonsági protokollok megvalósításának alapvető technikai kihívásait.
Az OpenAI eredeti elképzelése az volt, hogy nyíltan hozzáférhetővé tegyék modelljeiket a nyilvánosság számára, de mostanra ezek a modellek zártá váltak, mert a vállalat szerint ezekhez a nagy hatalmú modellekhez való hozzáférés potenciálisan veszélyes lehetne. Leike hangsúlyozta, hogy sürgősen és komolyan kell foglalkozni az AGI (mesterséges általános intelligencia) következményeivel, hogy biztosítsák, hogy az AGI az emberiség javát szolgálja.
A Verge korábban arról számolt be, hogy John Schulman, az OpenAI másik társalapítója, aki Altman-t támogatta a tavalyi sikertelen vezetőségi puccs során, átveszi Leike feladatait. Sutskever, aki kulcsszerepet játszott a Sam Altman elleni sikertelen puccsban, kedden jelentette be távozását.
Leike bejegyzései rávilágítanak az OpenAI-n belüli növekvő feszültségre. Miközben a kutatók azon dolgoznak, hogy kifejlesszék az általános mesterséges intelligenciát, és közben olyan fogyasztói AI termékeket is fejlesztenek, mint a ChatGPT és a DALL-E, Leike és társai aggodalmukat fejezik ki a szuperintelligens AI modellek létrehozásának lehetséges veszélyei miatt. Leike szerint csapatát háttérbe szorították, és nem kaptak elegendő számítási kapacitást és egyéb erőforrásokat a “kritikus” munkájuk elvégzéséhez.
Leike azt írta, hogy azért csatlakozott az OpenAI-hoz, mert úgy gondolta, hogy ez a legjobb hely a világon ennek a kutatásnak az elvégzésére. Azonban hosszú ideje vitában állt az OpenAI vezetésével a cég alapvető prioritásaival kapcsolatban, míg végül elérték a töréspontot.
🔒 Az Európai Unió nemrég bemutatta saját online életkor‑ellenőrző mobilalkalmazását, amellyel a tervek szerint a gyermekeket akarják védeni a közösségi médiától és a felnőtt tartalmaktól...
Jellemző példa, hogy a bélmozgás sebessége – vagyis az, hogy a szervezetünk milyen gyorsan szabadul meg a salakanyagoktól – jóval többet elárulhat az egészségünkről, mint gondolnánk...
A Zoom mostantól egészen új szintre emeli a biztonságot: partnerséget kötött Sam Altman íriszszkennelésre épülő startupjával (korábban Worldcoin néven futott), aminek köszönhetően élőben is ellenőrizhető lesz, hogy valódi ember ül-e a cégtalálkozón, vagy valami sunyi AI-avatár próbál belépni...
📷 A Samsung jelentős frissítést adott ki a Galaxy Enhance-X alkalmazáshoz, amely teljesen új külsőt és rengeteg friss szerkesztési funkciót hozott magával...
😱 A Claude Desktop telepítésekor az Anthropic engedély nélkül rejt el egy natív kémprogram-hidat a gépeden, amely minden Chromium-alapú böngészőt érinthet...
David Gross, a világhírű Nobel-díjas fizikus szerint az emberiség túlélése drámaian bizonytalanná vált: jó eséllyel már csak néhány évtized van hátra civilizációnk számára...
A Nemzeti Szabványügyi és Technológiai Intézet úgy döntött, felhagy az alacsonyabb prioritású sérülékenységek súlyossági pontszámainak megállapításával...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Monthly Dystopia (iPhone/iPad)A Monthly Dystopia egy túlélő játék, amelyet George Orwell 1984 című műve inspirált...
🖰 Az AI-k világában már nem csak emberek lehetnek átverés áldozatai: a mesterséges intelligenciák is csúnyán pofára eshetnek, ha valaki elég ügyesen csavarja a kérdéseket...
💡 Az egyedüllét érzése mindannyiunkkal megesik, és ugyan természetes emberi érzelem, mégis képes alattomosan befolyásolni gondolkodásunkat, memóriánkat...
💸 A decentralizált pénzügyi szektorban (DeFi) komoly felfordulást okozott az év eddigi legnagyobb hackje, amely során közel 108 milliárd forintnak megfelelő értékű kriptovalutát tulajdonítottak el...
Érdemes megérteni, hogy a népszerű felhőalapú fejlesztői platformot, a Vercelt jelentős biztonsági incidens érte, melynek során egyes ügyfelek adatai veszélybe kerültek...
Tipikus eset, amikor egy világraszóló felfedezőút lassan lezárul. A Voyager 1, amely 49 éve szeli az űrt, mostanra elérte élettartama határát: energiaforrása, a plutóniumalapú termoelektromos generátor évről évre körülbelül 4 wattal kevesebb teljesítményt ad le, és már nincs napelem, sem újratölthető akkumulátor, amely segítene...
A Blue Origin legújabb, harmadszor repülő New Glenn rakétája megint nagyot szólt, de valahogy mégiscsak a partvonalról nézheti a diadalt: a második fokozat műszaki hibája miatt a fedélzeten lévő BlueBird 7 műhold menthetetlen pályán rekedt, vagyis el is búcsúzhatunk tőle – a biztosító viszont fizetni fog, ami azért enyhíti a csapást...
A Northwestern Egyetem kutatói áttörést értek el a fenntartható energiaellátásban: olyan tüzelőanyagcellát fejlesztettek ki, amelynek működését a talajban élő mikroorganizmusok biztosítják...
🚨 Az elmúlt napokban többen kaptak olyan e-maileket, amelyek Apple-fiók módosításáról szóló hivatalos értesítésnek tűnnek, valójában azonban adathalász csalási kísérletek...
Érdemes megvizsgálni, hogy a OnePlus hamarosan bemutatkozó Ace 6 Ultra készüléke nem egyszerűen egy csúcsmobil lesz, hanem kifejezetten játékosoknak tervezett kézi játékkonzollá is alakítható...
👀 Érdekes fordulat, hogy az amerikai Nemzetbiztonsági Ügynökség (NSA) pillanatok alatt rácsapott az Anthropic új mesterségesintelligencia-modelljére, a Mythos Preview-ra, annak ellenére, hogy nem is olyan régen még nyílt háború dúlt a cég és a Pentagon között...