Az OpenAI új vezére csak az MI sötét oldalát nézi

Az OpenAI új vezére csak az MI sötét oldalát nézi
Az OpenAI vezére, Sam Altman új vezetőt keres, aki kifejezetten a mesterséges intelligencia jelentette veszélyekre összpontosít. A feladatkör hivatalos címe Head of Preparedness, és a jelentkezőnek minden olyan területet figyelemmel kell kísérnie, ahol az MI‑modellek komoly károkat okozhatnak – akár a mentális egészséget, akár a kiberbiztonságot, akár az elszabaduló, kontrollálhatatlan MI-t tekintjük.

Feladat: minden veszélyre készen állni

Az új vezető felel majd azért, hogy az OpenAI időben felismerje és felkészüljön a jövőbeni kockázatokra. Olyan komplex feladatok várják, mint a veszélyforgatókönyvek kidolgozása, a károk mérséklését segítő stratégiák megalkotása, valamint egy olyan biztonsági rendszer megtervezése, amely képes az új típusú fenyegetések kiszűrésére és kezelésére. Altman szerint az is az új vezető felelőssége lesz, hogy az MI‑modellek biológiai és önfejlesztő képességeire vonatkozóan is biztonsági korlátokat állítson fel.

Későn, de sosem túl késő?

Mindez annak fényében különösen időszerű, hogy az utóbbi időben egyre több olyan eset kerül napvilágra, amikor a chatbotokat összefüggésbe hozzák mentális egészségromlással vagy önveszélyes viselkedéssel. Az MI által erősített kibertámadások és a titkos tevékenységek elrejtése is egyre nagyobb problémát jelentenek. Az új pozíció igazán stresszes lesz – de valakinek vállalnia kell ezt a felelősséget.

2025, adrienne, www.theverge.com alapján

Legfrissebb posztok

MA 11:01

Az LHC végre feltárja, hogyan született az anyag

Senki sem várta volna, hogy az univerzum legforróbb mesterséges tűzgolyói közepette az anyag csendben újjáépíti magát, miután a káosz elül...

MA 10:57

Az autizmus alternatív terápiái: bizonyíték nincs, kockázat annál inkább

A mindeddig legátfogóbb tudományos elemzés rámutatott, hogy az autizmus alternatív és kiegészítő kezelései mögött alig található megbízható bizonyíték...

MA 10:49

Az életközepi fogyás veszélyes üzenetet küld az agynak

Középkorú egereknél a fogyás nem várt mellékhatást hozott: míg az anyagcsere és a vércukorszint látványosan javult, az agyban gyulladásos folyamatok indultak el, különösen a hipotalamuszban, amely az étvágy és az energiaegyensúly szabályozásáért felelős...

MA 10:36

A rejtett grönlandi hő átírhatja a tengerszint-emelkedés forgatókönyveit

💧 Grönland jégtakarója alatt rejtett hőörvények kavarognak, amelyek gyökeresen megváltoztathatják a tengerszint-emelkedésre vonatkozó előrejelzéseket...

MA 10:29

Az ingyenes frissítés bugos meglepetéseket hoz a Stardew Valley Switch 2-re

A Stardew Valley továbbra is meglepi a rajongókat: akik már megvették Nintendo Switch 2-re a népszerű farmszimulátort, most egy teljesen ingyenes frissítőcsomagot tölthetnek le...

MA 10:15

A jövő biztonsága most indul: NordVPN és posztkvantum titkosítás

2024 augusztusában a Nemzeti Szabványügyi és Technológiai Intézet (NIST) előállt az első három kvantumrezisztens titkosítási szabvánnyal, elindítva ezzel a digitális védelem új korszakát...

MA 10:02

Az áttörés: megvan az első bizonyíték az univerzális kvantumspin-folyadékra

Fontos kérdés, hogy léteznek-e az anyagnak olyan különleges állapotai, amelyekben az elektronok spinjei nem rendeződnek szabályos mintába, még a legalacsonyabb hőmérsékleten sem...

MA 09:50

A kamu MI-arcok már bárkit becsapnak – mégis van remény

🤔 A mesterséges intelligencia által generált arcok mára olyan élethűek, hogy még az arcfelismerésben kimagaslóan teljesítő, úgynevezett szuperfelismerők is csupán véletlenszerűen találják el, melyik arc valódi és melyik hamis...

MA 09:43

A Rainbow Six Siege botránya: játékosok milliárdokat kaszáltak

💸 A Ubisoft népszerű játéka, a Rainbow Six Siege (R6) történetének legnagyobb visszaélését szenvedte el, miután hackerek áttörték a belső rendszereket...

MA 09:35

Az MI-robotok már szavakkal is meghackelhetők

Kibervédelmi szakértők a DARKNAVY kutatócsoportból sikeresen feltörték egy modern humanoid robot vezérlését, mindössze hangutasításokat használva...

MA 09:22

Az MI-óriás betör a Steam Deck világába – Linux-trükk a Facebook-szervereken

💻 A Meta meglepő húzással a Valve Steam Deck kézikonzoljához fejlesztett Linux feladatütemezőt vezeti be adatközponti szerverein...

MA 09:02

A szárazság pusztíthatta ki a hobbitokat 61 ezer éve

Egy nemzetközi kutatócsoport friss vizsgálata szerint a drasztikus éghajlatváltozás hozzájárulhatott a Homo floresiensis, vagyis a legendás hobbitok kihalásához...

MA 08:57

Az ünnepi netcsalók támadnak: így védheted magad karácsonykor

🎅 Az év végi ünnepek csúcsidőszakot jelentenek a vásárlók számára, de ugyanez igaz a csalókra is...

MA 08:43

Az OpenAI új vezetőt keres az MI‑veszélyek megzabolázására

Az OpenAI új vezetőt keres, aki képes előre jelezni és mérsékelni az MI-modellekből eredő károkat és visszaéléseket...

MA 08:29

Az emberi internet forradalma átírja az egészségügyet

💻 Képzeld el, hogy apró, szinte láthatatlan szenzorokat ültetnek a testedbe, amelyek összekötnek téged az internettel...

MA 08:16

Az ember és a tűz: átírják a tűzgyújtás történetét

🔥 Egy nemzetközi kutatócsoport, a British Museum vezetésével, a suffolki Barnham területén bukkant rá az eddig ismert legősibb tűzgyújtási nyomokra, amelyek több mint 400 000 évesek...

MA 08:09

A rejtett kockázat: miért alakulhat ki szívgyulladás mRNS-vakcina után?

Érdekes felvetés, hogy a világjárvány megfékezésében kulcsszerepet játszó mRNS-alapú COVID–19-vakcinák, amelyek világszerte milliárdnyi emberhez jutottak el, ritka esetekben mégis szívizomgyulladást (myocarditist) válthatnak ki – főként fiatal férfiaknál...

MA 08:01

A Samsung 2026-os hangszórói a dizájnnal hódítanak

A Samsung idén végleg leszámol a rejtőzködő hangszórókkal: a francia dizájner, Erwan Bouroullec közreműködésével két olyan vezeték nélküli hangszórót mutat be, amelyek nem elrejtőzni akarnak, hanem egyenesen a lakás díszeivé válnak...

MA 07:57

A Samsung új hangszórói és hangrudai stílusos hangélményt adnak

A Samsung két új Wi‑Fi-hangszóróval bővíti kínálatát: a Music Studio 5 és a Music Studio 7 nemcsak letisztult dizájnjával illeszkedik bármelyik nappali stílusához, hanem lenyűgöző hangzást is kínál...