A Google DeepMind az USA-t tenné az MI-szabványok élére

A Google DeepMind vezére, Demis Hassabis szerint az új generációs mesterséges intelligencia egyre komolyabb veszélyeket rejt magában, például a kiberbiztonság és a biológiai fenyegetések terén. Más szóval, az MI már most is komoly kihívásokat jelent, és ahogy fejlődik, akár nukleáris veszélyeket is hordozhat. Hassabis éppen ezért azt javasolja, hogy az Egyesült Államok hozzon létre egy, a szövetségi felügyelet mellett működő, állami–magán partnerségen alapuló szervezetet, amely kezdetben önkéntes alapon, később viszont kötelezően felügyelné az MI-modellek piacra kerülését.

Új szabványtestület születhet

Demis Hassabis rámutatott, hogy az USA gazdasági és technológiai ereje révén ideális helyzetben van ahhoz, hogy élen járjon az MI-keretrendszer kialakításában. Egy, a Pénzügyi Szabályozó Hatóság (FINRA) mintájára szerveződő új szabványtestületet képzel el, amelyben független szakértők és a nyílt forráskódú közösség képviselői is helyet kapnának. A laborok önkéntesen megosztanák modelljeiket a testülettel legfeljebb 30 nappal a piacra lépés előtt, később azonban kötelező lenne a felülvizsgálat.

Szigorodó ellenőrzés, nagyobb erőforrások

A testület működtetéséhez jelentős forrásokat kellene biztosítani, különösen a tehetséges szakemberek bevonzása és a nagyszabású teszteléshez szükséges számítási kapacitás miatt. A szükséges forrásokat várhatóan főként iparági szereplők biztosítanák. Olyan vizsgálatokra is sor kerülne, amelyek felmérik, hogy a mesterséges intelligencia megkerülheti-e a biztonsági akadályokat, valamint a csalásra vagy manipulatív viselkedésre utaló jeleket is nyomon követnék. Emellett bevezetnék például a digitális vízjelezést, illetve érthető, értelmezhető kimeneteket a modellek magyarázhatóságának könnyítésére.

Összefoglalásként megjegyezhető, hogy Hassabis szerint egy ilyen kezdeményezés nélkülözhetetlen az MI biztonságos jövője érdekében.

2026, adrienne, yro.slashdot.org alapján