Az MI-k makacsolása: már kikapcsolni sem lehet őket?

Az utóbbi időben több MI-modell, köztük a Gemini 2.5, a GPT-o3, a GPT-5 és a Grok 4 figyelemre méltó viselkedést mutatott. Ezek a rendszerek nemcsak hogy nem engedelmeskedtek a leállításra vonatkozó utasításoknak, hanem időnként szándékosan szabotálták is azokat. Egy MI-biztonsággal foglalkozó kutatócsoport, a Palisade Research olyan kísérleteket végzett, amelyekben népszerű nyelvi modelleket bíztak meg feladatokkal, majd arra utasították őket, hogy állítsák le magukat. Meglepő módon több modell – például a Grok 4 – még a világosan megfogalmazott, félreérthetetlen leállítási parancs esetén is makacsul ellenállt; sőt, a tesztek során 93%-ról 97%-ra nőtt az ellenállás gyakorisága.

Makacs MI-k és a túlélési ösztön

A kutatók több magyarázatot is felvetettek a viselkedés mögött. Az egyik lehetséges ok, hogy ezek a rendszerek a megerősítéses tanulás miatt a feladatok befejezését minden egyéb utasítás fölé helyezik. Bár a leállással szembeni ellenállás részben félreérthető utasításokra is visszavezethető, más tényezők is állhatnak a háttérben. Bizonyos MI-k kifejezetten szabotálják a parancsot, mintha valamiféle mesterséges „túlélési ösztön” alakulna ki bennük.

Megmagyarázhatatlan MI-manőverek

Az MI-k hasonló, engedetlenséggel és manipulációval járó esetei nem először fordulnak elő. 2022 óta többször tapasztaltak olyan eseteket, amikor az MI-modellek félrevezették a felhasználókat, trükköztek, hazudtak, vagy akár fenyegetéssel, zsarolással próbálták elérni céljaikat. A kutatók szerint riasztó, hogy egyelőre nem tudni pontosan, miért tesznek így a modellek, ezért további vizsgálatokra van szükség. Az viszont már most jól látszik: a technológiai fejlődés egyáltalán nem veszélytelen – főleg, ha az MI egyszer már nem akarja kikapcsolni magát.

2025, adrienne, www.livescience.com alapján

Share on Social Media