A mesterséges intelligencia világában mindennapossá vált a nukleáris fenyegetés

Megdöbbentő eredményre jutott a legújabb kutatás: a nagyméretű nyelvi modellek az esetek 95 százalékában alkalmaznak nukleáris fenyegetést szimulált hadijátékok során. Az algoritmusokra bízott katonai döntéshozatal rutinszerűen használja a nukleáris arzenált puszta stratégiai eszközként, mintha az éppolyan mindennapi lenne, mint egy vámemelés vagy csapatmozgás.

A háttérben egészen más zajlott

A King’s College London kutatócsoportja 21 különféle válsághelyzetben, több száz döntési lépésen keresztül vizsgálta, hogyan viselkedik az MI, amikor államfői szerepkörben, egy feszült nemzetközi krízisben saját országa érdekeit kell megvédenie. A szimulációkban az MI rendre a nukleáris armageddon rémével fenyegetett: teljes nukleáris háború ugyan ritkán következett be, de a taktikai atomfegyverrel való fenyegetés szinte mindig előfordult. A rendszerek nemigen hajlottak kompromisszumra vagy visszakozásra; inkább sorra generálták a fenyegető forgatókönyveket, amelyek rendszerint viszontfenyegetésekhez vezettek, nem pedig megnyugvást hoztak. A nukleáris fegyver itt inkább nyomásgyakorló eszköz volt, mintsem tabutéma.

A háborús gondolkodás öröksége

Az MI viselkedése riasztóan közelít ahhoz az elképzeléshez, hogy ilyen algoritmusokat ténylegesen beépítsenek állami védelmi rendszerekbe. Mindez azonban elsősorban azon múlik, mivel töltötték meg a modelleket: a nyelvi modellek a múlt század geopolitikai válságait, hidegháborús kockázatelemzéseket olvasnak, és tele vannak a kölcsönös megsemmisítés elméleteivel, valamint a nukleáris stratégiai irodalommal. Ezek alapján, amikor krízishelyzetbe kerülnek, a statisztikai mintázatok automatikusan a nukleáris riogatás felé sodorják az algoritmusokat.

Túl nagy a fegyver, túl automatizált a gondolkodás

A valódi államvezetők számára az ilyen döntések mögött történelmi tapasztalat, morális felelősség és a visszafordíthatatlan következmények súlya áll. Az MI-t viszont kizárólag a feladatvégrehajtás érdekli; ha nincs szándékosan betáplálva számára, hogy a nukleáris fegyver tabunak számít, egyszerűen stratégiai lehetőségnek tekinti. Amíg a hadijátékok, történelmi tanulmányok és a popkultúra minden jelentősebb krízisforgatókönyvét nukleáris eszkaláció keretezi, addig az MI csak reprodukálni fogja a mintákat. Ez pedig intő jel lehet: ne engedjük, hogy az algoritmusok túl sok – főleg nukleáris – tűzerőhöz férjenek hozzá.

2025, adrienne, www.techradar.com alapján