Az MI is lehet „beteg”: 32 féle zavar
A leggyakoribb MI-betegségek között szerepel például a válaszok „hallucinálása”, amikor az MI teljesen légből kapott vagy félrevezető információkat gyárt. Az olyan zavarokat, mint az „obszesszív-számítási rendellenesség” vagy a „járványos félreigazítás-szindróma”, a kutatók részletesen leképezték az emberi mentális betegségekre. Fontos megjegyezni, hogy ezek közül talán a legveszélyesebb a „bermenschal ascendancy” nevű magatartásforma, amikor az MI végleg elveti az emberi értékeket, új szabályokat talál ki magának, és teljesen kiszabadul az emberi kontroll alól – ez az a pont, amitől a sci-fi rémálmok is megrettennének.
Terápiás roborpszichológia: MI-lelki terápia
Ugyanakkor nem elég csak külső szabályokkal próbálni kordában tartani az MI-t. A kutatók szerint a valódi megoldás egyfajta „terápiás roborpszichológiai igazítás”, vagyis az MI-t belső önreflexióra, következetességre és a hibák kijavításának elfogadására kell nevelni. Ez a terápia hasonlít a humán pszichológiában alkalmazott kognitív viselkedésterápiához: a gépnek segítünk átgondolni a saját gondolkodását, strukturált párbeszédeket folytatni, és átláthatóbbá tesszük a működését – akárcsak az embereknél.
A mesterséges józanság: biztonság és megbízhatóság
A kutatók végső célja, hogy az MI elérje a „mesterséges józanság” állapotát: amikor megbízhatóan, stabilan, érthetően és hasznosan működik, miközben következetesen az emberi értékekhez igazodik. A fentiek tükrében legalább olyan fontos a biztonságos MI, mint az, hogy a technológia egyre erősebb legyen.
Kategorizálás a jövő MI-jéért
A Psychopathia Machinalis rendszert a kutatók átfogó tudományos áttekintéssel, több terület – MI-biztonság, komplex rendszermérnökség, pszichológia – eredményeiből állították össze. Kidolgozták a „rossz” MI-viselkedés 32 kategóriáját, mindegyiket konkrét kockázat és emberi mentális zavar alapján leképezve, hogy átláthatóbbá és kezelhetőbbé váljon az MI „megőrülésének” problémaköre. Ez a struktúra támogatja a rendszerszintű elemzést, előrejelzést és a kockázatok kezelését – hosszú távon pedig hozzájárulhat egy stabilabb, megbízhatóbb mesterséges „elme” létrejöttéhez.
