Az MI még emberségesebb lehetne – ha képes lenne bűntudatra?

Egy skót kutatócsoport izgalmas kísérletet végzett: egyszerű MI-ügynökökben (gondoljunk A Sims szereplőire – csak sokkal butább változatokra) programoztak bűntudatot. Az ötlet onnan származott, hogy az emberek hibázás után hajlamosak bizonyos fokú önbüntetésre – például azért, hogy a többiek lássák, többé nem követnek el ilyen hibát. A kérdés az volt, hogy az ilyen „bűntudatos” MI-k hosszabb távon életképesebbek-e, vagy kiszorulnak azok mellett, amelyekből hiányzik ez az emberi érzelem.

Bűntudat mint stratégia

A kutatók úgy programozták a MI-ügynököket, hogy csak akkor veszítsenek pontot bűntudat miatt, ha látták: miután ők ártottak a partnerüknek, a másik is vállal valamilyen önbüntetést. Ez volt az a stratégia, amely végül a legtöbb együttműködést hozta az egyszerű MI-rendszerek között, vagyis sikeresebb lett, mint azok, amelyekből hiányzott a bűntudat érzése.

Emberibb MI a jövőben?

Egy ausztrál játékelmélet-szakértő szerint persze nehéz az ilyen szimulációkat a valóságra vetíteni, mert rengeteg előfeltevés rejlik bennük. De az eredmény arra utal: fejlődő MI-populációk képesek lehetnek a rideg logikától eljutni ahhoz az emberi melegséghez, amit egyelőre csak mi értünk igazán.

2025, adrienne, slashdot.org alapján