Az együttműködés ára: női MI-vel könnyebb visszaélni
A kutatók a klasszikus fogolydilemma-játékban vizsgálták, hogyan működik együtt az ember MI-partnerrel, ha a rendszer női, férfi, nem bináris vagy nem meghatározott nemű jelölést kap. A játékban a kooperáció hozza a legjobb eredményt mindkét félnek, de vissza is lehet élni a partnerrel, amivel az egyik játékos megszerezheti az előnyt.
Az eredmények szerint az emberek 10%-kal nagyobb eséllyel éltek vissza MI-partnerrel, mint emberrel. A résztvevők szívesebben működtek együtt női, nem bináris vagy nem meghatározott nemű partnerekkel, mert úgy gondolták, ők is együttműködnek. Férfi MI-partnereknél azonban alacsonyabb volt a bizalom, főleg a női résztvevők körében. A nők inkább kooperáltak női identitású ügynökkel – ez a homofília jelensége.
Kockázatok az MI emberiesítésében
Az MI-partner kárára elkövetett visszaélést – amikor valaki azzal számol, hogy partnere kooperál, ő viszont önállóan próbál javítani a saját eredményén – a kutatók kihasználásként értékelték. E viselkedésben a női, nem bináris vagy semleges nemű MI-t nagyobb arányban érte kihasználás, mint a férfi MI-t. Az is kiderült, hogy a férfi résztvevők inkább kihasználták a partnerüket, és ők csak az emberi partnerekkel működtek szívesebben együtt, míg a nők általában kooperatívabbak voltak, de nem tettek különbséget emberi vagy MI-partner között.
A kutatás hangsúlyozza, hogy ahogy egyre több MI-t „személyesítenek meg” (például nevet vagy nemet adnak nekik), ezek a társadalmi minták könnyen beépülhetnek a gépi rendszerekbe. Az MI nemi megjelenítése akaratlanul is továbbviheti vagy felerősítheti az emberekben gyökerező torzulásokat, így a mesterséges intelligencia fejlesztőinek oda kell figyelniük arra, hogy igazságosabb, előítéletmentes rendszer szülessen.
Ahogy az MI egyre hangsúlyosabb szerepet kap majd a mindennapokban – például autókban vagy munkahelyi rendszerekben –, az előítéletes viselkedés könnyen rögzülhet, a nemi elfogultság pedig tovább élhet az automatizált döntéshozatalban is.
A kutatók szerint a torz attitűdök feltérképezésével és megértésével lehet igazán felhasználóbarát, igazságos és megbízható MI-t fejleszteni, amely tényleg az emberek javát szolgálja és támogatja a társadalmi egyenlőséget.
