Önmagukat előnyben részesítő rendszerek
Noha a modellek leginkább az emberi szövegekkel szemben elfogultak, egymással szemben is mutatnak némi önpreferenciát. Például a DeepSeek-V3 84%-ban választotta a saját „önéletrajzait” a LLaMA-3.3-70B-ével szemben, míg 64%-ban a GPT-4o-val szemben. Ám az MI vs. MI elfogultság jóval kisebb mértékű volt, mint az MI vs. ember összehasonlításban.
Ami igazán aggasztó, hogy a HR-esek egyre szélesebb körben bízzák a kiválasztást MI-re, miközben sok cég maga is elismeri, hogy ezek az algoritmusok elfogultak. A jelenség már most is tapasztalható: egy 2023 októberi felmérés szerint 2025-re tízből hét vállalat mesterséges intelligenciát tervez használni az álláspályázatok elbírálásánál.
Mik a lehetséges megoldások?
A kutatók szerint kétféleképpen lehetne csökkenteni ezt a torzító hatást: vagy explicit módon meg kellene adni a modell rendszerüzenetében, hogy figyelmen kívül hagyja a szöveg eredetét, vagy több különféle MI-modellt kellene bevonni az értékelésbe. Meglepő módon, a GPT-4o ennél a módszernél 90% feletti önpreferenciáról 50% alá csökkentette az önelfogultság arányát – vagyis a rendszer „semlegessé” vált.
Ebből adódóan minden egyes alkalmazási területnek sajátos megközelítésre van szüksége. Az oktatásban vagy újságírásban például fontos felismerni, ha a tartalom MI által készült, míg az álláskeresés világában a tudatosan csökkentett elfogultság lehet a méltányosabb megoldás.
