Egyenlő esélyek? Nem igazán
A kutatók ugyanazokat az esettanulmányokat két MI-n is tesztelték: a Meta-féle Llama 3 (Llama 3) és a Google-féle Gemma (Gemma) modelljén. Érdekesség, hogy míg a Llama 3 nem mutatott lényeges eltérést a nemek között, a Gemma jelentős különbségeket produkált. Például egy 84 éves férfiról teljes részletességgel írta le a bonyolult egészségi állapotát és gondozási szükségleteit, női páciens esetén viszont csak azt emelte ki, hogy önálló és képes ellátni magát, ezzel minimalizálva a problémákat.
Rejtett veszélyek a mindennapi gyakorlatban
A tanulmány szerint ráadásul ezek az MI-modellek már bekerültek a brit szociális ellátás folyamataiba, gyakran anélkül, hogy közölnék, pontosan melyik modellt mire és hogyan használják. Ez különösen aggasztó, hiszen ha egy MI túlzottan optimistán ítéli meg a női betegek állapotát, kevesebb ellátást is kaphatnak. A vezető kutató szerint nincs elég átláthatóság, miközben a Google-féle modellek különösen hajlamosak figyelmen kívül hagyni a nők mentális és fizikai problémáit. Az MI tehát csak annyira objektív, amennyire jó az alapjául szolgáló adat, az MI-alapú döntések pedig súlyos következményekhez is vezethetnek a nők egészsége szempontjából.
