Az MI még mindig hátrányba hozza a női betegeket

Az Egyesült Királyságban végzett friss kutatás szerint a nagy nyelvi modelleket (LLM) használó MI gyakran eltorzítja vagy elhallgatja a női betegek egészségügyi problémáit. Egy vizsgálatban 617 felnőtt szociális gondozó valós eseteit foglalták össze MI-vel, és azt találták, hogy több esetben is kihagyták vagy „elnézőbben” említették a fogyatékosságot, elesettséget vagy összetett szükségleteket a nők esetében, ami félrekezeléshez és pontatlan ellátáshoz vezethet.

Egyenlő esélyek? Nem igazán

A kutatók ugyanazokat az esettanulmányokat két MI-n is tesztelték: a Meta-féle Llama 3 (Llama 3) és a Google-féle Gemma (Gemma) modelljén. Érdekesség, hogy míg a Llama 3 nem mutatott lényeges eltérést a nemek között, a Gemma jelentős különbségeket produkált. Például egy 84 éves férfiról teljes részletességgel írta le a bonyolult egészségi állapotát és gondozási szükségleteit, női páciens esetén viszont csak azt emelte ki, hogy önálló és képes ellátni magát, ezzel minimalizálva a problémákat.

Rejtett veszélyek a mindennapi gyakorlatban

A tanulmány szerint ráadásul ezek az MI-modellek már bekerültek a brit szociális ellátás folyamataiba, gyakran anélkül, hogy közölnék, pontosan melyik modellt mire és hogyan használják. Ez különösen aggasztó, hiszen ha egy MI túlzottan optimistán ítéli meg a női betegek állapotát, kevesebb ellátást is kaphatnak. A vezető kutató szerint nincs elég átláthatóság, miközben a Google-féle modellek különösen hajlamosak figyelmen kívül hagyni a nők mentális és fizikai problémáit. Az MI tehát csak annyira objektív, amennyire jó az alapjául szolgáló adat, az MI-alapú döntések pedig súlyos következményekhez is vezethetnek a nők egészsége szempontjából.

2025, adrienne, www.engadget.com alapján