A patológia alapjai és az MI új szerepe
A patológia évtizedek óta kulcsfontosságú a rákdiagnosztikában. A szakemberek vékony szövettani metszeteket vizsgálnak mikroszkóp alatt, hogy jeleket keressenek a daganatos elváltozásokra. Ezekből a mintákból eddig csak a betegség típusára és stádiumára lehetett következtetni, a páciens személyazonossága rejtve maradt.
A mesterséges intelligencia megjelenésével azonban megváltozott a helyzet: kiderült, hogy az MI nemcsak a rákot ismeri fel, hanem a páciensek életkorát, nemét és bőrszínét is ki tudja olvasni a mintákból. Ez pedig befolyásolhatja a diagnózisok minőségét – bizonyos csoportokban akár jóval rosszabb pontosságot eredményezve.
Az MI elfogultságának forrásai
Négy népszerű MI-modellt teszteltek, amelyeket húszféle rákos szövettani képen tanítottak. Az eredmények megdöbbentőek voltak: a modellek teljesítménye jelentős mértékben eltért a különböző demográfiai csoportok között. Például afrikai-amerikai pácienseknél és férfiaknál pontatlanabbul azonosította a tüdőrákot, a fiatalabbaknál pedig nehezebben különböztette meg az emlőráktípusokat. Ugyanez igaz volt a veserák, a pajzsmirigyrák és a gyomorrák diagnózisára egyes csoportokban; az esetek 29 százalékában jelentkeztek ilyen különbségek.
A végeredmény mindenkit meglepett: kiderült, hogy az MI a szövetmintákból azonosítja a páciensek életkorát, nemét és bőrszínét, és közvetetten ezek alapján különbséget tesz a diagnózisban is.
Miért alakul ki elfogultság?
Az első probléma a tanító adatok aránytalanságából adódik: bizonyos társadalmi csoportoktól több minta áll rendelkezésre, így az MI ezekben a csoportokban pontosabban dolgozik. A gond azonban mélyebb: egyes daganatok gyakrabban fordulnak elő bizonyos népcsoportoknál, ezért az MI ezekre a csoportokra kihegyezve végzi el a feladatot. Emellett a modellek képesek felismerni molekuláris különbségeket is a páciensek között – például speciális génmutációkat, amelyek egyes népcsoportokban ritkábbak, emiatt náluk gyengébb a pontosság.
Fontos, hogy az MI így olyan különbségekre is figyel, amelyeket az emberi szem nem képes felismerni, de amelyek nem feltétlenül a daganathoz, hanem a páciens hátteréhez kötik a mintákat. Ez óhatatlanul hozzájárul az elfogultsághoz.
FAIR-Path: Az elfogultság csökkentésének új útja
A kutatók kidolgozták a FAIR-Path nevű keretrendszert, amely a mesterséges intelligencia tanítását úgy módosítja, hogy a modellek elsősorban a rák típusai közötti kritikus különbségekre koncentráljanak, a demográfiai jellemzőkre viszont kevésbé figyeljenek. Ez egy meglévő, kontrasztív tanulási módszerre épül.
A tesztelt modelleken a FAIR-Path alkalmazásával a csoportok közötti eltérések 88 százalékkal csökkentek. A kutatók kiemelték, hogy ehhez nem volt szükség tökéletesen kiegyensúlyozott vagy reprezentatív adathalmazokra sem.
Merre tovább?
A fejlesztés bizakodásra ad okot: a kutatók már világszerte egyetemekkel dolgoznak együtt, hogy különböző régiókban és eltérő betegcsoportokon teszteljék az MI-t és a FAIR-Path rendszert. Külön figyelmet fordítanak arra is, hogyan lehet a módszert kisebb adathalmazokra optimalizálni, valamint hogyan befolyásolja összességében az egészségügyi egyenlőtlenségeket.
A végső cél egy olyan MI-rendszer létrehozása, amely gyors, pontos, korrekt és mindenki számára igazságos diagnózist ad – valóban támogatva az orvosokat és a betegeket egyaránt.
