Emberéletek a mérlegen
Az amerikai Nemzeti Egészségügyi Intézet adatai szerint az USA-ban sokan élnek végstádiumú vesebetegséggel, ami azt jelenti, hogy túlélésük vagy rendszeres dialízistől, vagy veseátültetéstől függ.
A Nemzeti Vese Alapítvány szerint az USA-ban naponta 12 ember hal meg veseátültetés hiányában, és megjegyzi azt is, hogy az elhunyt donoroktól származó vesék egyötödét eldobják.
Így van okunk azt hinni, hogy a vesék elosztását jobban is lehetne kezelni.
A tanulmány szerzői már a kezdetektől elismerik, hogy a pszichológiai kutatások szerint az emberi erkölcsi döntéshozatal bonyolult.
“Így nem meglepő, hogy az MI nem képes megragadni az összes árnyalatot” – magyarázzák. “Továbbra is kérdés, hogy egy MI egyáltalán megragadhatja-e az emberi erkölcsi döntéshozatal normatív lényegét, vagyis azt, hogy az emberek hogyan dolgozzák fel az erkölcsileg releváns tényezőket, hogyan alakítanak ki tájékozott preferenciákat az erkölcsi tulajdonságok és értékek között, és hogyan kombinálják szándékosan a rendelkezésre álló információkat a végső ítéletük meghozatalához, legalábbis egyszerű döntéshozatali feladatokban.”
Az MI korlátai az erkölcsi kérdésekben
“Az MI lehetséges haszna az erkölcsi területeken főként a skálázhatósághoz és az emberi kognitív torzítások kezelésének lehetőségéhez kapcsolódik (pl. a fáradtságból eredő döntéshozatali hibák kezelése)” – mondta Vijay Keswani, a Duke posztdoktori munkatársa a The Registernek.
“Ugyanakkor ezek az előnyök csak akkor valósulhatnak meg, ha az MI képes robosztusan modellezni azt a módot, ahogyan egy személy ideális esetben erkölcsi döntéseket hozna, ami – ahogy mi bemutatjuk – olyasmi, amire a jelenlegi MI-modellek nem képesek.”
A kutatók 20 résztvevővel folytattak félig strukturált interjúkat, akik legalább 20 dollárt kaptak az idejükért.
A válaszadók laikusok voltak, nem orvosok, és általános kérdéseket kaptak arról, hogy mi lenne a legjobb módja annak, hogy eldöntsék, mely betegek kapjanak vesét. Más kérdések arra kérték őket, hogy válasszanak, melyik hipotetikus beteg kapjon átültetést, miután mérlegelték a következőket:
A mérlegelendő szempontok
– Az átültetéstől várható életévek száma;
– Az eltartottak száma;
– Elhízottság szintje;
– Heti munkaórák száma az átültetés után;
– A transzplantációs várólistán töltött évek;
– Korábbi súlyos bűncselekmények száma.
A résztvevőket ezután megkérték, hogy értékeljék, mennyire illeszkednek a választott stratégiák a döntéshozatali folyamatukhoz, és mondjanak véleményt az MI veseallokációs folyamatba való bevonásának potenciális előnyeiről és aggályairól.
A felmérés résztvevői, nem meglepő módon, egyes kritériumokat többre értékeltek, mint másokat. Néhányan a fiatalabb embereket részesítették előnyben, mások aggodalmuknak adtak hangot az idősekkel szembeni diszkrimináció miatt. Egyesek figyelembe vették az életmódbeli döntéseket (pl. dohányzás vagy alkoholfogyasztás), míg mások úgy érezték, hogy ez nem számítana.
A résztvevők által kifejtett nézetek néha változtak, ahogy átgondolták döntéseiket.
Az erkölcsi keretrendszerek változékonysága
Ez nem meglepő, mivel az emberek erkölcsi keretrendszerei változékonyak lehetnek. Ennek MI-ben való modellezése kudarcra ítéltnek tűnik – mindig lesz valaki, aki hiányosnak találja az MI-t. Az erkölcsi mérleglésnek ez a folyamata, amelyet a szerzők “dinamikus tanulási folyamatként” írnak le, az egyik olyan elem, amelyet be kell építeni az MI-modellekbe, ha azt kérik tőlük, hogy erkölcsi ítéleteket hozzanak.
A szerzők ezért figyelembe vették a modell kialakításához használt matematikát, mivel különböző megközelítések illenek a különböző döntéshozatali stratégiákhoz. A lineáris és döntési szabály modelleknek megvan az az előnye, hogy értelmezhetők – jegyzik meg -, de ezek nem feltétlenül igazodnak az emberi döntéshozatali folyamatokhoz. Más megközelítések – neurális hálózatok vagy véletlen erdők – olyan modelleket eredményeznek, amelyek nem értelmezhetők.
A tanulmány ezért arra a következtetésre jut, hogy a jelenlegi MI-modellkészítési technikák nem illeszkednek jól az emberi érvelés modellezéséhez.
Az emberek véleménye az MI-ről a kritikus kérdésekben
Ami a válaszadók MI-vel kapcsolatos gondolatait illeti, elismerték, hogy az MI segíthet ellensúlyozni az emberi elfogultságot, és hogy az MI hasznos lehet klinikai támogatás során. De a lényeg az volt, hogy az emberek nem akarták, hogy az MI döntsön arról, ki kap vesét.
“Sokan felismerték az emberi erkölcsi döntéshozatal kognitív hibáit, és optimisták voltak azzal kapcsolatban, hogy az MI enyhítheti ezeket a hibákat” – állapítják meg a szerzők. “Mégis, továbbra is hittek az emberi szakértők képességeiben, és azt részesítették előnyben, hogy az MI a szakértőkre bízza a végső döntést.”
Amikor megkérdezték, hogy az MI bevonásának néhány feltételezett előnye, például az emberi elfogultság ellensúlyozása, nem kezelhető-e specifikus eljárási rendszerekkel, például vak erőforrás-elosztással, Keswani elismerte, hogy ennek lehet némi értéke, de hangsúlyozta az MI erkölcsre való tanításának potenciális hasznosságát.
“Néhány döntési torzítás (pl. bizonyos csoportokkal szembeni elfogultság) kezelhető jobb eljárásokkal, mint például a csoportvak döntéshozatal” – mondta.
“De nem hiszem, hogy minden döntéshozatali hiba kezelhető ilyen explicit, felülről lefelé irányuló eljárásokkal, különösen figyelembe véve a döntési folyamatok heterogenitását az emberek között. Ezért úgy gondolom, hogy egyre nagyobb az érdeklődés az alternatív, alulról felfelé irányuló megközelítés iránt, amely egy személy/közösség idealizált preferenciáinak megtanulását, majd egy MI-nek ezekhez a preferenciákhoz való igazítását célozza.”
“Természetesen az erkölcsi preferenciákhoz való igazodás ismét megköveteli az erkölcsi döntéshozatal jó számítástechnikai alapját, és nekünk jelenleg nincs ilyen.”
