Az első MI-helyettesek: még csak a koncepció szintjén tartanak
Az Egyesült Államokban, a seattle-i Harborview Medical Centerben indult el az a kezdeményezés, amely a magukról már nyilatkozni képtelen betegek preferenciáit próbálja mesterséges intelligenciával megjósolni. Muhammad Aurangzeb Ahmad kutató csapatával jelenleg még csak meglévő, visszamenőleges kórházi adatokat tesztel – például a sérülés súlyosságát, kórelőzményeket vagy demográfiai ismérveket használva. Egyelőre azonban kizárólag elméleti tesztelés zajlik, beteg még nem találkozott a rendszerrel.
A folyamat több lépcsős engedélyezés előtt áll, és csak IRB (egyetemi etikai bizottsági) jóváhagyással indulhatna el élesben. A cél nem egy mindenható robotdöntéshozó, hanem egy tanácsadó rendszer létrehozása, amely orvosokat és családtagokat támogat vészhelyzetekben. Az MI előrejelzéseit később a beteg véleményével lehet majd összevetni, de Ahmad szerint a legjobb esetben is csak a preferenciák kétharmadát lehetne pontosan eltalálni.
Fontos tényező, hogy a betegek preferenciái – például a lélegeztetőgépes kezelés, keringéstámogatás vagy újraélesztés elutasítása – akár napok alatt is változhatnak, és gyakran csak a kritikus beavatkozás után derül ki, mit gondolnak valójában a páciensek.
Etikai dilemmák: mi történjen azokkal, akik nem tudnak nyilatkozni magukról?
Az egyik legnagyobb kihívás: mi a helyzet azokkal, akiknek nincs családtagja vagy korábbi rendelkezése? Egy intenzív osztályos orvos, Emily Moin rámutatott, hogy ezekben a helyzetekben mindig egy emberi helyettes bevonása a legfontosabb. Amíg lehet, az orvosok inkább elvégzik az újraélesztést, és csak később próbálják felkutatni, ki tudja képviselni a beteg akaratát. Ahmad abban bízik, hogy az MI csökkentheti a bizonytalanságból fakadó stresszt, de Moin inkább a hibázás veszélyére hívja fel a figyelmet.
A kutatások szerint a hozzátartozók gyakran tévednek, amikor helyettesként döntenek, de még nagyobb a bizonytalanság ott, ahol senki sincs, aki ismerné a beteg kívánságait. Ez oda vezethet, hogy éppen azoknál a betegeknél lehetne szükség MI-alapú előrejelzésre, ahol valójában sosem fogjuk megtudni a helyes választ, és az eredmények sosem ellenőrizhetők igazán.
Az MI-helyettes előnyei és veszélyei: ki dönt a végén?
A társadalom is változik: korábban az autonómiát, manapság inkább a közösségi, családi döntéshozatalt helyezik előtérbe. A kutatók többsége – köztük Moin is – kiemeli, hogy az MI sosem vehet át teljes jogkört az emberektől, hiszen az élettapasztalat, az érzelmi háttér és a beteg személyes ismerete pótolhatatlan. A gyakorlatban azonban elképzelhető, hogy a rohanó egészségügyi rendszerben az orvosok és a családtagok is inkább az MI gyors ajánlásaira támaszkodnak majd, ahelyett, hogy nehéz, érzelmes beszélgetéseket kezdeményeznének.
Nem mellékes körülmény, hogy a tapasztalatok szerint, ha egy beteg kitölti az előzetes rendelkezéseket, utána kevésbé beszél nyíltan a családjával az igényeiről. Ez könnyen zsákutca lehet, főleg ha végül egy robot dönt helyette.
Az MI-modellek meglepően pontosak, de több a kérdés, mint a válasz
Egy friss svájci tanulmány szerint három különböző MI-rendszer akár 70%-os pontossággal meg tudta jósolni, hogy egy idős beteg kérné-e az újraélesztést. Ezek a modellek viszont nehezen boldogulnak az olyan helyzetekkel, amikor csak száraz demográfiai és kórelőzményi adatokat elemezhetnek, amelyek nem feltétlenül tükrözik az autonóm döntést.
Bioetikusok szerint ezekben a helyzetekben továbbra is nélkülözhetetlen az emberi helyettes, különösen akkor, ha vallási vagy más világnézeti, erkölcsi szempontok merülnek fel. Az MI pontatlan lehet akkor is, ha a kérdéseket másképp – vagy épp homályosabban – teszik fel, vagy nincs megfelelő adat a háttérben.
Fontos a társadalmi vita és az átláthatóság
Orvosok, kutatók és bioetikusok egyaránt hangsúlyozzák: az MI csak támogató szerepet tölthet be az ember mellett, soha nem lehet döntőbíró. Különösen veszélyes lehet, ha egy „fekete doboz” algoritmust alkalmazunk, amelyről nem tudni, hogyan hozza meg döntéseit – főleg akut élet-halál kérdésekben. A legkorrektebb az lenne, ha minden vitatott MI-ajánlás etikai testülethez kerülne, és semmiképpen nem szoríthatná háttérbe az emberi véleményt és tapasztalatot.
A legnagyobb kihívás, hogy az MI-nek képesnek kell lennie figyelembe venni az egyén vallását, közösségi hátterét, életére jellemző mintákat, de ezt csak átfogó, hosszú távú, személyre szabott adatokból lehet megtanítani. Fontos tényező, hogy ilyen adatbázis szinte nem is létezik, ráadásul folyamatosan változnak a gondolataink az életről és a halálról.
Nincs megváltás: a döntés terhe marad
Bár az MI fejlesztése ezen a területen tovább gyorsul, bevezetéséig várhatóan legalább egy évtizedre lesz szükség – ha egyáltalán valaha biztonsággal alkalmazható lesz. Addig marad a társadalmi vita: mit bízunk az algoritmusokra, és hol húzzuk meg a határt az emberi élet és halál feletti döntésben? Az MI segíthet elemezni a helyzeteket, de nem oldoz fel a felelősség alól: ha etikusan akarunk élni, a végső döntés terhe továbbra is az emberi vállakat nyomja.
