Az MI látványos, de pontatlan képei
Egy norvég, kanadai és amerikai kutatók által végzett vizsgálatban több generatív MI, köztük a GPT-4o és a DALL-E 3 által készített orvosi illusztrációkat hasonlítottak össze tapasztalt szakemberek munkáival. Az MI által generált képek felszínesen profinak tűnnek, de gyakran súlyos anatómiai hibákat tartalmaznak, ami alapvető félreértésekhez vezethet. Még tapasztalt orvosokat is megtéveszthet egy jól sikerült, de hamis MI-kép, ha nincsenek tisztában azzal, hogy amit látnak, nem bizonyított vagy ellenőrzött forrásból származik.
A tudományos publikációkban, sőt az egészségügyi tájékoztatásban is egyre többször használnak véletlenszerű vagy teljesen elképzelt (ún. hallucinált) MI-illusztrációkat, amelyek akár új szavakat vagy kifejezéseket is kitalálnak, például „zölden ragyogó fehérje”. Ezeknek az ábráknak a terjedése veszélyezteti a hiteles kutatói kommunikációt, és az orvosi döntéshozatalra is hatással lehet.
A hibás képek következményei
Az MI-vel generált képek veszélyét nemcsak az egészségügyben dolgozók ismerik fel, hanem a közvélemény is egyre szkeptikusabb. Egy, a közösségi médiában elhíresült példában például egy “jól felszerelt patkány” illusztrációja mémmé vált, amin a közéleti szereplők gúnyolódtak, tovább csökkentve a tudományos közösség iránti bizalmat. Világjárványok illetve oltási kampányok idején ezek a hamis vizuális tartalmak kifejezetten károsak lehetnek, mert félretájékoztatják a lakosságot, és hátráltatják a hatékony kommunikációt.
A kutatás szerint bár jelenleg még nincsenek ismert konkrét esetek, ahol kizárólag MI által generált kép vezetett volna közvetlen egészségkárosodáshoz, már eddig is történtek súlyos tévedések például MI-alapú csalásfelderítő rendszerek miatt. A fő probléma mégis az a sokszor ártatlannak tűnő pontatlanság, amely hosszú távon átformálja az emberek tudását és elvárásait a tudománnyal kapcsolatban.
A szakma megosztott a MI-illusztrációkról
A kutatók tizenhét orvosi vizualizációval foglalkozó szakembert kérdeztek meg arról, hogyan és milyen célokra használják a generatív MI-t a munkájuk során. A válaszok alapján öt fő csoportot különítettek el: lelkesen bevezetők, kíváncsi alkalmazkodók, kíváncsi optimisták, óvatos optimisták és szkeptikus elkerülők. Van, aki az MI-alkotta képek elvont, különleges világát inspirálónak tartja az ötleteléshez vagy a megrendelőkkel való kommunikációhoz, de a válaszadók fele szerint ezek az ábrák unalmasak és sablonosak.
Sokan szöveg-generáló modelleket is igénybe vesznek képfeliratozáshoz vagy leírásokhoz, de ritkán elégedettek az eredménnyel. Visszatérő probléma, hogy az MI irreleváns vagy teljesen kitalált információkat produkál. Noha néhány fejlesztő előszeretettel használja az MI-t unalmasabb, rutinszerű kódolási feladatokra vagy adattisztításra, többen még mindig inkább a saját tudásukra hagyatkoznak.
A hitelesség és felelősség kérdése
A válaszadó szakemberek komoly aggályokat fogalmaztak meg az MI jogszerűtlen adatfelhasználása kapcsán, főként kereskedelmi célú alkalmazás esetén, ugyanakkor saját, magánhasználatra kevésbé tartják ezt veszélyesnek. Bár szinte mindannyian kipróbálták már a generatív MI-t valamilyen formában, továbbra is az adatok és illusztrációk pontosságát tekintik a legfontosabbnak – ebben azonban az MI jelenleg még messze elmarad a szakmai elvárásoktól.
Van, aki szerint az MI nem képes megkülönböztetni a nervus ischiadicust és az ulnaris ideget – az algoritmus számára ezek egyszerűen vezetékek. Akár hasnyálmirigyet, akár bármi mást kérsz, az MI néha egyszerűen „idegen tojásokat” ad vissza, ami jól mutatja, mennyire nem érti a rendszerek működését.
Különösen aggasztó, hogy a black box, vagyis az átláthatatlan modellműködés miatt szinte lehetetlen felelőst találni egy hibás MI-képért vagy döntésért. A szakértői vélemények szerint ezért elengedhetetlen, hogy mindig legyen szakmai felügyelet, aki meg tudja magyarázni az MI eredményeit – hiszen végső soron a bizalom és a szakértelem számít.
Párbeszéd és tudatosság nélkül nincs megoldás
A generatív MI a tudományos illusztráció és vizualizáció meghatározó részévé vált, de kulcsfontosságú, hogy ne kritikátlanul fogadjuk el az új technológiát. A kutatók szerint a közösség tagjainak bátran meg kellene beszélniük tapasztalataikat, aggályaikat és kérdéseiket, mert csak nyílt párbeszéddel lehet elérni, hogy az MI használata ne menjen szembe szakmai értékeinkkel és céljainkkal. Az újítások előtt először gondolkodni és visszatekinteni érdemes, hogy valóban jó irányba haladjon az orvostudomány digitális forradalma.
