A deepfake röntgenek még az orvosokat is megtévesztik

Érdemes megvizsgálni, hogy milyen veszélyeket rejtenek a mesterségesen generált, úgynevezett deepfake-röntgenfelvételek, amelyek megtévesztően valósághűek – olyannyira, hogy még képzett radiológusok számára is szinte lehetetlen felismerni a hamisítványokat. Ez komoly kockázatokat jelent a gyógyításban, és új eszközök, valamint képzések nélkül a hamis képek súlyos következményekkel járhatnak.

Mennyire könnyű bedőlni a deepfake-nek?

Egy nemzetközi kutatás során 17 radiológus – köztük kezdők és negyven éve gyakorló szakemberek is – több száz röntgenképet vizsgált meg, amelyeknek fele valódi volt, a másik fele pedig MI által generált. A szakértelem meglepően kevéssé számított: amikor nem tudtak az MI-alkotta képekről, csak 41%-os pontossággal szűrték ki a hamisítványokat. Ha előre figyelmeztették őket a deepfake lehetőségére, akkor is csak 75%-os volt az átlagos felismerési arány.

Mindazonáltal a különböző eszközök – például a ChatGPT vagy a RoentGen generatív modellek – sem tudták hibátlanul leleplezni őket, és a legjobb MI-k sem teljesítettek 89%-nál jobban. A tapasztalt mozgásszervi radiológusok ugyan jobban szerepeltek, de az évek során szerzett rutin nem volt garancia a sikerre.

Hogyan ismerhető fel a hamis röntgen?

A kutatók felfigyeltek néhány árulkodó mintázatra. A deepfake röntgenképek gyakran túl tökéletesek: a csontok szokatlanul simák, a gerinc szokatlanul egyenes, a tüdőmezők egyformák, az erek mintázata túl szabályos, a törések pedig feltűnően letisztultak, csak egy oldalra korlátozódnak.

Megtévesztésből bíróság, hackerek és káosz is lehet

Az ilyen képek visszaélésre adhatnak lehetőséget: jogi perekben akár hamis sérüléseket is “bizonyíthatnak” velük, vagy kórházi rendszerekbe feltöltve megzavarhatják a diagnózist, sőt, akár tömeges orvosi káoszt is okozhatnak. Az MI tehát nemcsak a fejlesztésnél, hanem a védelemnél is komoly figyelmet igényel – például digitális vízjelek vagy titkosított aláírások bevezetésével már a képalkotás pillanatában.

A jövő feladatai: védelmi eszközök és tudatosítás

Az MI-eszközök fejlődése révén hamarosan nemcsak röntgen-, hanem 3D-CT- és MRI-hamisítványok is megjelenhetnek. Ezért létfontosságú a felismerést segítő oktatóanyagok készítése és a deepfake-ek kiszűrését támogató algoritmusok fejlesztése, hogy az egészségügyi dolgozók időben észrevegyék a veszélyt. A kutatók már egy interaktív, gyakorló deepfake-adatbázist is elérhetővé tettek, hogy jobban felkészíthessék a szakembereket a közeljövő kihívásaira.

2026, adminboss, www.sciencedaily.com alapján

Share on Social Media