Mennyire könnyű bedőlni a deepfake-nek?
Egy nemzetközi kutatás során 17 radiológus – köztük kezdők és negyven éve gyakorló szakemberek is – több száz röntgenképet vizsgált meg, amelyeknek fele valódi volt, a másik fele pedig MI által generált. A szakértelem meglepően kevéssé számított: amikor nem tudtak az MI-alkotta képekről, csak 41%-os pontossággal szűrték ki a hamisítványokat. Ha előre figyelmeztették őket a deepfake lehetőségére, akkor is csak 75%-os volt az átlagos felismerési arány.
Mindazonáltal a különböző eszközök – például a ChatGPT vagy a RoentGen generatív modellek – sem tudták hibátlanul leleplezni őket, és a legjobb MI-k sem teljesítettek 89%-nál jobban. A tapasztalt mozgásszervi radiológusok ugyan jobban szerepeltek, de az évek során szerzett rutin nem volt garancia a sikerre.
Hogyan ismerhető fel a hamis röntgen?
A kutatók felfigyeltek néhány árulkodó mintázatra. A deepfake röntgenképek gyakran túl tökéletesek: a csontok szokatlanul simák, a gerinc szokatlanul egyenes, a tüdőmezők egyformák, az erek mintázata túl szabályos, a törések pedig feltűnően letisztultak, csak egy oldalra korlátozódnak.
Megtévesztésből bíróság, hackerek és káosz is lehet
Az ilyen képek visszaélésre adhatnak lehetőséget: jogi perekben akár hamis sérüléseket is “bizonyíthatnak” velük, vagy kórházi rendszerekbe feltöltve megzavarhatják a diagnózist, sőt, akár tömeges orvosi káoszt is okozhatnak. Az MI tehát nemcsak a fejlesztésnél, hanem a védelemnél is komoly figyelmet igényel – például digitális vízjelek vagy titkosított aláírások bevezetésével már a képalkotás pillanatában.
A jövő feladatai: védelmi eszközök és tudatosítás
Az MI-eszközök fejlődése révén hamarosan nemcsak röntgen-, hanem 3D-CT- és MRI-hamisítványok is megjelenhetnek. Ezért létfontosságú a felismerést segítő oktatóanyagok készítése és a deepfake-ek kiszűrését támogató algoritmusok fejlesztése, hogy az egészségügyi dolgozók időben észrevegyék a veszélyt. A kutatók már egy interaktív, gyakorló deepfake-adatbázist is elérhetővé tettek, hogy jobban felkészíthessék a szakembereket a közeljövő kihívásaira.
