Az Amerikai Élelmiszer- és Gyógyszerügyi Hivatalnál bevezetett, Elsa nevű generatív MI-rendszer súlyos problémákat okoz: gyakran kitalált tanulmányokat tesz le az asztalra, vagy teljesen félremagyarázza a valódi kutatások eredményeit. Ennek ellenére a vezetőség látszólag nem aggódik, sőt, jelenleg a rendszer használata és az arra vonatkozó tréningek is önkéntesek. Fontos megjegyezni, hogy a rendszer egyik dolgozója szerint minden, amire nincs időd visszaellenőrizni, az megbízhatatlan – Elsa pedig rendkívül magabiztosan közli a téves adatokat.
Politikai nyomás az MI-fejlesztésekre
A botrány éppen akkor robbant ki, amikor a Fehér Ház bejelentette az MI-fejlesztések ösztönzésére irányuló új programját. Jellemző példa erre, hogy a szabályozás könnyítését és a technológiai verseny élezését szorgalmazzák, miközben elvárják, hogy az MI-k ne tartalmazzanak „ideológiai elfogultságot”. Ez a gyakorlatban a jelenlegi kormányzat nézeteinek érvényesítését jelenti, például a klímaváltozás vagy a társadalmi sokszínűség háttérbe szorításával.
Kételyek az MI hasznosságával kapcsolatban
Ennek alapján megállapítható, hogy az FDA és a betegek számára egyre kérdésesebb, vajon valóban előnyt jelenthet-e az Elsa és a hasonló MI-eszközök használata az egészségügyi döntésekben.
