Mi vezetett a mérgezéshez?
A történet szempontjából lényeges, hogy a férfi eredetileg a konyhasóban található kloridot akarta kiiktatni az étrendjéből, mivel túlzott sófogyasztás ártalmairól olvasott. Meglepődött, hogy többnyire csak a nátrium csökkentését ajánlják, ezért saját táplálkozástudományi ismereteire és a ChatGPT tanácsára támaszkodva úgy döntött, a nátrium-kloridot nátrium-bromidra cseréli, amelyet online szerzett be. Ez a döntés idővel toxikus bromid-felhalmozódáshoz vezetett a szervezetében.
Bromidvegyületeket a 19. és 20. században előszeretettel alkalmaztak nyugtatóként, görcsoldóként, altatóként, de a visszaélések miatt ezek többségét az 1970–80-as években kivonták a forgalomból az Egyesült Államokban. Azóta a bromizmus ritka, de néha felbukkan, főleg ha valaki hozzá nem értően fogyaszt ilyen vegyületeket.
ChatGPT és a félrevezető tanács
A férfi beszámolója szerint a ChatGPT (a 3.5-ös vagy 4.0-s verziót használta) azt az információt adta, hogy a klorid helyettesíthető bromiddal. Ennek hatására lecserélte az összes asztali sót. Jelentős különbség azonban, hogy a mesterséges intelligencia nem figyelmeztette a lehetséges veszélyekre, sem nem kérdezte meg az étrendváltás okát – amit egy orvos minden bizonnyal megtett volna. A sók kémiai cseréje egyébként csak tisztítószerek esetében alkalmazható, élelmiszerként veszélyes.
Később az orvosai is feltették ugyanezt a kérdést a ChatGPT-nek, amely szintén a brómot ajánlotta, némi kontextus-megjegyzéssel ugyan, de konkrét egészségügyi figyelmeztetés nélkül.
A bróm-mérgezés tünetei és következményei
Három hónap elteltével a férfinál egyre súlyosbodó tünetek – üldözési mánia, hallucinációk, izomkoordinációs zavarok, álmatlanság, fokozott szomjúság – jelentkeztek, amelyek idegrendszeri problémára utaltak. Vérképében magas kloridszintet észleltek, ami azonban hamis eredmény volt: a mért bromid zavarta meg a laboratóriumi mérést (pszeudohiperklorémia).
A kórházi felvételt követően elektrolitpótlást és antipszichotikumot kapott, állapota lassan javult, és végül elmondta, hogy mesterséges intelligencia alapján fogyasztott nátrium-bromidot. Hüvelykujjnyi vörös pöttyöket, pattanásokat is tapasztalt az arcán, amelyek túlérzékenységi reakciót jelenthettek. Három hét alatt elhagyhatták a gyógyszereit, és két héttel később állapota stabil maradt.
Az MI veszélyei az egészségügyben
A fentiek tükrében világosan látszik, hogy az MI, bár hidat képezhet a tudomány és a laikusok között, ugyanakkor képes félrevezető vagy kontextus nélküli információkat terjeszteni. Egy orvosszakértő aligha tanácsolná a nátrium-bromid fogyasztását só helyett, de egy MI-felület ilyen hibákat is elkövethet. Egy másik kutatás is megerősítette: a nagy nyelvi modellek hajlamosak hamis egészségügyi információkat generálni, amelyek valós kockázatot jelenthetnek, ha szűrő nélkül használják őket.
Nemcsak egyéni felelősségünk, hanem az egészségügyben dolgozók feladata is felismerni és megelőzni az MI hibájából bekövetkező egészségkárosodásokat.
