Az életed múlhat rajta: halálosan téves MI-tanácsok a Google-ben

A Google új, MI-alapú áttekintései, amelyek a találati lista tetején jelennek meg, komoly kockázatot jelentenek a megbízhatatlan egészségügyi tanácsok miatt. Szakértők szerint ezek a generált összefoglalók félrevezetőek és akár károsak is lehetnek, annak ellenére, hogy a vállalat hasznosnak és megbízhatónak nevezi őket.

Egészségügyi hibák és veszélyek

Többször előfordult, hogy az MI téves információt adott: például a hasnyálmirigyrákkal élőknek azt tanácsolta, kerüljék a zsíros ételeket – ez életveszélyes félreértés lehet, mert pontosan az ellenkezője igaz. Egy másik alkalommal a májfunkciós vizsgálati eredmények „normál tartományairól” adott felsorolás annyira általános volt, hogy bármilyen hátterű, korú vagy nemű ember félreérthette, veszélyeztetve saját egészségét. Volt, hogy a rendszer tévesen a Pap-tesztet a hüvelyrák szűrővizsgálataként tüntette fel, pedig az a méhnyakrák szűrővizsgálata.

Változó és veszélyes válaszok

Az Eve Appeal rákellenes alapítvány arra hívta fel a figyelmet, hogy ugyanarra a keresésre az MI különböző és gyakran ellentmondásos válaszokat ad, miközben forrásait folyton váltogatja. A mentális egészséggel foglalkozó Mind alapítvány arról számolt be, hogy a pszichózisról és az evészavarokról adott tanácsok között is akadtak kifejezetten veszélyesek.

Google reakciója

A Google azt állítja, hogy MI-összefoglalóinak többsége tényeken alapul, és a példák többsége félrevezető, mert csak hiányos képernyőképeken látszik. Szerintük a pontosság megegyezik a kiemelt keresési válaszokéval, de a szakértők szerint a jelenlegi működés komoly kockázatokat jelent.

2025, adrienne, tech.slashdot.org alapján