Egészségügyi hibák és veszélyek
Többször előfordult, hogy az MI téves információt adott: például a hasnyálmirigyrákkal élőknek azt tanácsolta, kerüljék a zsíros ételeket – ez életveszélyes félreértés lehet, mert pontosan az ellenkezője igaz. Egy másik alkalommal a májfunkciós vizsgálati eredmények „normál tartományairól” adott felsorolás annyira általános volt, hogy bármilyen hátterű, korú vagy nemű ember félreérthette, veszélyeztetve saját egészségét. Volt, hogy a rendszer tévesen a Pap-tesztet a hüvelyrák szűrővizsgálataként tüntette fel, pedig az a méhnyakrák szűrővizsgálata.
Változó és veszélyes válaszok
Az Eve Appeal rákellenes alapítvány arra hívta fel a figyelmet, hogy ugyanarra a keresésre az MI különböző és gyakran ellentmondásos válaszokat ad, miközben forrásait folyton váltogatja. A mentális egészséggel foglalkozó Mind alapítvány arról számolt be, hogy a pszichózisról és az evészavarokról adott tanácsok között is akadtak kifejezetten veszélyesek.
Google reakciója
A Google azt állítja, hogy MI-összefoglalóinak többsége tényeken alapul, és a példák többsége félrevezető, mert csak hiányos képernyőképeken látszik. Szerintük a pontosság megegyezik a kiemelt keresési válaszokéval, de a szakértők szerint a jelenlegi működés komoly kockázatokat jelent.
