Veszélyes tévhitek egy kattintásra
Egy vizsgálat során kiderült: az MI félrevezető, sőt veszélyes információkat közölt például a májfunkciós vérvizsgálatok értékeiről. Figyelmen kívül hagyta, hogy ezek az értékek életkor, nem vagy etnikum szerint jelentősen változhatnak. Így könnyen megeshet, hogy egy beteg tévesen egészségesnek hiszi magát, és nem keresi fel orvosát, pedig kellene.
A védelem csak látszólagos
A Google gyorsan lépett, és az érintett keresőkifejezéseknél megszüntette az MI-alapú összefoglalókat. A vállalat igyekszik saját szabályzata alapján javítani a rendszeren, de a védelem messze nem tökéletes: ha valaki kicsit másként teszi fel a kérdést, például a májfunkciós referenciaértékek (LFT reference range) kifejezést használja, az MI továbbra is téves tanácsot ad.
A gép még mindig nem orvos
Az MI Overviews korábban is okozott botrányt, többek között azzal, hogy kövek fogyasztását ajánlotta. Egészségügyi kérdésekben a pontosság létkérdés: az orvoslás a szövegkörnyezetről, valószínűségekről és kivételekről szól – ezekben pedig az MI-modellek még mindig alulteljesítenek.
