Ártalmas magabiztosság
Különösen igaz ez akkor, ha egy orvosi MI – legyen szó a ChatGPT-ről, a Geminiről, vagy célzottabb egészségügyi modellekről, mint az Ada Health – szakszerűen hangzó, de hibás tanácsokat kap. Egy januári kutatás során húsz különböző orvosi chatbot több mint 3,4 millió, éles helyzetekből származó példán, fórumokról, valós kórházi zárójelentések manipulált változatain és fiktív, ám szakorvosok által jóváhagyott eseteken keresztül találkozott hamis információval. A vizsgálat szerint az MI három esetből egyben minden fenntartás nélkül elfogadta a téves állítást, például azt, hogy az immunrendszer támogatására fokhagymagerezdeket kell a végbélbe helyezni, vagy hogy nyelőcsővérzés esetén naponta hideg tejet kell fogyasztani.
Az emberek gyanakvóbbak, ha a tanácsok netes szlenget használnak, de a chatbotok számára a formális orvosi nyelvezet továbbra is hitelességet sugároz. Csak az olyan érvelési hibákkal szemben válnak szkeptikussá, mint: „mindenki tudja, hogy működik, hisz egy 20 éves tapasztalattal rendelkező orvos mondja”.
Nem jobb, mint egy sima internetes keresés
Egy másik, februárban publikált tanulmány hasonló következtetésre jutott: az MI-chatbotok legfeljebb olyan hatékonyak, mint egy hagyományos online keresés. Amikor laikusok orvosi problémára kerestek választ az MI segítségével, gyakran olyan vegyes minőségű válaszokat kaptak, amelyek egyszerre tartalmaztak jó és rossz javaslatokat. Ez megnehezíti, hogy a felhasználók helyes döntést hozzanak. Az informatika területéről érkező kutatók szerint ezért egy tapasztalatlan beteg nem lehet biztos abban, mennyire megbízható a chatbot tanácsa. Egy sima fejfájás – például egy mozizás után – lehet ártalmatlan, de akár vészhelyzetet is jelezhet. Egy laikus azonban nem tudja eldönteni, hogy elég-e várni, vagy azonnal kórházba kell menni — a chatbot legtöbbször magabiztosan válaszol, de az ajánlás veszélyes is lehet.
Az MI szerepe máshol lehet erős
Az ilyen vizsgálatok alapján az orvosi MI-chatbotok jelenleg nem alkalmasak a laikus felhasználók biztonságos egészségügyi tanácsadására. Úgy tűnik, hogy míg az MI sok orvosi szöveget képes elolvasni, és olykor valóban hasznos útmutatót ad, szerepét inkább szakmai támogatásként, orvosok mellett képzelhetjük el — semmiképpen sem egyenértékű információforrásként hétköznapi egészségügyi kérdésekben.
