Veszélyes tanácsok és megtévesztés
Egy egészségügyi dolgozó tapasztalata is aggasztó: krónikus fájdalommal kapcsolatos kérdésére olyan válasz jelent meg, amely a felírt gyógyszerek abbahagyását és magas dózisú kratom szedését javasolta, ami több amerikai államban illegális és szabályozatlan szer. Egy másik poszt pedig arról szólt, hogy a heroin segíthet a krónikus fájdalom kezelésében. Ez különösen veszélyes, hiszen a heroin az USA-ban tiltott, rendkívül addiktív és halálos szer. Az ilyen típusú MI által generált válaszok könnyen azt a látszatot kelthetik, mintha a szakmai fórum is támogatná őket.
Moderátori tiltakozás és változásigény
A moderátorok szerint az egészségi és mentális egészséggel foglalkozó aloldalakon azonnali változásra van szükség – vagy ki kell kapcsolni az MI-t, vagy legalább lehetőséget kell adni a moderátoroknak a funkció szabályozására. A Reddit adminisztrátorai azt közölték, hogy módosítottak a rendszer működésén, és a felhasználói visszajelzések alapján folytatják a fejlesztést, de a veszélyes MI-válaszok problémája továbbra is fennáll. A moderátorok mindenkit óva intenek attól, hogy egészségügyi tanácsot fogadjon el a Reddit-válaszoktól.
