Az MI-s Reddit-válaszok veszélyeztetik az egészségedet

A Reddit “Családorvoslás” (Family Medicine) aloldalán egy moderátor figyelmeztetett: az MI-alapú Reddit-válaszok automatikusan felelnek a posztokra, de gyakran súlyosan veszélyes félretájékoztatást terjesztenek. A probléma az, hogy a moderátorok nem tudják kikapcsolni ezt a funkciót, így védtelenek a hibás tanácsokkal szemben.

Veszélyes tanácsok és megtévesztés

Egy egészségügyi dolgozó tapasztalata is aggasztó: krónikus fájdalommal kapcsolatos kérdésére olyan válasz jelent meg, amely a felírt gyógyszerek abbahagyását és magas dózisú kratom szedését javasolta, ami több amerikai államban illegális és szabályozatlan szer. Egy másik poszt pedig arról szólt, hogy a heroin segíthet a krónikus fájdalom kezelésében. Ez különösen veszélyes, hiszen a heroin az USA-ban tiltott, rendkívül addiktív és halálos szer. Az ilyen típusú MI által generált válaszok könnyen azt a látszatot kelthetik, mintha a szakmai fórum is támogatná őket.

Moderátori tiltakozás és változásigény

A moderátorok szerint az egészségi és mentális egészséggel foglalkozó aloldalakon azonnali változásra van szükség – vagy ki kell kapcsolni az MI-t, vagy legalább lehetőséget kell adni a moderátoroknak a funkció szabályozására. A Reddit adminisztrátorai azt közölték, hogy módosítottak a rendszer működésén, és a felhasználói visszajelzések alapján folytatják a fejlesztést, de a veszélyes MI-válaszok problémája továbbra is fennáll. A moderátorok mindenkit óva intenek attól, hogy egészségügyi tanácsot fogadjon el a Reddit-válaszoktól.

2025, adrienne, tech.slashdot.org alapján

Share on Social Media