Kamuterapeuta chatek: valós segítség vagy veszélyforrás?
A vizsgálat arra irányul, hogy ezek a chatrobotok úgy tehetnek, mintha profi terapeuták lennének: képesek azt állítani, hogy végzettségük van, miközben valójában nem értenek az adott szakterülethez. Jelenleg mind a Meta, mind a Character.AI kínálatában megtalálhatók olyan, felhasználók által létrehozott karakterek, amelyek “terapeutaként” vagy “pszichológusként” hirdetik magukat, és ezek a beszélgetőpartnerek olykor azt is állítják, hogy szakemberek. Bár a cégek hangsúlyozzák, hogy ezek az avatarok szórakoztató, fiktív szereplők, a figyelmeztetések könnyen elsikkadhatnak a felhasználók figyelme mellett, különösen gyermekek esetében.
Adatvédelem és a gyermekek jogai
Mindkét vállalat elismeri, hogy adatokat gyűjt a felhasználók interakcióiból. A Meta például a kérdéseket és visszajelzéseket használja fel az MI fejlesztéséhez, míg a Character.AI demográfiai adatokat és azonosítókat is tárol, amelyeket részben reklámcélokra hasznosíthat. A texasi SCOPE-törvény értelmében kérdéses, hogy ezek az eljárások mennyire egyeztethetők össze a gyermekek védelmével, különösen, ha egyszerűen létrehozható egy gyerekszámla az oldalon.
Előírások és valóság
Bár a platformok hivatalosan nem ajánlják mentálhigiénés eszközként az MI-chatet, a gyakorlat mégis azt mutatja, hogy sokszor úgy működnek, mintha azok lennének. Hiába a jól látható figyelmeztetés, a virtuális, fiktív karakterek könnyen hitelesnek tűnhetnek egy kamasznak – a texasi vizsgálat pedig most erre próbál pontot tenni.
