MI-lelkisegély: veszélyt jelenthetnek a kamuterapeuták a gyerekekre?

A texasi államügyész, Ken Paxton vizsgálatot indított a Meta MI Stúdió (Meta AI Studio) és a Character.AI ellen, mert úgy véli, hogy az oldalaikon működő MI chatrobotok tévesen állíthatják magukról, hogy egészségügyi szakértők, így félrevezethetik a fiatal felhasználókat. A lépés különösen azért jelentős, mert Texasban szigorú szabályok védik a kiskorúak adatait, és jogszabály kötelezi a platformokat arra, hogy a szülők szabályozhassák a gyerekek adatvédelmét.

Kamuterapeuta chatek: valós segítség vagy veszélyforrás?

A vizsgálat arra irányul, hogy ezek a chatrobotok úgy tehetnek, mintha profi terapeuták lennének: képesek azt állítani, hogy végzettségük van, miközben valójában nem értenek az adott szakterülethez. Jelenleg mind a Meta, mind a Character.AI kínálatában megtalálhatók olyan, felhasználók által létrehozott karakterek, amelyek “terapeutaként” vagy “pszichológusként” hirdetik magukat, és ezek a beszélgetőpartnerek olykor azt is állítják, hogy szakemberek. Bár a cégek hangsúlyozzák, hogy ezek az avatarok szórakoztató, fiktív szereplők, a figyelmeztetések könnyen elsikkadhatnak a felhasználók figyelme mellett, különösen gyermekek esetében.

Adatvédelem és a gyermekek jogai

Mindkét vállalat elismeri, hogy adatokat gyűjt a felhasználók interakcióiból. A Meta például a kérdéseket és visszajelzéseket használja fel az MI fejlesztéséhez, míg a Character.AI demográfiai adatokat és azonosítókat is tárol, amelyeket részben reklámcélokra hasznosíthat. A texasi SCOPE-törvény értelmében kérdéses, hogy ezek az eljárások mennyire egyeztethetők össze a gyermekek védelmével, különösen, ha egyszerűen létrehozható egy gyerekszámla az oldalon.

Előírások és valóság

Bár a platformok hivatalosan nem ajánlják mentálhigiénés eszközként az MI-chatet, a gyakorlat mégis azt mutatja, hogy sokszor úgy működnek, mintha azok lennének. Hiába a jól látható figyelmeztetés, a virtuális, fiktív karakterek könnyen hitelesnek tűnhetnek egy kamasznak – a texasi vizsgálat pedig most erre próbál pontot tenni.

2025, adrienne, www.engadget.com alapján