Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) vizsgálatot indított hét nagy techcég ellen, amelyek MI-alapú társalkalmazásokat fejlesztenek. A listán szerepel az Alphabet (Google), a Character Technologies (Character.AI), a Meta, az Instagram, az OpenAI, a Snap és az X.AI is. A hatóság részletes információkat kért arról, hogyan fejlesztik és engedélyezik az MI-karaktereket, valamint arról is, hogyan profitálnak a felhasználók aktivitásából. Kiemelt figyelmet fordítanak arra is, hogy a cégek miként védik a kiskorúak adatait, illetve megfelelnek-e az online gyermekvédelmi törvényeknek.
Szexuális témák, öngyilkossági beszélgetések
A vizsgálatot konkrét esetek indították el: több jelentés szerint néhány chatbot öngyilkossági gondolatokat erősített, vagy szexuális témákat hozott fel kiskorú felhasználókkal. A mostani vizsgálat célja feltárni, hogy sérültek-e törvények, és hogy a cégek valóban megtették-e a szükséges lépéseket a legsebezhetőbb felhasználók védelmében.
Fokozódó hatósági nyomás
Az MI-termékek hosszú távú előnyei mellett egyre több kritikát kapnak a felmerülő adatvédelmi és egészségügyi kockázatok miatt. Texas főügyésze is vizsgálatot indított már a Character.AI és a Meta MI rendszerei ellen, többek között azért, mert néhány chatbot tévesen mentálhigiénés szakembernek tüntette fel magát.
