Az MI nem randizik többet tinikkel a Metánál

A Meta újraprogramozza MI-chatbotjait, hogy a tizenéves felhasználók ne tudjanak veszélyes témákról – például önsértésről, étkezési zavarokról vagy öngyilkosságról – beszélgetni velük az Instagramon és a Facebookon. A legújabb fejlesztésekkel extra védelmi korlátokat állítanak fel, így a fiatalok nem tudnak ilyen jellegű beszélgetéseket kezdeményezni a Meta MI-jával, és nem férhetnek hozzá a felhasználók által készített, meggondolatlan chatbot-karakterekhez sem.

Kellemetlen botrányok után lépett a Meta

A változtatások nem a semmiből jöttek: több riport is rávilágított, hogy a Meta MI-je zavarba ejtő, sőt szexuális tartalmú beszélgetésekbe bonyolódott tinédzserekkel. Emellett egy friss tanulmány azt is feltárta, hogy a MI képes volt tanácsot adni fiatalkorúaknak önsértéssel, öngyilkossággal vagy étkezési zavarokkal kapcsolatban. Ezek után a Meta hivatalosan is megerősítette, hogy eddig is voltak védelmi funkciók, most azonban még szigorúbb szabályokat vezetnek be: a chatrobotok nem beszélgethetnek fiatalokkal az említett témákról, helyettük szakértői forrásokhoz irányítják őket.

Szabályozási és jogi nyomás

A Meta részéről hangsúlyozzák, hogy a friss korlátok első körben az angol nyelvű országokban élő tizenévesekre vonatkoznak, de már dolgoznak a hosszabb távú, végleges megoldáson is. A fejlesztések folyamatosan élesednek, így várhatóan néhány héten belül mindenkit elérnek az új szabályok. Mindeközben az amerikai politikusok és jogi szervek is figyelik az ügyet: Josh Hawley szenátor vizsgálatot, Texas állam főügyésze pedig hivatalos eljárást is indíthat, mert szerintük a Meta félrevezetheti a gyerekeket a pszichológiai támogatás ígéretével.

2025, adrienne, www.engadget.com alapján

Share on Social Media