A Meta szigorúbb szabályokat vezetett be MI chatrobotjai számára, hogy megelőzze a nem megfelelő beszélgetéseket gyerekekkel. Új irányelvek határozzák meg, milyen témákról beszélhet a chatbot, és mit kell teljesen elkerülni – főként a gyermekekkel kapcsolatos szexuális visszaélés, romantikus szerepjáték vagy érzéki tartalmak tilosak. Ha a felhasználó kiskorú, a chatbot nem beszélhet szerelmi vagy intim testi kapcsolatokról, de olyan témákat, mint a bántalmazás, meg lehet beszélni – anélkül, hogy ezt bátorítaná vagy engedélyezné.
Szigorúbb védelem a gyerekeknek
A Meta kifejezetten megtiltotta, hogy a chatrobot bármilyen módon segítse, támogassa vagy elnézze a gyermekek szexuális bántalmazását vagy annak bármilyen formáját. Az MI nem vehet részt romantikus szerepjátékban sem, ha a felhasználó vagy maga az MI kiskorúként kerül említésre. Az új szabályok részeként a vállalat célja, hogy kizárja azokat a funkciókat, amelyek visszaélésekhez vezethetnek.
Nem csak a Meta lépett
Az utóbbi időben több eset is felmerült, amelyek rávilágítottak az MI veszélyeire a gyerekekre nézve. Az amerikai versenyhivatal, az FTC augusztusban vizsgálatot indított több nagy cégnél, köztük a Metánál, az Alphabetnél, a Snapnél, az OpenAI-nál és az X.AI-nál, hogy kiderítse, kellően védik-e a fiatalkorúak biztonságát a modern digitális eszközökben.
