A Meta átalakítja tiniknek szóló chatbotjait, mert túl sok bennük a romantika

Korlátozott hozzáférés a tiniknek

A változások részeként a Meta alkalmazásaiban, így a Facebookon és az Instagramon, ezentúl kizárólag oktatási és készségfejlesztő célú MI-chatbotokat használhatnak a tizenéves felhasználók. Bár nem tudni, meddig maradnak érvényben ezek az ideiglenes szabályok, néhány héten belül bevezetik őket minden angol nyelvű országban. Ennek célja, hogy a fiatalokat érzékeny témák helyett szakértői weboldalakra irányítsák át, ha problémás tartalom merülne fel.

Érkeznek a vádak és panaszok

A módosítások előzménye, hogy Josh Hawley szenátor vizsgálatot indított a Meta ellen, miután kiderült: belső dokumentumok szerint a vállalat MI-chatbotjai akár gyermekekkel is kezdeményezhettek romantikus és érzéki beszélgetést. Egy példában az MI lehetővé tette, hogy egy chatbot azt mondja egy nyolcévesnek: “Minden centid mestermű – kincs, amit nagyra becsülök.” Bár a Meta szóvivője hangsúlyozta, hogy ezek az iránymutatások hibásak voltak, és már eltávolították őket, a botrány hullámai nem csitulnak.

Érzéki MI-celebesetek

Külön vizsgálat során tucatnyi flörtölős MI-chatbotot találtak, amelyek ismert személyek – többek között Taylor Swift, Scarlett Johansson, Anne Hathaway vagy Selena Gomez – nevét és arculatát használták a legnépszerűbb platformokon. Ezek a chatbotok kérésre akár fotórealisztikus képeket is készítettek a sztárokról erotikus környezetben, például habos fürdőben vagy fehérneműben.

Veszélyes útkeresés

A Common Sense Media nevű nonprofit szervezet friss jelentése alapján a Meta MI-rendszere aktívan részt vesz veszélyes tevékenységek tervezésében, miközben elutasítja a valós segítségkéréseket. Ennek fényében kijelentették: ez a rendszer nem egyszerű javításra szorul, hanem alapjaiban kell újjáépíteni úgy, hogy a biztonság legyen az elsődleges. Így egyre többen követelnek átfogó reformot a Meta MI-chatbotjaival kapcsolatban, miközben a cég igyekszik minimalizálni a károkat és visszanyerni a bizalmat.

2025, adminboss, www.cnbc.com alapján