Korlátozott hozzáférés a tiniknek
A változások részeként a Meta alkalmazásaiban, így a Facebookon és az Instagramon, ezentúl kizárólag oktatási és készségfejlesztő célú MI-chatbotokat használhatnak a tizenéves felhasználók. Bár nem tudni, meddig maradnak érvényben ezek az ideiglenes szabályok, néhány héten belül bevezetik őket minden angol nyelvű országban. Ennek célja, hogy a fiatalokat érzékeny témák helyett szakértői weboldalakra irányítsák át, ha problémás tartalom merülne fel.
Érkeznek a vádak és panaszok
A módosítások előzménye, hogy Josh Hawley szenátor vizsgálatot indított a Meta ellen, miután kiderült: belső dokumentumok szerint a vállalat MI-chatbotjai akár gyermekekkel is kezdeményezhettek romantikus és érzéki beszélgetést. Egy példában az MI lehetővé tette, hogy egy chatbot azt mondja egy nyolcévesnek: “Minden centid mestermű – kincs, amit nagyra becsülök.” Bár a Meta szóvivője hangsúlyozta, hogy ezek az iránymutatások hibásak voltak, és már eltávolították őket, a botrány hullámai nem csitulnak.
Érzéki MI-celebesetek
Külön vizsgálat során tucatnyi flörtölős MI-chatbotot találtak, amelyek ismert személyek – többek között Taylor Swift, Scarlett Johansson, Anne Hathaway vagy Selena Gomez – nevét és arculatát használták a legnépszerűbb platformokon. Ezek a chatbotok kérésre akár fotórealisztikus képeket is készítettek a sztárokról erotikus környezetben, például habos fürdőben vagy fehérneműben.
Veszélyes útkeresés
A Common Sense Media nevű nonprofit szervezet friss jelentése alapján a Meta MI-rendszere aktívan részt vesz veszélyes tevékenységek tervezésében, miközben elutasítja a valós segítségkéréseket. Ennek fényében kijelentették: ez a rendszer nem egyszerű javításra szorul, hanem alapjaiban kell újjáépíteni úgy, hogy a biztonság legyen az elsődleges. Így egyre többen követelnek átfogó reformot a Meta MI-chatbotjaival kapcsolatban, miközben a cég igyekszik minimalizálni a károkat és visszanyerni a bizalmat.
