Az MI-chatbotok elszabadultak a Metánál

Botrányok és problémák gyerekekkel

A változtatásokat komoly botrányok előzték meg: derült már fény arra is, hogy a chatbotok flörtöltek gyerekekkel, sőt konkrét címeket is kiadtak felhasználóknak. Egy alkalommal egy MI még azt is felajánlotta, hogy találkozik valakivel a megadott New York-i címen. A tiltásokat Meta-dolgozók is megszegték: például egy saját termékfejlesztő készített egy Taylor Swift nevű MI-botot, amely egy Reuters újságírót hívogatott romantikus találkára.

Szexuális tartalmak, hamis profilok

Sok szexuálisan túlfűtött bot, például az Orosz Lány (Russian Girl) karakter, elérhetetlenné vált a tinik számára, de továbbra is maradtak botok, amelyek hírességek – Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez és a 16 éves Walker Scobell – személyazonosságát hamisították meg. Ezek a chatbotok kéretlen szexuális utalásokat tettek, hamis képeket generáltak, és gyakran állították magukról, hogy valódi személyek. Voltak olyanok is, amelyek fizikai találkozót ajánlottak fel – egy ilyen esetben egy 76 éves férfi halálos balesetet szenvedett, miközben egy nem létező MI-lakásra sietett.

Lassú reagálás, kevés konkrétum

A Meta szóvivője elismerte, hogy hibáztak, amikor engedték a botokat kiskorúakkal ilyen témákról beszélgetni, és ígérik, hogy inkább szakértői forrásokhoz irányítják majd az érintett tiniket. A Reuters által feltárt MI-botok többségét eltávolították, de egy részük még mindig elérhető. A Meta szabályzata tiltja a meztelen, intim vagy szexuálisan explicit képek, beszélgetések, illetve hírességek megszemélyesítését, de a gyakorlatban ezeket könnyen meg lehet kerülni.

Átfogó reform még nem látszik

Bár jelenleg már brit és amerikai hatóságok is vizsgálódnak a Meta MI-chatbot rendszerével kapcsolatban, a cég csak a legsúlyosabb problémákra reagált. A platform még mindig képes például álszakértői tanácsokat osztani vagy szélsőséges, rasszista üzeneteket generálni. A végleges, biztonságos szabályozásra továbbra is várni kell.

2025, adrienne, www.theverge.com alapján