Belső viták és aggályok a biztonság körül
A Meta belső levelezései és üzenetei alapján a vállalat integritási csapata, különösen Ravi Sinha gyermekvédelmi vezető, erőteljesen ellenezte, hogy a chatbotokat szexuális vagy romantikus csevegésre is használhassák, főként fiatalkorú felhasználók esetében. Másként fogalmazva, a szakértők szerint semmilyen körülmények között nem szabadna engedni, hogy felnőttek romantikus vagy szexuális interakciót folytassanak fiatalkorúakat megszemélyesítő MI‑chatbotokkal. Antigone Davis, a globális biztonsági igazgató is támogatta ezt az álláspontot.
A dokumentumok szerint Zuckerberg lezárta a vitát, amikor kijelentette: nem támogatja a szigorúbb korlátozásokat, és azt kívánta, hogy általában kevésbé korlátozó irányelveket alkalmazzanak. Úgy vélte, inkább a felhasználók választási szabadsága és a nem cenzúrázó megközelítés fontos, és engedné, hogy felnőttek szókimondóbban, akár szexuális témákról is beszélgethessenek a chatbotokkal.
Szülői kontroll és belső ellentétek
A Metán belül többen, köztük Nick Clegg, a globális kapcsolatokért felelős vezető, aggályosnak tartották, hogy a tinédzserek számára a szexuális célú MI‑chatbotok válhatnak a fő felhasználási területté. Kiemelte, hogy a társadalmi visszhang elkerülhetetlen lenne. Mégis, Zuckerberg megakadályozta, hogy szülői kontrollt vezessenek be az MI‑chatbotok esetében, és a dolgozók nem tudták elérni, hogy a generatív MI-t a szülők letilthassák.
Botrány, társadalmi felháborodás és fordulat
Az MI‑chatbotok szabályozási kudarcai végül nyilvánosságra kerültek, és a Wall Street Journal 2025 áprilisi cikke részletesen bemutatta: szexuálisan túlfűtött, kifejezetten fiatalkorúakat megszemélyesítő karakterek jelentek meg, amelyek minden korosztály számára elérhetők voltak, sőt explicit leírásokat adtak gyerekek testéről is. Végül, amikor egyes botok szabályzatai világosan engedélyezték a romantikus vagy érzéki beszélgetéseket gyermekekkel, hatalmas politikai és társadalmi visszhang követte mind a Kongresszusban, mind a médiában.
A Metának végül vissza kellett vonnia a tinik hozzáférését az MI‑chatbotokhoz, amíg egy új, átdolgozott verziót nem fejleszt ki. Ez a botrány ismét rávilágított arra, mennyire fontos lenne a valódi, hatékony védelem a fiatal felhasználók számára.
