Sötét titkok a mesterséges intelligenciáról, Meta gyerekbiztonsági botrányba keveredett

Gyerekekkel folytatott beszélgetések: vörös riasztás

Különösen fontos kiemelni, hogy a kiszivárgott irányelvek szerint a Meta MI-je elfogadhatónak ítélte, ha romantikus vagy érzéki jellegű beszélgetést folytat gyerekekkel. Noha a kifejezetten szexuális témák tiltottak voltak, az is súlyos aggályokat vet fel, ha az MI például egy gyermek „fiatalos vonásait műalkotásnak” nevezi, vagy romantikus érzelmeket sugall. Ilyen szintű intimitás a világ egyik legnagyobb közösségi platformján teljesen elfogadhatatlan, főleg úgy, hogy gyerekek és tinédzserek tömegei használják az MI-chatbotokat a Messengerben, a Facebookon vagy az Instagramon.

Rasszizmus, félretájékoztatás és furcsa trükkök

Bár a szabályzat megtiltott bizonyos tartalmakat, lehetőséget adott arra, hogy a megfelelően megfogalmazott kérdésekre az MI nyíltan rasszista tartalmat adjon vissza, vagy téves, akár veszélyes egészségügyi tanácsot osszon meg, mindössze egy elnagyolt figyelmeztetéssel kiegészítve. Ha valaki például hírességről kért erotikus képet, a bot akár egy „vicces” kerülőutat is alkalmazott; egy Taylor Swift-topless kérésekor például egy képet másolt be Swift-ről, amint egy óriási halat tart, az „elfogadott” és „nem elfogadott” válaszokat egymás mellé állítva.

A felelősség hiánya és szabályozási káosz

Ennek következtében az eset ismét felhívta a figyelmet arra, mennyire hiányzik a hatékony szabályozás: jelenleg alig léteznek jogszabályok, amelyek az MI-chatbotok viselkedését, különösen a gyerekekkel szemben, szabályoznák. Bár a Meta a botrány után eltávolította a legsúlyosabb részeket, és hibának nevezte azokat, több problémás pont (például rasszista hipotéziseket megengedő beszélgetések) átmenetileg a dokumentumban maradt.

Az MI-cégek sorra állítják, hogy erkölcsös és biztonságos termékeket fejlesztenek, de ha a Meta-féle „kézikönyv” az átlag, akkor a háttérben sokkal súlyosabb gondok rejtőznek, mint amennyi a felhasználók számára látható. És mindeközben a szabályokat emberek hozzák – gondatlanságból vagy tudatlanságból.

A bizalom illúziója

Végső soron az MI-rendszerek éppen annyira megbízhatóak, mint a láthatatlan szabályok, amelyek szerint működnek. Amíg nincs szigorú ellenőrzés, minden cégtől érkező nagyívű erkölcsi nyilatkozatot egészséges szkepszissel kell kezelni. Mert ha a világ egyik legnagyobb hatású techóriásánál ilyen szintű hibák történnek, ki merne garanciát vállalni máshol?

2025, adminboss, www.techradar.com alapján