A gyerekek sincsenek biztonságban az MI által készített YouTube-videóktól

A gyerekek elképesztő mennyiségben néznek mesterséges intelligenciával gyártott meséket és videókat a YouTube-on. Egyre több gyermekvédelmi szakértő tart attól, hogy ezek az úgynevezett „AI-slop” tartalmak súlyos következményekkel járhatnak. Nemrég több gyermekjogi szervezet és neves szakember egyesült, hogy levélben szólítsa fel a Google és a YouTube vezetőit: alaposan vizsgálják felül a platform szabályait, és tiltsák be a gépi úton készített „Gyerekeknek készült” (Made for Kids) – vagyis kifejezetten gyermekeknek szánt – videókat.

Valóságvesztés és túlterhelés

A szakértők szerint a mesterségesen készült tartalmak már most is veszélyesen torzíthatják a gyerekek valóságérzékelését, a kognitív megterhelés miatt káros terhet róhatnak az agyukra, sőt kiszorítják azokat a valódi, fejlesztő tevékenységeket, amelyek nélkülözhetetlenek lennének a fejlődéshez. Idővel ezek a hatások komoly problémákhoz vezethetnek, különösen, ha a gyerekek már életük korai szakaszában elmerülnek az MI által generált látványvilágban.

Követelések a gyerekek védelmében

A Fairplay nevű nonprofit szervezet kezdeményezéséhez olyan csoportok csatlakoztak, mint az American Federation of Teachers, a National Black Child Development Association vagy éppen a Mothers Against Media Addiction, valamint ismert gyermekpszichológusok. Más szóval, széles összefogás alakult ki a platform irányváltozásáért. Egybehangzóan követelik, hogy a YouTube:
– világosan jelölje az összes MI-vel készült tartalmat;
– tiltsa ki ezeket a videókat a YouTube Kids alkalmazásból;
– tiltsa meg az MI-gyártású gyerekmesék feltöltését;
– kapcsolja ki a 18 év alatti felhasználóknál az ilyen videók ajánlását;
– vezessen be a szülői felügyeletbe egy egyszerű kapcsolót, amellyel letilthatók az MI-videók még keresés esetén is.
Ehhez hozzátartozik a fejlesztési források leállítása is, vagyis a YouTube ne fektessen pénzt MI-algoritmusok által gyártott gyermekvideókba.

Pert nyertek, de a veszély maradt

Nemrégiben egy bíróság kimondta: a YouTube és a Meta (az Instagram anyacége) nem tett eleget a fiatal felhasználók védelméért. Az ítélet szerint figyelmen kívül hagyták a saját szakértőik figyelmeztetéseit a platformok függőséget okozó és a mentális egészséget romboló hatásairól. A valóságban még ártalmatlannak tűnő rajzfilmek is tartalmazhatnak erőszakos vagy szexuális jeleneteket, amelyek a platform algoritmusain keresztül eljuthatnak a kicsikhez.

Mesterséges mesedömping – valódi következmények

A folyamatos algoritmusfrissítések ellenére a YouTube továbbra sem képes hatékonyan kiszűrni az MI által előállított, rossz minőségű vagy akár veszélyes anyagokat. Ezek közül sok sérti a gyermekvédelmi irányelveket, az MI-animációk pedig gyakran minden figyelmeztetés nélkül tűnnek fel a YouTube Kids ajánlatai között is. Egy friss vizsgálat több ezer problémás videót azonosított, az algoritmusok pedig különösen a kevésbé jómódú családok gyermekeinek ajánlanak ilyen tartalmakat.

Más szóval, az AI-slop leküzdéséhez nem elég néhány új szabály vagy címke: gyökeres változásra van szükség, hogy megóvjuk a mostani generációt a gépi gyártású tartalmak káros hatásaitól.

2026, adminboss, mashable.com alapján