A gyerekek sincsenek biztonságban az MI által készített YouTube-videóktól

Valóságvesztés és túlterhelés

A szakértők szerint a mesterségesen készült tartalmak már most is veszélyesen torzíthatják a gyerekek valóságérzékelését, a kognitív megterhelés miatt káros terhet róhatnak az agyukra, sőt kiszorítják azokat a valódi, fejlesztő tevékenységeket, amelyek nélkülözhetetlenek lennének a fejlődéshez. Idővel ezek a hatások komoly problémákhoz vezethetnek, különösen, ha a gyerekek már életük korai szakaszában elmerülnek az MI által generált látványvilágban.

Követelések a gyerekek védelmében

A Fairplay nevű nonprofit szervezet kezdeményezéséhez olyan csoportok csatlakoztak, mint az American Federation of Teachers, a National Black Child Development Association vagy éppen a Mothers Against Media Addiction, valamint ismert gyermekpszichológusok. Más szóval, széles összefogás alakult ki a platform irányváltozásáért. Egybehangzóan követelik, hogy a YouTube:
– világosan jelölje az összes MI-vel készült tartalmat;
– tiltsa ki ezeket a videókat a YouTube Kids alkalmazásból;
– tiltsa meg az MI-gyártású gyerekmesék feltöltését;
– kapcsolja ki a 18 év alatti felhasználóknál az ilyen videók ajánlását;
– vezessen be a szülői felügyeletbe egy egyszerű kapcsolót, amellyel letilthatók az MI-videók még keresés esetén is.
Ehhez hozzátartozik a fejlesztési források leállítása is, vagyis a YouTube ne fektessen pénzt MI-algoritmusok által gyártott gyermekvideókba.

Pert nyertek, de a veszély maradt

Nemrégiben egy bíróság kimondta: a YouTube és a Meta (az Instagram anyacége) nem tett eleget a fiatal felhasználók védelméért. Az ítélet szerint figyelmen kívül hagyták a saját szakértőik figyelmeztetéseit a platformok függőséget okozó és a mentális egészséget romboló hatásairól. A valóságban még ártalmatlannak tűnő rajzfilmek is tartalmazhatnak erőszakos vagy szexuális jeleneteket, amelyek a platform algoritmusain keresztül eljuthatnak a kicsikhez.

Mesterséges mesedömping – valódi következmények

A folyamatos algoritmusfrissítések ellenére a YouTube továbbra sem képes hatékonyan kiszűrni az MI által előállított, rossz minőségű vagy akár veszélyes anyagokat. Ezek közül sok sérti a gyermekvédelmi irányelveket, az MI-animációk pedig gyakran minden figyelmeztetés nélkül tűnnek fel a YouTube Kids ajánlatai között is. Egy friss vizsgálat több ezer problémás videót azonosított, az algoritmusok pedig különösen a kevésbé jómódú családok gyermekeinek ajánlanak ilyen tartalmakat.

Más szóval, az AI-slop leküzdéséhez nem elég néhány új szabály vagy címke: gyökeres változásra van szükség, hogy megóvjuk a mostani generációt a gépi gyártású tartalmak káros hatásaitól.

2026, adminboss, mashable.com alapján