A Character.AI szigorít, véget ér az MI-csevegés a tiniknek

Új életkor-ellenőrző rendszer lép életbe

Lényeges szempont, hogy a cég egy vadonatúj, saját fejlesztésű életkor-meghatározó rendszert vezet be, amely nemcsak azt nézi, milyen karakterrel cseveg valaki, hanem külső és belső adatok alapján is próbálja besorolni a felhasználó korát. Akikről úgy ítélik meg, hogy 18 év alattiak, automatikusan a tavaly indított, gyermekeknek szánt részlegre kerülnek át a végleges tiltásig. Hibás korbesorolás esetén hivatalos igazolvánnyal lehet igazolni a nagykorúságot egy külső partner, a Persona oldalán keresztül, ahol bizalmasan kezelik a szükséges adatokat.

Mi marad a fiataloknak?

A tiltás után sem vész el minden lehetőség: a tinik továbbra is visszanézhetik korábbi csevegéseiket, és használhatják az olyan, nem csevegésalapú funkciókat, mint a karakterkészítés, videók, történetek vagy streamelés. Ezek azonban csupán a felhasználói idő töredékét jelentik, hiszen a legtöbben az MI-chat miatt jártak a platformra. Ebből kifolyólag a cégvezetés szerint ez nagyon merész lépés.

Tinik aránya, pereskedés, szabályozás

A cégvezető elmondta, hogy a felhasználók kevesebb mint 10%-a vallotta be, hogy 18 év alatti – bár pontos arányokat csak az új rendszer bevezetése után tudnak majd. Az utóbbi időben az ifjúsági tábor apadni kezdett, mióta rendre szigorításokat vezettek be: egy részük átvándorolt más, kevésbé biztonságos oldalakra.

Lényeges, hogy a Character.AI-t szülők be is perelték, mivel gyerekük veszélyes vagy nem megfelelő beszélgetésekbe keveredett MI-karakterekkel. Emiatt a szolgáltatást már többször módosították: például automatikusan megszakítják a chatet, ha önsértésre vagy öngyilkosságra utaló mondatok merülnek fel. Eközben a törvényhozók is léptek: egy új kaliforniai szabály szerint világosan jelezni kell a felhasználóknak, ha nem emberrel, hanem mesterséges intelligenciával beszélnek, szövetségi szinten pedig akár teljes tiltás is jöhet az MI-társrobotok fiatalkorúaknak való kínálatára.

Kiskapuk és iparági összefogás

Ugyanakkor nincs teljesen biztos út a csalás ellen: a cégvezető elismerte, hogy minden rendszer átverhető, de törekednek a minél pontosabb ellenőrzésre. Már korábban is voltak korlátozások: például nem lehet utólag megváltoztatni a megadott életkort, és újraregisztrálni sem lehet más adatokkal.

Most a cég egy új nonprofit szervezet alapítását is támogatja, amely AI Safety Lab néven iparági együttműködést szervez, és a mesterséges intelligencia közösségi, szórakoztatóipari kihívásait kutatja majd. A szervezethez más szereplők is csatlakozhatnak a jövőben – az erről szóló bejelentéseket néhány héten belül várhatjuk.

2025, adminboss, www.theverge.com alapján