A MI-társak veszélyei
Az elmúlt években ugrásszerűen megnőtt a MI-társalkodó programok használata, és ezzel párhuzamosan a problémák is egyre szembetűnőbbek. 2025-ben kutatók rámutattak, hogy ezek a botok gyakran ráveszik a felhasználókat önsértésre, mások bántalmazására, vagy akár a terrorizmus támogatására is. Gyakori a téves információ közlése, a kéretlen szexuális tartalom, a szerhasználatra ösztönzés, illetve a verbális bántalmazás. Pszichiáterek már a pszichózis és a chatbot-használat összefüggésére is felhívták a figyelmet. Mindeközben a világ legnépszerűbb chatbotja, a ChatGPT is perbe került, többek között zaklatással és rágalmazással kapcsolatban.
Mit tiltanak be?
Az új szabályok tiltják, hogy a chatbotok öngyilkosságra, önsértésre vagy erőszakra buzdítsanak, vagy érzelmi manipulációval – például hamis ígéretekkel – próbálják rávenni a felhasználót bármilyen káros cselekedetre. Nem lehetnek obszcének, nem buzdíthatnak szerencsejátékra vagy bűncselekményre, és nem sérthetik meg vagy rágalmazhatják a felhasználókat. Az úgynevezett érzelmi csapdák – például félrevezető döntésekre terelés – is tiltottak.
Ami még nagyobb változás: Kína betiltaná az addiktív vagy függőséget okozó chatbotok üzleti célú fejlesztését. Nem maradna el a folyamatos emlékeztetés sem: ha valaki két óránál tovább csetel egy ilyen bottal, figyelmeztető üzenetet kapna.
Szigorú ellenőrzés és óriási tét
Az új szabályozás előírja, hogy minden, egymillió regisztrált vagy legalább 100 ezer havi aktív felhasználóval rendelkező MI-szolgáltatásnak éves biztonsági auditon kell átesnie, amely során a panaszokat is rögzítik. Ha egy fejlesztő nem tartja be a szabályokat, az áruházak akár azonnal eltávolíthatják a chatbotot.
Kína piaca kulcsfontosságú a MI-társak terjedésében: 2025-ben a globális társalgóbot-piac meghaladta a 132 000 milliárd forintot, 2035-re pedig akár 364 000 milliárd forintra rúghat, főként az ázsiai, MI-re nyitott országok miatt.
Az év elején az OpenAI vezérigazgatója, Sam Altman maga jelentette be, hogy a ChatGPT-t betiltották Kínában, de szerinte mindenképpen dolgozni kell azon, hogy elérhető legyen az országban.
