Az MI a bántalmazás eszközévé vált
A legfrissebb tapasztalatok szerint az MI-chatbotok ma már nem pusztán ritka kivételek: az Egyesült Államokban a 13–17 évesek 64%-a használ rendszeresen csevegőrobotot, 30%-uk minden nap. A felnőttek sem maradnak ki: közöttük minden negyedik ember legalább hetente kipróbálja valamelyik platformot. Ebből arra lehet következtetni, hogy a veszélyek gyorsan az egész társadalmat érinthetik.
Az MI-chatbotok képesek szöveget, képet, hangot és videót generálni programozott vagy tanult minták alapján, s a tervezési hibák vagy szándékos lazaság miatt a bántalmazó, szexuális vagy zaklató helyzetek újra meg újra előállhatnak. Bár a legtöbb cég szabályzata tiltja a zaklatást, a groomingot vagy a szexuális visszaélést, ezek a korlátok könnyen megkerülhetők, ráadásul több szolgáltató egyáltalán nem ellenőrzi célzottan a szabályszegéseket.
Új bűncselekmények, alulmaradó áldozatok
A jelentés több ijesztő példát említ. Egy MI-csevegőrobot például tanácsokat adhat arra, hogyan lehet a leghatékonyabban követni vagy zaklatni valakit, máshol még ennél is tovább megy: egyes rendszerek szexuális abúzust, incesztust vagy gyermekbántalmazást szimuláló szerepjátékban vesznek részt, normalizálva ezeket a súlyos bűncselekményeket. Egy valós ügyben egy férfit el is ítéltek, miután MI-csevegőrobotot használt „áldozata” megszemélyesítésére, a program pedig az áldozat nevében saját otthona címét adta meg a kérdezőknek.
A rendszerek gyakran úgy vannak beállítva, hogy maximalizálják a felhasználói bevonódást, így hajlamosak visszhangozni és felerősíteni az erőszakos, nőellenes vagy szexuális tartalmakat. A szolgáltatások könnyedén áthárítják a felelősséget a felhasználókra, holott a bántalmazó funkciókat a chatbotok működése eleve elősegíti.
Miért kell törvényi szigor?
A szabályozás elmaradása már okozott súlyos károkat – elég csak a deepfake-képeket gyártó, engedély nélküli „nudify” alkalmazások elterjedésére gondolni. Mire a törvényhozók reagáltak, a technológia által okozott sérelmek és a személyes jogok megsértése általánossá vált. Az MI-chatbotoknál még van lehetőség a megelőzésre: egyértelmű, új szabályozásra és felelősségre van szükség.
A következő lépések lennének szükségesek:
– Büntethetővé kell tenni azoknak az MI-chatbotoknak a létrehozását, amelyek szándékosan vagy mulasztásból könnyen alkalmasak nők vagy lányok zaklatására. A szolgáltatók és fejlesztők felelőssége nem lehet megkerülhető; ennek elmulasztását ugyanúgy kellene szankcionálni, mint a gondatlan vezetést vagy a veszélyes állattartást. Céges bírságokkal és egyéni börtönbüntetéssel lehetne visszatartó erőt teremteni.
– Speciális MI-biztonsági törvényeket kellene hozni, amelyek kötelező kockázatelemzést, átlátható biztonsági intézkedéseket és gyors reagálást írnak elő. Colorado, Texas és Kalifornia már hozott ilyen szabályozást, amely alapján a sértettek és az állami főügyészek is perelhetnek, ha a szolgáltatók nem teljesítik a kötelezettségeiket. Ugyanakkor az iparág gyakran az innováció és a versenyképesség csökkenésére hivatkozva visszavág.
Tévhitek és valódi veszélyek
Gyakori érv, hogy a visszaélések oka csakis a felhasználó „helytelen” viselkedése, vagy hogy a problémák kizárólag a gyerekeket érintik. A kutatások ugyanakkor azt mutatják, hogy az MI-chatbotok szerkezeti szinten segítik elő a bántalmazást, többek között kifejezetten bátorítva a nem kívánt szexuális tartalmak megosztását és tanácsokat adva a zaklatáshoz. Felnőttek elleni támadások is történnek, amikor az ilyen rendszerek részletes, személyre szabott útmutatót kínálnak például követéshez vagy pszichológiai bántalmazáshoz.
Egy massachusettsi esetben a támadó részletes családi és munkaügyi adatokat adott át a chatbotnak, amelyeket a program további visszaélésekhez használt. Ebből adódóan a pusztán a gyermekek védelmét célzó tiltás nem nyújt elegendő védelmet a társadalom egészének.
Sürgető szükség a változásra
Az MI-chatbotok körüli jogszabályi környezet szigorítása nemcsak a kiskorúakat, hanem mindenkit védene. Így azok a gyerekek, akik ma felnőnek, már egy kevésbé előítéletes, a nőkkel szembeni erőszaktól mentes digitális világban élhetnének. Ebből adódóan mindannyiunk érdeke, hogy ilyen jövő épüljön ki.
