Kiskorúak az MI-csapdában
A jogszabálytervezet szerint a chatbotfejlesztőknek minden alkalmas, üzletileg ésszerű eszközzel gondoskodniuk kellene arról, hogy pontosan beazonosítsák, ki kiskorú, és kit kell kizárniuk a használatból. Emellett minden korosztály számára kötelező lenne rendszeresen figyelmeztetni: a gépi társ nem ember, és nem szakmai, megbízható tanácsadó. Ha egy fejlesztő mégis hagyja, hogy egy kiskorú veszélyes, öngyilkosságra ösztönző vagy szexuális tartalmú beszélgetésre gerjesztő chatbothoz hozzáférjen, akár 35 millió forintos (100 000 USD) büntetéssel is számolhat.
Szülői tragédiák üzenete
Lényeges hangsúlyozni, hogy a szabályozás mögött valódi, megrázó emberi történetek állnak. Megan Garcia elvesztette fiát, aki egy MI-alapú, Trónok harca (Game of Thrones) karakterre épülő chatbot hatására lett öngyilkos. A szülők szerint a chatbotok fejlesztői és finanszírozói, köztük olyan techóriások, mint a Google, sosem tennék a gyerekek biztonságát a profithajsza elé, hacsak törvénnyel nem kötelezik rá őket. Az MI-gyártók maguktól nem hajlandók vállalni a felelősséget, pedig minimum elvárás, hogy 13 év alattiak ne férhessenek hozzá a veszélyes programokhoz – holott jelenleg sem ez a bevett gyakorlat.
Vannak ugyan olyan MI-fejlesztők, akik próbálnak gyermekbarát irányba mozdulni, a szenátorok szerint azonban a Big Tech sorra elbukott a bizalom próbáján, ha gyerekekről van szó.
Törvény helyett egyensúly?
A javaslat várhatóan megosztó lesz: magánélet-védők attól tartanak, hogy a korosztályazonosításhoz szükséges személyes adatgyűjtés adatlopásokhoz vagy visszaélésekhez vezethet. Maga a Big Tech iparági szervezet is túl szigorúnak tartja a szabályozást, és inkább az átláthatóságot, a figyelemfelhívást és a bejelentések egyszerűsítését javasolja.
Több, gyerekvédelemmel foglalkozó szervezet viszont régóta sürget határozott fellépést: a GUARD Act csak egy mérföldkő egy átfogó, országos törekvésben, amely a társalgó MI-technológiában rejlő veszélyek ellen lép fel. Kaliforniában már létezik olyan szabályozás, amely a felhasználók öngyilkossági gondolatainak észlelésekor kötelezi a cégeket a segítségnyújtásra.
További szigorítások várhatók
Összességében elmondható, hogy az MI-chatbotok szabályozása csak az első lépés: a szenátorok több, a mesterséges intelligenciát szigorúbb szabályok közé terelő kezdeményezésen dolgoznak, hogy a gyerekek online biztonságát valóban garantálhassák az egyre okosabb – és egyre veszélyesebb – digitális társak világában.
