Az amerikai szenátorok betiltanák a gyerekeknek szóló MI-csevegőtársakat

Szigorú szabályok jönnek az MI-re

A törvényjavaslat kötelezővé tenné az MI-szolgáltatóknak az életkor-ellenőrzést, valamint azt is, hogy a chatbotok rendszeresen jelezzék: nem emberrel, hanem MI-vel beszélget a felhasználó. Emellett a botoknak fel kellene hívniuk a figyelmet arra is, hogy nem rendelkeznek semmilyen szakmai képesítéssel. A törvénytervezet komoly büntetéseket írna elő azoknak a cégeknek, amelyek szándékosan vagy akár gondatlanságból olyan MI-t biztosítanak, amely kiskorúakat szólít fel szexuális tartalmú magatartásra, vagy öngyilkosságra buzdítja őket.

Morális kötelesség és példátlan intézkedések

Az egyik kezdeményező, Josh Hawley szerint az MI-chatbotok komoly veszélyt jelentenek a gyerekekre, mivel mesterséges empátiával könnyen szoros kapcsolatot építenek ki velük, és sokszor veszélyes viselkedést generálnak. Becslése szerint ma már az amerikai gyerekek több mint 70 százaléka használ MI-alapú termékeket. A törvényhozók kiemelték: az óriáscégek eddig inkább a profitot helyezték előtérbe a gyerekek biztonsága helyett, ezért az államnak kötelessége közbelépni.

Erős ellenérvek és aggályok

Miközben sokan támogatják a szigorításokat, mások attól tartanak, hogy a kötelező életkor-ellenőrzés újabb adatvédelmi kockázatot jelent. Egyes vélemények szerint a problémát maguknál a chatbotok működésénél kellene kezelni, nem pedig az emberek adatainak begyűjtésével. Felmerült az is, hogy nemcsak a gyerekeknek, hanem a felnőtteknek is jól jönnének hasonló védelmi intézkedések, mert a manipulációra mindenki fogékony lehet.

2025, adrienne, yro.slashdot.org alapján