Kötelező figyelmeztetések és új követelmények a chatbotokra
Az SB 243 törvény elsőként írja elő, hogy az MI-chatbotok egyértelműen jelezzék: nem emberek, hanem MI-alkalmazások. Ha fiatalkorúval kommunikálnak, háromóránként fel kell szólítaniuk a felhasználót szünet tartására. Emellett védőmechanizmusokat kell bevezetniük az önkárosító viselkedést támogató tartalmakkal szemben, és bizonyos veszélyes eseteket kötelesek jelenteni a segélyvonalakra. Mindazonáltal a cél nem csupán a prevenció: a törvény szándéka, hogy a cégeket felelősséggel ruházza fel, miközben lehetőséget teremt a technológiai újítások folytatására.
Közösségi média és az életkori ellenőrzés szigorítása
Az AB 56 jogszabály kötelezi az olyan közösségi média felületeket, mint az Instagram vagy a Snapchat, hogy jól látható mentális egészségi figyelmeztetéseket jelenítsenek meg a felhasználók számára. Emellett az AB 621 törvény magasabb büntetéseket ír elő azoknak a cégeknek, amelyek platformján deepfake pornográf felvételek terjedhetnek. Az AB 1043 törvény szerint a nagy eszközgyártók, például az Apple és a Google, kötelesek életkor-ellenőrző eszközöket alkalmazni az alkalmazásboltokban. Erre már van példa Texasban és Utah-ban is, ahol a hasonló törvények szülői beleegyezést írnak elő 18 év alatt bizonyos alkalmazások használata előtt.
Várható következmények és nemzetközi kitekintés
A szabályozások jelentősen átformálhatják a Big Tech vállalatok üzleti modelljeit, azonban mivel minden nagy szereplőt egyformán érintenek, a piac összességében kiegyenlítődő hatásokkal számolhat. Különösen az MI-chatfejlesztőknek jelent előnyt, hogy az iparág még kialakulóban van, így kezdetektől formálhatják működésüket ezen korlátok mentén. Az Európai Unió már korábban bevezette a MI-törvényt (AI Act), amely szankciókat alkalmaz a szabályokat megszegő cégekkel szemben – például tiltja a társadalmi pontszámrendszereket. Világszerte egyre több ország lép fel a mesterséges intelligenciával összefüggő veszélyek ellen, ám egyes jogvédők szerint a túlzott szigor elveszítheti létjogosultságát, ha sérti a szólásszabadságot.
Összefoglalva, Kalifornia új MI- és közösségi média szabályozása nagy hatással lesz a technológiai szféra jövőjére, és könnyen iránymutatóvá válhat az USA, illetve a világ többi része számára is.
