Őrök vagy kizsákmányolók?
Chen úgy látja, hogy a techcégeknek kellene őrködniük az emberiség felett, védeniük a biztonságot és átformálniuk a társadalmat. Ez mégis igencsak hátborzongató – hiszen éppen azok kapnák kézbe a sorsunkat, akik előidézik ezt a soha nem látott átalakulást. Oppenheimer és a Manhattan-terv sem kért felhatalmazást az atombomba utáni világ újrarendezésére – ráadásul a nyereségvágy és piaci logika mindig elsőbbséget kap az emberi érdekekkel szemben.
Az MI már most meghatározza, mit látunk az interneten, hogyan viselkedünk, mire költünk – mindezt pedig üzleti érdekből, a felhasználók és adataik minél teljesebb kiaknázása érdekében. Jelentőséggel bír, hogy ezek a cégek rendszerint elkerülik a felelősségre vonást, miközben a bevétel és a növekedés minden mást maga alá gyűr.
Lassú szabályozás, gyors változás
Mégsem várható gyors áttörés a szabályozó hatóságoktól. Az Európai Unió MI-törvénye jó kiindulás, de önmagában kevés. Az Egyesült Államok szabályozása lassú és széttagolt, a kongresszusi meghallgatások jellemzően tele vannak üres frázisokkal. Kína ugyan gyorsabban lép, de nehéz lenne példaként állítani az ottani centralizált, autoriter modellt, ahol a megfigyelés és a szólásszabadság korlátozása is mindennapi.
A jelenlegi szabályozási környezet felületes, inkoherens és rendre késik. De ebből nem következik, hogy érdemes átadni az irányítást a fejlesztők és a cégek kezébe, akik nem semlegesek, nem barátaink, és egyértelműen nem alkalmasak arra, hogy a társadalom gondoskodó letéteményesei legyenek. Számukra minden erkölcsi dilemma könnyen a prezentációk mellékletében végzi, ha az a profitot vagy a növekedést veszélyezteti.
Károk, amelyeket senki nem orvosol
Egy MI-alapú toborzórendszer diszkriminatívvá válik? Megjavítani pénzbe kerül. Az automata tartalomgenerátor elárasztja az internetet gagyi anyaggal? Kikapcsolni bevételkiesést jelent. Ezek a cégek csak akkor lépnek, ha már muszáj, de legtöbbször már elkéstek.
Jelentőséggel bír, hogy az iparág számtalan alkalommal bizonyította: képtelen önszabályozással az egyéni haszonszerzés fölé helyezni a közjót. Borzalmas jövőképet fest, ha épp azok alakítják át a társadalmat, akik már most is szélsőségesen kizsákmányoló algoritmusokat alkalmaznak.
Nem fejlődésellenesség, hanem emberközpontúság
Az MI-ellenesség nem erről szól: a ludditák sem a gépeket utálták, hanem az őket kizsákmányoló gyárosokat. Chen Deli helyesen mutat rá a veszélyekre, de a megoldás nem a vállalati vezetők kezében van. A civil társadalomnak, kormányoknak, független kutatóknak, sőt, elvhű techszakembereknek együtt kell megalkotni azokat a keretrendszereket, amelyek valóban képesek féken tartani az MI-t és képviselni az emberek érdekeit. Ezek nem fognak maguktól létrejönni – a társadalom aktív fellépése szükséges.
Merre tovább?
A fentiek tükrében, ha az előttünk álló évtized tényleg mindent felforgató változásokat hoz, nem lesznek elegendőek a vállalati ígérgetések. Kemény, érvényesíthető szabályokra van szükség, hogy az emberi méltóság és biztonság ne váljon csak egy újabb eladható termékké.
