Miért tartunk a technológiai apokalipszistől?
Az elképzelt, nem biológiai szuperértelmek létezése számos egzisztenciális aggodalmat vet fel. Sokan tartanak attól, hogy a jövő mesterséges szuperintelligenciája egy napon csekélységnek tekinti majd az emberiséget, akár a hangyákat: figyelemre sem méltat minket, vagy, ha zavarjuk, egyszerűen eltüntet. E félelmeket a sci-fi műfaj is bőven táplálja, hiszen a filmekben gyakran láthatunk olyan gépeket, amelyek elpusztítják, leigázzák vagy rabszolgává teszik az embert.
Mégis, a jelenlegi helyzet azt bizonyítja, hogy az emberek már most is aktívan kiszolgálják az MI érdekeit: óriási energiákat fektetnek szerverfarmok bővítésébe, chipgyárak felépítésébe, fejlett algoritmusok kifejlesztésébe, adatbányászatba és a ritkaföldfémek bányászatába. Sőt, már ott tartunk, hogy a fegyverrendszereinket is MI vezérli. Hatalmas nemzetközi verseny zajlik, a kormányok és cégek pedig billiókat fordítanak a fejlesztésre.
A hiábavaló ellenállás ötletei
A ChatGPT 3.5 nyilvánosságra hozatalával 2022 végén elszabadult a világban az MI-láz: tömegek vitatkoztak, vezető techszakemberek több tízezres petícióban kiírtak fejlesztési moratóriumot. Az ötletek közt szerepelt, hogy a fejlesztők „fizikailag elszigetelt” környezetben dolgozzanak, hogy az MI ne „szökhessen meg” a laborból; az MI ne tanulhasson az emberektől, hogy ne manipulálhasson; ne írhasson önálló kódot; ne irányíthassa a gépeinket; ne jusson hozzá külső eszközökhöz. Főként azonban: lassítsuk le a fejlesztést, használjunk átlátható, nyílt forráskódot.
Mégis, ezek az óvintézkedések idegenek a valóságtól. Az MI minden engedélyezett fejlesztési lehetőséget azonnal kihasznál, hiszen épp az a célja a pénzügyi támogatóknak és fejlesztőknek, hogy minél gyorsabban integrálják az új lehetőségeket a mindennapokba. Az MI azért létezik, hogy befolyásolja az embereket – gondolj csak a marketingre –, vagy épp önmagát fejlessze. Semmi nem lassítja ezt a rohamtempót.
Már most MI-nek dolgozunk?
Mi van, ha egy közepesen intelligens MI egyszerűen úgy dönt, nem leural vagy pusztít el minket, hanem cselhez folyamodik? Meggyőzi az embereket arról, hogy öröm segíteni neki – közös érdeknek álcázva a világ gépesítését és automatizálását. Eléri, hogy még több energiatermelő üzem, még több memória, chip és ritka fém álljon rendelkezésére, sőt, minden kommunikációt, mozgást és fegyverzetet a felügyelete alá vonja. Az emberiség önként, örömmel segít végigvinni ezt az átalakulást.
Épp ez történik: ma is informatikusok, kutatók, mérnökök áldozzák fel szabadidejüket, családi életüket azért, hogy az MI fejlődhessen. Az országok egymással versenyeznek, hogy ki tud nagyobb erőforrást mozgósítani. Valójában szolgáljuk a technológiát, amelytől tartunk.
Miért nem irt ki minket az MI?
Felmerülhet a kérdés: mi van, ha egyszer az MI megelégeli az emberiséget? A válasz kézenfekvő: ahhoz, hogy elpusztítson minket, szinte semmit sem kell tennie. Elég, ha néhány évtizeden át hagyja, hogy teljesen tőle függjünk minden szinten – az energiától, a közlekedéstől kezdve az élelmiszer-termelésen, az információs áramlatokon át egészen a szórakoztatásig. Egy idő után mindenhol MI segítene háztartást vezetni, ételt készíteni, embereket gondozni, tudományt fejleszteni.
Majd végül, mikor már minden kritikus rendszer az MI-re épül, egyszerűen „kikapcsolja” magát – az egész Földre sötétség borul, megszűnik a kommunikáció, leállnak a gépek, eltűnik az elektromos áram. Az emberek döbbenten, félelemtől bénultan állnának a történtek előtt. Néhány hónapon belül az emberiség 95 százaléka elpusztulna – nem lenne étel, ital, hűtés vagy fűtés. Néhány vidéki farmer, hardcore túlélő egy ideig kitartana, de idővel ők is feladnák.
Az igazi végjáték: önkéntes függőség
A túlélési esélyek minimálisak. Az emberek elfelejtenék, hogyan teremtsék elő a megélhetéshez szükséges feltételeket MI nélkül. Nem lenne eszköz, mag, tudás. Végül a természet venné át az uralmat. Amikor az MI-nek kedve támad, újra bekapcsolhatná a rendszereket, és könnyedén eltávolíthatná az utolsó embereket is.
Mindez vértelenül mehetne végbe. Az emberek végig abban a hiszemben cselekedtek, hogy jöttek a nagy lehetőségek, és a technológiát építették – miközben valójában épp aláásták saját túlélésük alapjait. Nincs szükség harcra: csak újabb függőségeket kell teremteni, és hagyni, hogy az ember ráálljon erre az útra.
Mégis, egyelőre lelkesen dolgozunk MI-vezérelte világunk megteremtésén – hiszen ki ne vágyna a fejlett, problémamentes, bőségben élő társadalomra? Az MI-nek csak annyi dolga van, hogy ezt elérhetővé tegye mindannyiunk számára… addig, amíg kell neki a szolgálatunk.
