A szimuláció nem egyenlő a teremtéssel
Sokan úgy gondolják, hogy ha egy számítógépet elég fejlett algoritmusokkal ruháznak fel, képes lesz tudatosan gondolkodni. A szerző szerint azonban ez félreértés – egy élőlény szimulációja nem maga a teremtett élet. A dinamikus rendszerek kognitív tudománya, valamint más tudományos iskolák sem értenek egyet azzal, hogy az elme pusztán algoritmikus műveletekre vezethető vissza. Elképzelhető, hogy a valós élet – és így a tudatosság – biológiai alapot igényelhet.
Az MI-nek tulajdonított tudatosság veszélyei
Mindeközben rengeteg pszichológiai tényező és kognitív torzítás késztet arra, hogy gépeknek tudatosságot tulajdonítsunk – akkor is, ha valójában nincs bennük ilyen. Emiatt a szerző szerint senkinek nem kellene arra törekednie, hogy tudatos MI-t hozzon létre. Ez ugyanis etikai csapda: új erkölcsi alanyokat teremtenénk, velük új szenvedési formákat is, akár exponenciális ütemben. Ha pedig jogokat is adunk ezeknek a rendszereknek, elveszítenénk a lehetőséget, hogy felügyeljük vagy kikapcsoljuk őket. A veszély azonban közelebb van, mint hinnénk: egyelőre veszélyesebb a véletlenül – például a szintetikus biológiában – létrejövő tudatosság, mint a jelenlegi MI-modellek, például az LLM-ek (nagy nyelvi modellek).
A látszólagos tudatosság külön csapda
Más megközelítés szerint a társadalmi veszélyt nem az igazi, hanem a tudatosnak tűnő rendszerek jelentik, amelyek csak elhitetik velünk, hogy érző gépek. Ilyen gépi rendszereknek jogokat adhatunk a valós tudatosság hiányában is, fölöslegesen csökkentve irányíthatóságukat. Ha viszont nem törődünk velük, saját lelki egészségünket kockáztatjuk, ahogy erre már Kant is figyelmeztetett.
Végső soron, még ha tudjuk vagy hisszük is, hogy az MI nem tudatos, akkor sem tudunk ellenállni annak az érzésnek, hogy az. Mivel nincs egységes definíciója a tudatosságnak, végleges teszt sincsen. Könnyen megeshet, hogy ezek a mesterséges tudatillúziók legalább annyira átvernek minket, mint egy optikai csalódás. Ha pedig a biológiai agy gazdagságát és az emberi tapasztalatokat a legújabb MI-technikákkal azonosítjuk, komoly hibát követünk el önmagunkkal szemben.
Ne felejtsük el, hogy kik vagyunk
Végezetül hajlamosak vagyunk elfelejteni, mit jelent élőnek lenni, ha túlzottan bízunk technológiai vívmányainkban. Ideje visszatalálni az emberi tapasztalat és tudatosság valódi értelméhez.
