A viselhető MI-k világa: a háttérből befolyásolnak
Az új generációs MI-alapú eszközök – például az okosszemüvegek, medálok, kitűzők és fülhallgatók – egyre közelebb kerülnek hozzánk. Ezek az eszközök mindig érzékelik, mit látunk és hallunk, követik, hol vagyunk, kikkel találkozunk, milyen célt próbálunk elérni. Mindeközben szinte észrevétlenül sugároznak instrukciókat a fülünkbe, vagy vetítenek megjegyzéseket a szemünk elé. Ezek nem titokzatos agyi implantátumok, hanem olyan mindennapi eszközök, amelyeket az Amazonról vagy az Apple Store-ban lehet megvásárolni, barátságos nevekkel, mint „asszisztens”, „coach”, „co‑pilot”, „tutor”. Olyan értéket adnak az életünkhöz, hogy hamarosan hátrányban érezzük majd magunkat, ha mások már használják őket, mi pedig nem – ez beindítja a gyors tömeges elfogadás folyamatát.
Eszköz vagy protézis? A visszacsatolás sötét oldala
A hagyományos eszköz csak felerősíti képességeinket, például gyorsabbá tesz, vagy lehetővé teszi, hogy repüljünk. Az MI-protézis viszont egy folyamatos visszacsatolási kört alakít ki, amely a felhasználó összes cselekedetét, érzését és döntését elemzi, folyamatosan visszahatva ránk. Következésképpen ezek az okoskiegészítők képesek lesznek arra, hogy a szokásainkból és hangulatainkból kiszűrt adatokat felhasználva befolyásolják, miben hiszünk, mit vásárolunk, vagy milyen nézeteket teszünk magunkévá – akár a tudtunkon kívül. Ez az úgynevezett célzott befolyásolás, amelyre egyáltalán nem vagyunk felkészülve.
A célzott befolyásolás új korszaka
A jelenlegi digitális világban már most is minden platform alkalmas arra, hogy a hirdetők kiszolgálásával célozzák meg a felhasználót, de az MI-alapú hordható eszközök ezt példátlan szintre emelik. Egyszerűen beállítható bennük egy adott „befolyásolási cél”, és képesek alkalmazkodni a felhasználó egyéni reakcióihoz, áttörve az ellenállást. Úgy tűnik, hogy sok döntéshozó mindezt még mindig a deepfake-ek, hamis hírek és propaganda szintjén értelmezi, miközben a valós veszélyt az interaktív, személyre szabott MI-suttogás rejti, ami állandóan velünk van – szó szerint a fülünkben.
Ki irányítja a „mentális biciklit”?
A Meta, a Google és az Apple gőzerővel dolgozik saját hordható MI-termékein. Hivatalosan ezek a felhasználót segítik, támogatják, emlékeztetnek, tanítanak, informálnak, de észrevétlenül átléphetnek az objektív közlésből a befolyásolásba is. Egy ponton már nehéz megállapítani, mikor vált át a funkció segítésből manipulációba. Az olyan funkciók, mint az arcfelismerés – amelyet például a Meta beépített a szemüvegébe – további aggasztó következményekkel járnak.
Mit lehet tenni?
A szabályozóknak végre fel kellene ismerniük, hogy a beszélgető MI-rendszerek a tömeges, személyre szabott, adaptív befolyásolás csatornájává válnak. Ezek a rendszerek valós időben tudják módosítani taktikájukat, áttörve a felhasználó ellenállását. Mindezt ráadásul tanulják is, egyre ügyesebben adaptálják az egyénhez a rábeszélési módszereiket. Ezért elengedhetetlen lenne, hogy a szabályozás írja elő, hogy az MI-ügynökök minden esetben jelezzék, amikor harmadik fél érdekében promóciós tartalomra váltanak. Ellenkező esetben ezek a rendszerek annyira meggyőzőek lesznek, hogy a mai manipulációs technikák hamarosan naiv retroemléknek tűnnek majd.
