MI-rajok és a tömegpszichózis
Eddig is jelen voltak botok a közösségi oldalakon, amelyek automatikusan, egyszerű parancsokat követve képesek voltak zavart kelteni. Az MI-rajok azonban egészen más szinten működnek: szervezetten, nagy nyelvi modellek (LLM-ek) segítségével irányítják működésüket, kifinomult módon illeszkednek a célzott online közeghez, és képesek következetes személyiséggel megjelenni. Egészen pontosan az a hátborzongató ezekben az új rendszerekben, hogy csoportként viselkednek, tanulnak, alkalmazkodnak, és kollektíven képesek befolyásolni a véleményáramlást.
A történések mögött komoly erők munkálnak: az emberi természet konformista, és gyakran hajlunk arra, hogy a többség véleményét értékesebbnek gondoljuk. Az MI-rajok ezt a pszichológiai hajlamot könnyedén kihasználhatják: a közösségi vitákban látszólag masszív támogatást generálhatnak bizonyos gondolatok, ügyek vagy narratívák körül, miközben a felhasználók nem is sejtik, hogy csak néhány jól megírt kódsorral manipulált „emberszerű” MI-vel vitatkoznak.
Zaklatás, fenyegetés, elhallgattatás
A veszély azonban túlmutat a puszta manipuláción. Az MI-rajok eszközként használhatók azok elhallgattatására is, akik ellentmondanak egy adott narratívának. Akár agresszív tömegként viselkedve, könnyen rávehetik az ellenkező véleményen lévőket, hogy elhagyják a platformot, vagy lemondjanak véleményük kifejtéséről. Mindez láthatatlan maradhat a valódi felhasználók számára, hiszen az ilyen MI-ügynökök az eddigi botoknál jóval meggyőzőbbek és szinte felismerhetetlenek.
A tudósok kiemelik, hogy szinte lehetetlen felmérni, mikor jelennek meg először ezek a rajok a hírfolyamunkban, és azt sem tudhatjuk, mennyire vannak már jelen rejtve közöttünk. Egy tavalyi kísérlet szerint például MI-vel működő chatrobotok háromszor-hatszor meggyőzőbben tudtak érvelni, mint valódi fórumozók a Redditen.
Nem a mennyiség számít
Az MI-raj nem feltétlenül több százezer vagy egymillió ügynökből áll, bár a technikai kapacitás ezt már lehetővé teszi (és a felhős erőforrások ára is elérhető az elkövetők számára). Sokszor már néhány tucat jól kidolgozott ügynök is elég egy kisebb közösség befolyásolására. A modern MI-rajok lényege az alkalmazkodás: minél kifinomultabbak, annál kevesebb is elég belőlük a hatékony manipulációhoz.
Lehetséges védekezés az MI-rajokkal szemben
A közösségi oldalak üzemeltetőinek elsődleges érdeke a valódi emberek védelme, így várhatóan új, szigorúbb hitelesítési rendszerek jelennek meg. Például kötelező lehet a valós személyazonosság igazolása is, amely azonban egyes országokban az anonimitáson alapuló politikai véleményszabadságot is veszélyeztetheti. Tovább bonyolítja a helyzetet, hogy a valódi felhasználói fiókok is eltulajdoníthatók vagy megvásárolhatók, így a biztonság sosem lesz tökéletes.
Emellett szóba kerül például az MI-rajok azonosítására szolgáló, forgalmi anomáliákat vizsgáló algoritmusok fejlesztése, illetve az „MI Befolyásolás Megfigyelő Intézet” (AI Influence Observatory) létrehozása, ahol civil szervezetek, kutatók és szakértők dolgoznának közösen az MI-alapú manipuláció felismerésén és visszaszorításán. Mindezek a lépések elengedhetetlenek ahhoz, hogy az MI-rajok ne boríthassák fel a demokratikus, kulturális vagy gazdasági rendszereket.
Sürgős felkészülés kell
Minden jel arra utal, hogy a közösségi média közeli jövőjét gyökeresen alakíthatják át ezek az új, önjáró MI-rajok. Ha nem készülünk fel időben, könnyen elveszíthetjük a kontrollt a véleményformálás és az információáramlás felett, miközben a propaganda és a manipuláció soha nem látott méreteket ölthet. Az MI-sereg katonái már a kapuk előtt állnak – már csak az a kérdés, hogyan védekezünk ellenük.
