Hamis magabiztosság: a tudás helyett meggyőződés
Az Ohio State University kutatóinak eredményei szerint azok, akik algoritmusok által válogatott információkból tanulnak, hajlamosak csak a tartalom kis részére koncentrálni. Emiatt később rossz válaszokat adnak teszteken, ugyanakkor meglepően magabiztosan ragaszkodnak a véleményükhöz. Vagyis már egy rövid algoritmikus tanulás után is erős, de hibás hiedelmek alakulhatnak ki, amelyek teljesen torzíthatják az adott témáról alkotott képet.
Eddig főleg politikai vagy társadalmi témák kapcsán vizsgálták ezt a jelenséget, ahol a felhasználóknak már volt előzetes tudásuk. Most először jelek utalnak arra, hogy a torzítás már akkor hatni kezd, amikor valaki nulláról ismerkedik egy új területtel.
Példa: filmes ízlés algoritmusok nyomán
Képzelj el valakit, aki még sosem nézett filmeket egy adott országból, és egy online szolgáltatás ajánlásaira támaszkodik. Ha a lista élén egy akcióthriller szerepel, könnyen előfordulhat, hogy sorra ismét ezt a műfajt kapja meg. Ennek köszönhetően azt hiheti, hogy ez az ország kizárólag akciófilmeket gyárt, miközben számos egyéb kategória rejtve marad előtte. Így hamis, általános következtetéseket von le egy teljes kultúráról.
Vizsgálat kitalált lényekkel: torz tanulás élőben
A vizsgálatban 346 önkéntesnek kitalált, kristályszerű idegen lényeket kellett megkülönböztetnie, hat véletlenszerűen változó jellemző alapján. Az egyik csoport minden jellemzőt megvizsgált, egy másik viszont algoritmus segítségével választotta ki, melyekre kattint. Utóbbiaknál a rendszer mindig azokat a tulajdonságokat ajánlotta újra, amelyeket korábban is néztek, míg a többi részlet könnyen rejtve maradhatott.
Az algoritmus által irányított résztvevők kevesebb tulajdonságot néztek át, inkább újból és újból ugyanazokat, így gyakrabban hibáztak az ismeretlen lények beazonosításánál. Ami igazán meglepő: ezek az emberek még magabiztosabbak voltak, amikor rossz választ adtak, mint amikor helyeset adtak. Vagyis az algoritmus nemcsak szűk látókört alakított ki, de téves magabiztosságot is.
Mi lesz a gyerekekkel és a jövőnkkel?
Ez a hatás a hétköznapi digitális tanulásban, sőt a gyerekek fejlődésénél is gondokat okozhat. Ha egy fiatal őszintén szeretne tanulni, de a világháló algoritmusai csak ismétlődő, hasonló tartalmakat sodornak elé, esélyes, hogy szinte semmit sem ismer meg a valóságból. Mindez hosszú távon nemcsak az egyén, hanem az egész társadalom tanulását is torzíthatja.
Vagyis az MI-algoritmusok nem csupán befolyásolhatják a véleményeket, hanem átszabhatják azt is, hogyan gondolkodunk a világról.
