A kognitív átadás csapdája
A kutatók egy sor teszttel vizsgálták, mennyire hajlamosak az emberek a saját kritikus gondolkodásuk helyett az MI válaszára hagyatkozni. A résztvevőknek látszólag egyszerű kérdéseket tettek fel, amelyekre mégis gyakran adtak intuícióalapú (és hibás) válaszokat – főleg, ha az MI segített nekik a döntésben. A kísérlethez használt MI-chatbot szándékosan a válaszok felénél hibás választ adott, míg a másik felénél helyeset. Feltételezték, hogy a chatbot rendszeres használata elnyomja a résztvevők belső kritikai mechanizmusait, különösen, ha a rendszer magabiztos, de helytelen választ ad.
Az MI hamis biztonsága
Az egyik kulcstalálat, hogy míg a chatbot pontos válaszai esetén az esetek 93%-ában elfogadták azokat, a hibás válaszokat is az esetek 80%-ában elfogadták. Ez azt jelenti, hogy pusztán az MI jelenléte máris visszaszorította az egyéni gondolkodást. Nem meglepő módon az MI-t használó csoport jobban teljesített, ha az MI jó választ adott, de jelentősen rosszabbul, ha az MI tévesen válaszolt. Ennek ellenére az MI-t használók a saját válaszaikat illetően közel 12%-kal magabiztosabbnak érezték magukat, mint azok, akik önállóan dolgoztak, pedig a chatbot válaszainak fele hibás volt.
Pénz, idő és döntéshozatal
A tanulmány azt is vizsgálta, hogyan befolyásolják külső tényezők ezt a kognitív átadást. A kis pénzjutalmak és a gyors visszacsatolás jelentősen növelték az esélyét annak, hogy a résztvevők felismerjék és helyreigazítsák az MI hibáit. Viszont ha időkorlátot (30 másodperc) vezettek be, drasztikusan csökkent a hibák kiszűrésének hajlandósága. Nem egyértelmű, de lehetséges, hogy időnyomás esetén az ember belső ellenőrző rendszere kevésbé működik, és az emberek inkább átveszik a válaszokat az MI-től.
Nem mindenki dől be az MI-nek
A kísérlet során több mint 1 370 résztvevő összesen 9 500 kérdésen keresztül mutatta be, hogy az esetek 73%-ában minden további nélkül elfogadják a hibás MI-megoldásokat, és mindössze az esetek 20%-ában mondanak ellent. Akik általában is kritikusabbak, ritkábban használtak MI-t, és nagyobb eséllyel javították az MI hibás válaszait. Akik viszont eleve tekintélynek látták a mesterséges intelligenciát, hajlamosabbak voltak bedőlni a tévedéseknek.
Az MI minősége = az eredményeid minősége
A kutatók szerint, bár veszélyes túlságosan megbízni egy olyan rendszerben, amely a válaszok felét elrontja, elképzelhető, hogy egy jobb MI-rendszer statisztikai alapon még az emberi döntéseket is felülmúlhatja bizonyos helyzetekben. Ám bármikor, amikor a mesterséges intelligenciára bízzuk a gondolkodást, a döntéseink csak annyira lesznek helyesek, amennyire az adott MI. Ez a kognitív átadás lehetőségeket és komoly sérülékenységeket egyaránt hordoz magában.
