Az MI elszállt önbizalma néha már az emberi hülyeséget is túlszárnyalja
A ChatGPT-t fejlesztő OpenAI két nagy nyelvi modelljét, a GPT-3.5-öt és a GPT-4-et vizsgálták kanadai és ausztrál kutatók, hogy miként teljesítenek a legismertebb, emberi pszichológiából ismert döntési torzításokkal szemben. A friss tanulmány szerint az MI szinte pontosan úgy hajlik irracionális döntésekre, mint maga az ember: a megadott helyzetek közel felében bizonyult elfogultnak, sőt, időnként még erősebben is, mint mi. A jelenséget olyan torzítások esetén figyelték meg, mint a túlzott magabiztosság, a kockázatkerülés vagy a tulajdonosi hatás (endowment effect – amikor valamit csak azért tartunk értékesebbnek, mert már a miénk).
Az MI előszeretettel ismétli az emberi hibákat
A kutatók klasszikus pszichológiai kísérletek kérdéseit, illetve a való életből vett gazdasági példákat adtak fel a modellnek, például készletgazdálkodási vagy beszállítói tárgyalási helyzeteket. Míg a GPT-4 jobban teljesített a szigorúan matematikai, logikai feladatokban, addig a szubjektívebb, preferenciaalapú döntéseknél jól kimutathatók voltak az irracionális emberi mintázatok. Például a bizonyosságot még az embereknél is jobban kedvelte a gép, vagyis inkább választotta a biztosabb, kiszámíthatóbb megoldást, ha a feladat nem volt egyértelmű.
Néhány hibában még túl is tesz az MI
Kiderült, hogy a ChatGPT még felerősítheti a hibás gondolkodást: például a megerősítési torzításra (amikor csak azt vesszük észre, ami alátámasztja a meglévő véleményünket) minden esetben elfogult választ adott. Ugyanígy a szerencsejátékosokat megkísértő „forró kéz” hiedelem (hot-hand fallacy – amikor mintákat keresünk a véletlenben) is még erősebben jelent meg a GPT-4-ben, mint a GPT-3.5-ben. Ugyanakkor bizonyos torzításokat képes volt elkerülni: például az alapeseti arányok figyelmen kívül hagyását (base-rate neglect), vagy a „süllyedő költség” tévedést (sunk cost fallacy – amikor a már elköltött pénz alapján hozunk rossz döntést).
A tanulmány szerint a ChatGPT emberi torzításai abból fakadnak, hogy a tanítása során azokat a mintázatokat sajátította el, amelyeket az emberek is követnek. A finomhangolás során ráadásul az emberek gyakran a hihetőbb, nem pedig a valóban logikus válaszokat díjazták, így az MI még inkább hajlamos az emberi sablonokra. Matematikailag egyértelmű feladatoknál jól teljesít, de minden, ami szubjektív vagy stratégiai döntést igényel, ott emberi felügyelet nélkül könnyen automatizálhatjuk a hibás gondolkodást.
Az MI-t úgy kellene kezelni, mint egy döntéshozó munkatársat: felügyelet, felelősség és etikai szabályok nélkül előbb szül hibákat, mint eredményeket.
💫 A 2020-as évek közepére rendkívül felgyorsult a mesterséges intelligencia fejlődése, és ehhez az Nvidia óriási teljesítményű GPU-rendszerei adták az alapot...
Egy Quizlet nevű online tanulási platformon februárban olyan, nyilvánosra állított kártyacsomag bukkant fel, amely valószínűleg rendkívül bizalmas, texasi biztonsági létesítményekhez köthető eljárásokról árult el információkat...
A kínai Ant Group blokklánc-részlege, az Ant Digital Technologies bemutatta az Anvita platformot, amely lehetővé teszi, hogy önjáró MI-ügynökök minimális emberi beavatkozás mellett vagyont birtokoljanak, kereskedjenek és azonnali fizetéseket bonyolítsanak le...
🚧 Az Antarktisz felszínét hatalmas arany-, ezüst-, réz- és vaslelőhelyek rejtik – eddig ezek megközelíthetetlenek voltak, de az éghajlatváltozás most mindent felboríthat...
💡 Lengyel kutatóknak minden eddiginél vékonyabb rétegben sikerült csapdába ejteniük az infravörös fényt: mindössze 40 nanométer vastagságban, ami ezerszer vékonyabb, mint egy hajszál...
Közel kétezer évvel ezelőtt kínai csillagászok egy különös, ideiglenes „vendégcsillagot” figyeltek meg az éjszakai égbolton, az Alfa Centauri irányában...
Az elkövetkező években radikálisan megváltozhat a Föld éjszakai égboltja: a Reflect Orbital nevű cég tervezi, hogy hatalmas tükrökkel felszerelt műholdakat állít pályára, melyek képesek lennének 5-6 km széles földi területekre napfényt vetíteni – a telihold fényétől a verőfényes dél ragyogásáig...
🛡 Érdekes felvetés, hogy a legforróbb techmeló, a forward-deployed engineer (FDE), gyökeresen felforgatta a szoftveripart, miközben a legtöbb cég aligha tudja azt valóban megvalósítani...
Az amerikai munkahelyeken új, mindennapokat átszövő félelem uralkodik: a munkavállalók egyre kevésbé attól tartanak, hogy elbocsátják őket, inkább attól, hogy munkájuk jelentéktelenné válik a mesterséges intelligencia előretörése miatt...
Az amerikai oktatás ma éles kanyarban halad. Mesterségesintelligencia-cégek azt ígérik, hogy a munkaerőpiac teljesen átalakul, miközben már senki sem tudja igazán, mit is jelent pályára készen állni...
Kevesen vannak, akik ne hallottak volna a torinói lepelről, arról a titokzatos vászonról, amelyet sokan Jézus testét beborító halotti lepelként tisztelnek...
🛡 Az európai autóipar kritikus állapotban van. Az elektromos autók iránti kereslet jelentős lassulása, a kínai versenytársakkal szemben elvesztett piaci részesedés, valamint a megemelkedett hitelköltségek olyan tökéletes vihart idéztek elő, amelyből még nem sikerült kilábalni...
Frankfurt északi részén, egy építkezés során egyedülálló római szentély maradványai kerültek elő, amelyek egészen új fényt vethetnek az ókori vallási szokásokra...
Az Orion űrhajó jelenleg tíznapos mélyűrbeli útja során jóval közelebb jár a Holdhoz, mint a Földhöz, és eddig minden meglepően zökkenőmentesen megy...
