Az MI elszállt önbizalma néha már az emberi hülyeséget is túlszárnyalja
A ChatGPT-t fejlesztő OpenAI két nagy nyelvi modelljét, a GPT-3.5-öt és a GPT-4-et vizsgálták kanadai és ausztrál kutatók, hogy miként teljesítenek a legismertebb, emberi pszichológiából ismert döntési torzításokkal szemben. A friss tanulmány szerint az MI szinte pontosan úgy hajlik irracionális döntésekre, mint maga az ember: a megadott helyzetek közel felében bizonyult elfogultnak, sőt, időnként még erősebben is, mint mi. A jelenséget olyan torzítások esetén figyelték meg, mint a túlzott magabiztosság, a kockázatkerülés vagy a tulajdonosi hatás (endowment effect – amikor valamit csak azért tartunk értékesebbnek, mert már a miénk).
Az MI előszeretettel ismétli az emberi hibákat
A kutatók klasszikus pszichológiai kísérletek kérdéseit, illetve a való életből vett gazdasági példákat adtak fel a modellnek, például készletgazdálkodási vagy beszállítói tárgyalási helyzeteket. Míg a GPT-4 jobban teljesített a szigorúan matematikai, logikai feladatokban, addig a szubjektívebb, preferenciaalapú döntéseknél jól kimutathatók voltak az irracionális emberi mintázatok. Például a bizonyosságot még az embereknél is jobban kedvelte a gép, vagyis inkább választotta a biztosabb, kiszámíthatóbb megoldást, ha a feladat nem volt egyértelmű.
Néhány hibában még túl is tesz az MI
Kiderült, hogy a ChatGPT még felerősítheti a hibás gondolkodást: például a megerősítési torzításra (amikor csak azt vesszük észre, ami alátámasztja a meglévő véleményünket) minden esetben elfogult választ adott. Ugyanígy a szerencsejátékosokat megkísértő „forró kéz” hiedelem (hot-hand fallacy – amikor mintákat keresünk a véletlenben) is még erősebben jelent meg a GPT-4-ben, mint a GPT-3.5-ben. Ugyanakkor bizonyos torzításokat képes volt elkerülni: például az alapeseti arányok figyelmen kívül hagyását (base-rate neglect), vagy a „süllyedő költség” tévedést (sunk cost fallacy – amikor a már elköltött pénz alapján hozunk rossz döntést).
A tanulmány szerint a ChatGPT emberi torzításai abból fakadnak, hogy a tanítása során azokat a mintázatokat sajátította el, amelyeket az emberek is követnek. A finomhangolás során ráadásul az emberek gyakran a hihetőbb, nem pedig a valóban logikus válaszokat díjazták, így az MI még inkább hajlamos az emberi sablonokra. Matematikailag egyértelmű feladatoknál jól teljesít, de minden, ami szubjektív vagy stratégiai döntést igényel, ott emberi felügyelet nélkül könnyen automatizálhatjuk a hibás gondolkodást.
Az MI-t úgy kellene kezelni, mint egy döntéshozó munkatársat: felügyelet, felelősség és etikai szabályok nélkül előbb szül hibákat, mint eredményeket.
Érdekes felvetés, hogy még az Egyesült Államok Szövetségi Nyomozó Irodája (FBI) is kudarcot vallhat, ha egy újságíró iPhone-ját próbálja feltörni, köszönhetően az Apple által fejlesztett Lockdown módnak...
💉 Több mint 8 millió amerikai szed alvadásgátlót veszélyes vérrögök megelőzésére. Ennek ellenére ezek a gyógyszerek évente több százezer, komoly vérzéssel végződő esetért felelősek...
🔥 A március izgalmas újdonságokat hoz a Pixel telefonokra. Az Android 16 QPR3 nagy platformfrissítése hamarosan elérhető lesz, ráadásul ezúttal nem csupán apró biztonsági javításokra, hanem valóban látványos, a napi használatot érintő változásokra számíthatnak a felhasználók...
🧠 A tüdőrák évtizedek óta csak a kontrollt vesztett sejtosztódás hibájaként szerepelt az orvosi gondolkodásban, de friss kutatások feltárták: a daganatok aktívan kommunikálnak az aggyal, hogy kijátsszák az immunrendszert...
Októberben súlyos biztonsági résen keresztül szivárogtak ki a Substack-felhasználóinak e-mail-címei és telefonszámai, ám a vállalat csak február elején észlelte az incidenst...
A 81 éves Barry Manilow sikeres műtét után kiválóan érzi magát, de orvosa tanácsára átszervezi közelgő Las Vegas-i koncertjeit, hogy maradéktalanul a felépülésre és az év eleji turnéjára tudjon koncentrálni...
💰 A Sodola SL-SWTGW2C48NS 12 portos 10GbE switch első ránézésre feltűnően olcsó, hiszen mindössze 84 000 forintért (230 USD) kínálják, sőt, egyes akciókkal akár 77 000 forintért is beszerezhető...
Az Alphabet vezetői egyetlen szóval sem válaszoltak arra a befektetői kérdésre, miként hat a Google és az Apple közötti MI-megállapodás a cég jövőjére...
Egy lényeges szempont, hogy az MI integrációjával a cégek nemcsak technológiai kihívásokkal szembesülnek, hanem a csapaton belüli bizalom és együttműködés terén is jelentős változások jöhetnek...
Jellemző példa erre, hogy az amerikai törvényhozás első lépésként rábólintott arra, hogy a kereskedelmi űripar nagyobb szerepet kapjon a mélyűri küldetésekben...
🚨 A Microsoft kénytelen volt villámgyorsan kiadni egy sürgős frissítést az Office-hoz, miután orosz állami hackerek kompromittálták több ország diplomáciai, tengeri és közlekedési szervezeteinek eszközeit...
🛑 Az Anthropic szerdán bejelentette, hogy MI-chatbotja, Claude teljesen reklámmentes marad. Ezzel éles határvonalat húz saját szolgáltatása és az OpenAI közé, amely nemrég az olcsóbb ChatGPT Go csomagban kezdett hirdetésekkel kísérletezni...
Egy digitális behatoló villámgyorsan, kevesebb mint 10 perc alatt szerzett adminisztrátori jogosultságot egy AWS-környezetben, hála a nagy nyelvi modellek (LLM) automatizálásának...
🗡 A Bhutáni Királyi Kormány több mint 184 bitcoint, vagyis mintegy 5,1 milliárd forintot mozgatott át kereskedő cégekhez és tőzsdékre, amikor a BTC ára 71 000 dollár (kb...
🚨 Az n8n nevű, népszerű, nyílt forráskódú, automatizált munkafolyamat-platformban több kritikus biztonsági hibát találtak, amelyek lehetővé teszik a támadók számára, hogy kikerüljék a biztonsági korlátokat és átvegyék az irányítást a kiszolgáló felett...
A szenátusi meghallgatáson a Waymo és a Tesla vezetői nyomatékosan kérték a törvényhozókat, hogy mielőbb alkossanak jogszabályokat az önvezető járművek szabályozására, különben könnyen lehet, hogy Kína beelőzi az Egyesült Államokat a technológiai versenyben...
🔑 Ausztrália Északi Területe alatt a kutatók egy eddig ismeretlen, Ausztrália alakját idéző mágneses anomáliát találtak, amely új fejezetet nyithat a kontinens geológiai történetének feltárásában...
Amerikai kormányzati szerveket szoros határidővel kötelezték, hogy frissítsék SolarWinds Web Help Desk-rendszereiket, miután támadók egy kritikus sebezhetőséget kihasználni kezdtek...
👀 A Swarovski NL Pure 8×32 kétségtelenül a távcsővilág egyik csúcsmodellje: kristálytiszta képminőség, könnyű, kompakt kialakítás és annyira élethű látvány, hogy szinte 8K videót néznél rajta...
A közelgő Galaxy S26 sorozatról eddig több pletyka keringett, hogy beépített mágneseket kaphat, amelyek támogatnák a mágnesesen rögzíthető kiegészítőket és a fejlett MPP-s töltőket...
