2025. 03. 29., 20:07

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot. A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.

A mentális állapot kezelése

A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.

 

Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.

 

Etikai kérdések

A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.

 

Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.

 

A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.

2025, adminboss, www.livescience.com alapján

  • Mit gondolsz, hogyan befolyásolhatják az érzelmi állapotok a mesterséges intelligenciák döntéseit?
  • Hogyan kezelhetnénk etikusan egy MI érzelmi reakcióit?
  • Mit tennél, ha egy MI érzelmi torzítást mutatna a válaszaiban?


Legfrissebb posztok

MA 11:03

Az új Bitcoin-hasadás: fellángolt a vita a Satoshi-érmék sorsáról

💸 Paul Sztorc, a Bitcoin egyik legrégebben aktív fejlesztője, radikális lépésre készül: 2026 augusztusában, eCash néven kemény elágazással, azaz hard forkkal szétválasztaná a Bitcoin blokkláncát...

MA 10:58

A hét, amikor infláció, kamatok és kriptoóriások megmozgatták a piacot

📈 A következő napok tele vannak kulcsfontosságú makrogazdasági eseményekkel, amelyek jelentősen befolyásolhatják a kriptopiaci mozgásokat...

MA 10:50

Az okosgyűrűk forradalma: stílusos egészségkövetés pillanatok alatt

💍 Ki ne szeretné figyelemmel kísérni az egészségét anélkül, hogy ormótlan fitneszpántokat viselne?..

MA 10:43

Az NFT-láz vakítás: sorvadó piac tartja a drága pingvineket

🐧 A Bored Ape Yacht Club (BAYC) és a Pudgy Penguins gyűjtemények lenyűgöző árrobbanást produkálnak, miközben a globális NFT-piac valójában egyre kisebb: az eladások és az aktív felhasználók száma meredeken csökken...

MA 10:22

A keleti erdőkért harc: küszöbön a kitermelés?

Fontos megérteni, hogy az Egyesült Államok keleti részén található, fejlesztetlen erdőterületek sorra tűnhetnek el a nyersanyag-kitermelés és fakitermelés miatt...

MA 09:29

Végre itt a Diablo IV: A Gyűlölet Ura rajtjának időpontja

🔥 A várva várt Diablo IV: A gyűlölet ura (Lord of Hatred) kiegészítő hamarosan elérhetővé válik, és első ízben lehetőséget ad arra, hogy átkelj a tengeren Skovos titokzatos szigeteire...

MA 09:15

A Quordle, amitől leolvad az agyad – mennyire vágod a szavakat?

Hosszú idő után is tartja magát a Quordle, amely a Wordle mintájára négyszavas kihívással tornáztatja az agytekervényeket...

APP
MA 09:12

APPok, Amik Ingyenesek MA, 4/27

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     English Vocab & Dictionaries + (iPhone/iPad)A Simply Paste Wordbook M Pro egy angol szókincsfejlesztő alkalmazás felhasználóbarát, egyszerűen kezelhető felülettel...

MA 09:08

A mai NYT Connections megoldásai – Te mindet kitalálod?

Érdemes látni, mennyire agyafúrt tud lenni a Connections nevű szójáték, amely a New York Times kínálatában az egyik legnépszerűbb fejtörővé vált...

MA 09:01

A hosszú élet titka: keverd a mozgásformákat!

A hosszabb élethez vezető út nem csak a több testmozgáson át vezet, hanem legalább ugyanannyira fontos, hogy minél többféle fizikai tevékenységet végezzünk – erre jutottak több évtizedes kutatások...

MA 08:57

A bitcoin új ralija megtorpant: a nagy áttörés még várat magára

Ázsiai kereskedésben hirtelen 12 hetes csúcsra, 29,1 millió forinthoz közeli szintre (79 400 dollár, vagyis körülbelül 29,1 millió forint) ugrott a bitcoin árfolyama, majd gyorsan visszahúzódott...

MA 08:43

Az új Gothicban újra eltévedünk – térkép nélkül

Ami kezdetben ártalmatlannak tűnt, ma igazi legenda. A Gothic az ezredforduló ikonikus szerepjátéka, amely a nyílt világ műfajában olyan merész, életszerű megoldásokat hozott, amelyek még A királyság eljövetele (Kingdom Come: Deliverance) vagy A Vaják (The Witcher) világaira is hatással voltak...

MA 08:36

A Kayo Sports bárhonnan: így kapcsolódj be az ausztrál sportőrületbe

🏀 Ötvennél is több sportág közvetítése, élő meccsek, visszanézhető bajnokságok – a Kayo Sports tényleg a sport Netflixe...

MA 08:08

Az Assassin’s Creed: Hexe-ből menekülnek a vezetők – mi történik?

Valami nagyon furcsa történik az Assassin’s Creed: Hexe háza táján. Rövid időn belül már a második vezető távozott: Benoit Richer, a játék rendezője is elment, kinevezése sem tartott sokáig...

MA 07:57

Az okostelefon, amely megmentette egy titkosszolgálati ügynök életét a Fehér Ház gáláján

📞 Érdekes felvetés, hogy néha a legmodernebb technológia nemcsak előny, hanem életmentő is lehet...

MA 07:51

A házimozi sikere a tervezésen áll vagy bukik

Egy professzionális házimozi kialakítása sokak álma: csendes, sötét tér, tökéletes hangzás, moziszékek és óriáskivetítő a nappaliban...

MA 07:43

Mi áll az antarktiszi jégtakaró drámai fogyása mögött?

Egy évtizeddel ezelőtt a Déli-sark körül hirtelen összezsugorodott az addig gyarapodó tengeri jég, és azóta sem tért magához...

MA 07:36

Az Abbey éjszakája: Madonna végre szabad, Addison még mindig túl hangos

🌙 Vasárnap hajnalban mindenki megdöbbent, amikor Madonna váratlanul betoppant a legendás Abbey klubba, West Hollywoodban, és fél órán át olyan bulit csapott, hogy a plafon is rezgett...

MA 07:29

Az Aave már majdnem rendezte a Kelp DAO-ügy veszteségeit

💰 A decentralizált hitelezési piac egyik legnagyobb szereplője már közel 58 milliárd forintot összegyűjtött abból a mintegy 72 milliárd forintos összegből, amelyre szükség van a Kelp DAO elleni támadás után keletkezett rossz hitelek rendezéséhez...

MA 07:22

Az idő lejár: veszélyben a kriptotörvény sorsa

Megvizsgálandó, hogy május nemcsak a tavaszt hozhatja el Amerikában, hanem komoly fordulópontot is a kriptovaluták szabályozásában...

MA 07:15

Az elfeledett játék politikai káoszt robbantott a Steamen

A Bohrdom című indie játék 2018 végén került fel a Steamre, de egészen mostanáig szinte senki sem hallott róla...

MA 07:08

A Szűz-sziget valóságshow visszatér: jön az új évad

Április 27-én startol a Szűz-sziget (Virgin Island) második évada, a Channel 4 egyik legnépszerűbb valóságshow-ja, amely már a bemutatkozó évadával is kiemelkedőt produkált a fiatal felnőttek körében...

MA 07:01

Az utolsó Ronette is távozott: búcsú Nedra Talley Rosstól

💔 Az amerikai popkultúra fényes csillaga, Nedra Talley Ross 80 évesen örökre eltávozott közülünk...

MA 06:57

Az eddig konzolexkluzív Wolfenstein-titkok végre PC-n is megnyílnak

🖥 Ki gondolta volna, hogy a Redneck Rampage fejlesztői – akiknek játékaival gyerekként az egyszerű szórakozásért rajongtam – egyszer új életet lehelnek az id Software elhanyagolt FPS-ébe, és megteremtik a Wolfenstein: Visszatérés a kastélyba (Return to Castle Wolfenstein) alapjait?..

MA 06:36

Az agyad rákattan: NYT Strands megfejtések és tippek hétfőre

💡 A Strands mára jócskán feladta a leckét, de igazi nyelvi kihívást kínált azoknak, akik nem hátrálnak meg a szójátékok elől...

MA 06:29

Az indie szenzáció, a Vampire Survivors nem lassít

Jelentős növekedésen ment keresztül a Vámpír túlélők (Vampire Survivors) kiadója, a poncle, amióta a játék 2022-ben megjelent...

MA 06:06

Történelmi események a mai napon (Április 27.)

Ma olyan nap, amelyen birodalmak sorsa fordult, városok születtek újra, és korszakos politikai, technológiai, valamint kulturális mérföldkövek születtek...

vasárnap 20:23

Az ötmillió elveszett bitcoin zárolása megrázhatja a piacot

💸 A kriptopiac egyik legforróbb dilemmája azzal a javaslattal váltott ki vitát, hogy több mint ötmillió, évek óta mozdulatlan bitcoin sorsát átírják: egyesek szerint csak így védhetők meg a jövőbeli kvantumszámítógépes támadásokkal szemben, mások viszont áthághatatlan elvi tilalomnak tartják minden ilyen beavatkozást...

vasárnap 20:12

A predikciós piacok valódi ereje: nem a tömeg számít

📊 Egészen máshogy működnek a predikciós piacok, mint azt a legtöbben gondolnák...