Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🎬 Péntek este a Tribeca Fesztiválon Madonna legújabb rövidfilmje, a Vallomások II (Confessions II) debütált, de ez az esemény távol állt a hagyományos filmpremierek csendes ünneplésétől...
🚀 Az Archetype Entertainment fejlesztésében készülő sci-fi akció-RPG, az Exodus a Future Games Show-n kapott látványos, bővített játékmenet-videót, amely minden eddiginél közelebbről mutatja be a játékot...
💸 Meta nemrég bejelentette, hogy Kolumbiában és a Fülöp-szigeteken indulva, majd év végéig több mint 160 országra kiterjesztve tartalomkészítőknek ezentúl USDC-ben (dollárhoz kötött stabilcoinban) fizet – jelentős lépés ez a digitális fizetőeszközök elterjedése szempontjából...
🥵 Dél-Afrika perzselő hőségében a déli bütykös varangygerléknél furcsa változások figyelhetők meg: a madarak képtelenek helyesen gondolkodni, egyszerű feladatokat sem tudnak megoldani...
💀 Ilyen eset például, amikor egy túl ambiciózus horrorjátékot újragondolnak: az első A süllyedő város (The Sinking City) története kifulladt az óriási, de üresnek érződő nyitott világban...
🔒 Ez a jelenség jól illusztrálható azzal, hogy még a felújított Gothic sem lett könnyebb, és a játékosok ugyanúgy megszenvednek a zárfeltöréssel, mint annak idején...
Rendkívüli nap a történelemben: alkotmányos mérföldkő Angliában, fordulatok a francia és a közel-keleti hadszíntereken, és egy merész légicsapás, amely átírta a Közel-Kelet nukleáris térképét...
💀 Lényeges szempont, hogy az utóbbi időben egyre több fiatal férfi próbálja különböző extrém módszerekkel, például plasztikai beavatkozásokkal, hormoninjekciókkal vagy szélsőséges fogyókúrával javítani a külsejét...
💰 Annak vizsgálata, hogy egy 20 millió dolláros családi befektetésből miként lehet felépíteni egy több mint 1 milliárd dolláros birodalmat a kriptovaluták világában...
💰 Egy lényeges szempont, hogy a Polymarket és a Kalshi váratlanul hatalmas forgalmat produkálnak, és ezzel magukhoz vonzzák a legnagyobb kvantitatív kereskedési cégeket...
⚡ A Microsoft Build 2026 eseményén minden a látványos platformbejelentésekről és MI-bemutatókról szólt, de több rejtettebb újdonság is született, amelyek a következő években még előtérbe kerülhetnek...
😷 Vízhez és talajhoz kötődő mikrobák kerültek a kutatók figyelmének középpontjába mint rejtett veszélyforrások: bizonyos szabadon élő amőbák különösen veszélyessé válhatnak, ahogy a klíma melegszik, és a világszerte elöregedő vízhálózatok karbantartása elmarad...
⚙ Többek között a jövő kvantumtechnológiái, például a szuperérzékeny szenzorok és a kvantumszámítógépek rendkívüli képességei az összefonódás nevű jelenségen alapulnak, amikor részecskék mélyen összekapcsolódnak, és egymásra olyan módon hatnak, amit a klasszikus fizika nem tud megmagyarázni...
🎮 Egy lényeges szempont, hogy a Modern hadviselés 4. (Modern Warfare 4) fejlesztői most egy igazi DMZ-élményt ígérnek a játékosoknak: nem béta, nem mellékes extrakciós próbálkozás, hanem egy kiforrott, önálló játékmód a Call of Duty-univerzumban...
A tokiói kutatók úttörő elképzeléssel álltak elő: egy parányi röntgentávcső segítségével néhány éven belül részletes kémiai térkép készülhet a Hold egész felszínéről...
💪 Ebből következően érdemes megérteni, hogy egyre több, a fogyást segítő gyógyszer nemcsak a testsúlycsökkentésben, hanem a daganatos betegségek megelőzésében is szerepet játszhat...
Az étrend-kiegészítők iránti kereslet óriásit nőtt az elmúlt években: sokan gondolják, hogy néhány kapszula elég ahhoz, hogy energikusabbak legyenek, erősebb legyen az immunrendszerük, sőt akár tovább is éljenek...
Érdemes megvizsgálni, hogy az Egyesült Államok legnagyobb bankjai hogyan reagálnak a kriptopiac viharos növekedésére: a digitális pénzforgalom felé indulnak, hogy megállítsák a betétek elvándorlását...
💰 2011 óta mozdulatlanul pihenő, 35,55 BTC-t tartalmazó pénztárca mozdult meg a napokban, ébresztve a kriptovilág figyelmét egy több mint 104 ezer milliárd forint (285 milliárd dollár) értékű bírósági ügy közepette...
