Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
A szupervulkán-kitörések messze a Föld leghatalmasabb vulkáni eseményei közé tartoznak. Egy-egy ilyen kitörés több mint 1 000 köbkilométer magma, kőzet és hamu felszabadításával fenekestül forgathatja fel a klímát, az élővilágot, vagy akár az emberi társadalmakat...
A vállalatok egyre gyakrabban alkalmazzák a generatív MI-t és az automatizált fejlesztői eszközöket, ennek azonban súlyos pénzügyi következményei lehetnek...
Érdemes megvizsgálni, hogy a kontinensre zúduló kánikula milyen extrém helyzeteket teremt: több mint 191 millió ember tapasztalhatta meg a 35 °C-ot is meghaladó hőmérsékletet, miközben kelet felé terjed a hőhullám...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days egy egyszerű, letisztult alkalmazás, amellyel pillanatok alatt megtudhatjuk, hány nap választ el két tetszőleges dátumot...
Mai időutazásunkon felvillannak a történelem legélesebb fordulópontjai: a szarajevói merénylet nyomán világháború robbant ki, Poltaván eldőlt Európa hatalmi egyensúlya, a Case Blue hadművelet pedig új fejezetet nyitott a keleti fronton...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days egy letisztult, könnyen kezelhető alkalmazás, amely villámgyorsan kiszámolja, hány nap választ el két tetszőleges dátumot...
Viharos nap a történelemben: király a csatatéren, uruguayi parlament feloszlatása, amerikai döntés a koreai háborúról, az Entebbébe térített gép és a Space Shuttle Columbia startja egyaránt ide esik...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. FormatX: Video Audio Converter (iPhone/iPad)A FormatX egy minden egyben formátum-átalakító eszköz, amely támogatja a videó-, hang- és képfájlok konvertálását...
Kiemelkedő fordulópontok sora: Julianus császár sorsfordító halála, a mongolok döntő győzelme, a karácsony amerikai szövetségi ünneppé válása és a Berlin Blockád légihídjának indulása új fejezeteket nyitott a történelemben...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. War Mongrels (iPhone/iPad)A War Mongrels egy izometrikus nézetű, valós idejű taktikai videojáték, mely a második világháború keleti frontján játszódik...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Inkflow Plus Visual Notebook (iPhone/iPad)Az Inkflow egy olyan alkalmazás, amely vizuális gondolkodást tesz lehetővé...
Erős nap a történelemben: Hannibál döntő győzelmet arat Trasimennus tónál, Napóleon megindítja oroszországi invázióját, a szovjetek lezárják Berlin szárazföldi útvonalait, a wimbledoni Isner–Mahut meccs pedig minden rekordot megdönt...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Risp: Budget & Savings (iPhone/iPad)A Risp egy modern pénzügyi alkalmazás, amely segít rendszerezni és átlátni a pénzügyeidet...
Rövid válogatás arról, mi minden történt ezen a napon: kezdődött a skót függetlenségi háború sorsdöntő ütközete, a Watergate-botrány egyik kulcsfelvétele készült, engedélyezték az első fogamzásgátló tablettát, hatályba lépett az Antarktiszra vonatkozó nemzetközi szerződés, és jött a Brexit...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. FormatX: Video Audio Converter (iPhone/iPad)A FormatX egy sokoldalú, minden az egyben konvertáló program, amely videó-, hang- és képfájlok átalakítását egyszerűsíti...
Viharos fordulópontok és sorsdöntő csaták jelzik ezt a napot: többek között a pydnai diadal, a második compiègne-i fegyverszünet és a Barbarossa hadművelet indítása...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Inkflow Plus Visual Notebook (iPhone/iPad)Az Inkflow egy alkalmazás, amely a vizuális gondolkodást támogatja...
Viharos nap a történelemben: hadjáratok, csaták és forradalmak formálták a világot, miközben bírósági döntések és politikai fordulatok új korszakokat nyitottak...
