Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🚀 Lényeges újdonság, hogy a Garmin-felhasználók mostantól két teljesen új Pokémon Sleep óralapot tölthetnek le ingyenesen, ráadásul a mindennapi alvásfigyelés is játékosabbá válik...
Dél-Olaszországban, Pontecagnano egykori dohánygyárának helyén 34 ókori sírt fedeztek fel, amelyek között két különös gyermeknyughely is feltűnt: a 2 500 éves sírokban két, 5–10 éves gyermeket felnőtt férfi harcosokra jellemző, nagy bronzövekkel temettek el...
Észak-Írország legnagyobb tavában, a Lough Neagh-ben, amely a lakosság mintegy 40 százalékának biztosít ivóvizet, többféle, antibiotikum-rezisztenciáért felelős gén jelenlétét mutatták ki...
Új-Zélandon tényleg forradalom van a Spotify-nál: a Premium-előfizetők mostantól közvetlenül babrálhatnak a saját ízlésprofiljukkal, vagyis végre téged kérdeznek meg arról, mi legyen a zenélős menü...
🚫 A videójátékokban egyre elterjedtebb loot boxok miatt jelentős szigorítás lép életbe egész Európában: júniustól az ilyen tartalmat tartalmazó játékok legalább 16 éven felülieknek ajánlottak lesznek, többek között Magyarországon és az Egyesült Királyságban is...
🚧 Ha mostanában Samsung notebookon nyomulsz Windows 11-gyel, kapaszkodj, mert elég durva hiba csapott le: egyes gépeken a legutóbbi februári biztonsági frissítés után simán elveszíted a hozzáférést a C: meghajtóhoz, és nem tudod elindítani sem az Outlookot, sem az Office-t, sem a böngészőt, sőt, még rendszerszintű appokat sem...
A következő Artemis II küldetés minden korábbinál merészebb vállalkozás a NASA történetében – és nem csak azért, mert több mint félszáz év után újra emberek indulnak a Holdhoz...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Learn Hindi (iPhone/iPad)Ez a tananyag több mint négyszáz hindi szót és kifejezést tartalmaz, húsz logikusan felépített leckére bontva...
A humanoid robotok fejlődése az elmúlt évtizedben valóban látványos volt. Míg korábban a két lábon járó gépek legfeljebb filmezett szerencsétlenkedéseikkel jutottak címlapra, ma már világcégek kísérleteznek velük a munkaerő kiváltásán...
🔒 Kiberbűnözők egy csoportja, amelyet Storm-2561 néven emlegetnek, hamis vállalati VPN-kliensekkel próbálja megszerezni a felhasználók bejelentkezési adatait...
💻 Ezt jól illusztrálja, hogy az Alphabet eladja a Google Fiber (GFiber) többségi tulajdonrészét a Stonepeak nevű magántőke-befektető cégnek, amely a nagy múltú kábel- és optikai szolgáltatóval, az Astound Broadbanddel egyesíti azt...
Az USA kormányzatában újabban egyre nagyobb aggályokat ébreszt az, hogy a szövetségi tisztviselők Claude nélkül lemaradhatnak a mesterséges intelligencia által támogatott nukleáris vagy vegyi fegyverek elleni védekezés fejlesztésében...
Izgalmas és sokszínű nap a történelemben: a Julius Caesar elleni merénylet előestéjén hozott döntéstől az első sikeres penicillinkezelésen át a Linux kernel 1...
🕵 Érdemes megvizsgálni, hogy az MI-ügynökök vállalati alkalmazásának egyik legnagyobb akadálya eddig az volt: miként adható meg számukra a szükséges mozgástér úgy, hogy közben ne veszélyeztessék a környező rendszereket...
