Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💧 A Galaxy S25 Ultra mostantól Ocean móddal vadonatúj, víz alatti fotózási élményt hoz, amit eleinte csak korallzátonyokon búvárkodó óceánkutatók használhattak...
A Bitcoin egyik vezető fejlesztője, Olaoluwa „Roasbeef” Osuntokun most először bemutatott egy működő prototípust, amely vészhelyzeti frissítés esetén megmentheti a felhasználók pénztárcáit, ha a hálózatot valaha kvantumszámítógépes támadás ellen kellene védeni...
👶 Tudósok most először készítettek részletes térképet a méhlepény és a méh felépítéséről, amely megmutatja, miként alakulnak át ezek a szövetek a terhesség során, hogy a fejlődő embriót támogassák...
Május 20-tól az Amazon a 2012 előtt gyártott Kindle-olvasókat jegeli: ezekkel a kütyükkel többé nem lehet új könyvet vásárolni, kölcsönözni vagy akár letölteni...
A Bitcoin egyik vezető fejlesztője, Olaoluwa “Roasbeef” Osuntokun különleges mentőeszközt készített, amely végső védelmet nyújthat, ha a Bitcoin közösségének valaha is kvantumszámítógépekkel kellene szembenéznie...
Na most kapaszkodj, mert hamarosan rejtetté teheted azokat a játékokat az Xbox achievement-listádban, amikre már nem vagy büszke, vagy csak félig sikerült kipörgetned...
Oké, minden, amit eddig gondoltál a kézi ventilátorokról, mehet a kukába – a Dyson bemutatta a HushJet Mini Cool nevű újdonságát, aminek brutális, 65 000-es fordulatszámú motorja van...
A jelenlegi autonóm MI-ügynökök legnagyobb kihívásai közé tartozik, hogy miként tudnak alkalmazkodni a folyamatosan változó környezetükhöz anélkül, hogy minden alkalommal újra kellene tanítani a mögöttes nagy nyelvi modellt...
Többek között az Apple hajlítható mobilja körül is pezsegnek a pletykák, nem véletlenül: ahogy közeledik a szeptemberi bemutató, a netet elárasztják a látványos hamisítványok – köztük egy videó, amelyen mintha a régóta várt iPhone Fold bontására kerülne sor...
Noha a generatív MI korszakában a Meta eddig az Llama-modellekkel hódította meg a fejlesztőket és kutatókat, a vállalat most teljesen új irányt vesz: bejelentette Muse Spark nevű, saját fejlesztésű, zárt mesterségesintelligencia-modelljét, amely ígérete szerint mindent újrakezd a digitalizációban...
Időutazás egyetlen napra: ma koronázták meg V. Henriket, ma adta meg magát Lee tábornok a polgárháborúban, és ma indult meg Németország Dániára és Norvégiára...
🚀 A PanSTARRS-üstökös (PanSTARRS, C/2025 R3) már ezen a héten izgalomba hozza a csillagászokat és a korán kelőket, hiszen folyamatosan fényesedik az éjszakai égbolton, és hamarosan megközelíti a Földet és a Napot is...
Az emberek többsége becsületesebb és önzetlenebb, mint hinnéd. Egy kísérletben a részt vevők dönthettek: megtartják a kapott 3 650 forintot, vagy odaadják egy idegennek, amivel az összeg négyszeresére nő...
