Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🔮 Az OpenAI több fiókot is letiltott, amelyek a közösségi médiában igyekeztek befolyásolni az adatközpontokkal és Trump elnök vámjaival kapcsolatos amerikai vitát...
Az Insta360 új, kétkamerás Luna Ultra kamerája forradalmi újdonságot hoz a vlogging világába, hiszen 8K felbontású videózásra képes, és már 280 ezer forint körüli áron (769,99 USD) beszerezhető...
🎲 Különösen igaz ez akkor, ha valaki a World of Warcraft Classic világában jár: a játékban megjelentek azok a botok, amelyek valódi pénzért cserébe árulják a játékbeli aranyat – megszegve ezzel minden szabályt...
Annak kiderítésére, hogy mennyire lehet újragondolni egy gamer egeret, valaki most egy valóban bizarr, ujjheggyel vezérelhető „pókhálós” egeret készített 3D-nyomtatható műanyag vázzal...
👽 Az Alienware AW2525HM egy kimondottan gyors monitor, amit kifejezetten azoknak terveztek, akik a legkiemelkedőbb teljesítményt keresik kompetitív FPS játékokhoz...
🏆 Érdemes tudni, hogy a 2026-os labdarúgó-világbajnokság minden eddiginél grandiózusabb lesz: összesen 48 ország csap össze 104 mérkőzésen, 39 napon keresztül, ráadásul három ország – Mexikó, Kanada és az Egyesült Államok – egyaránt otthont ad a meccseknek...
👷 Dél-Szibériában kivételes sírt tártak fel, amelyben egy körülbelül 40 éves, középkori nő, újszülött gyermeke és egy teljes ló bőre feküdt egymás mellett...
🖥 Megemlíthető továbbá, hogy a Corsair Galleon 100 SD nem hétköznapi mechanikus billentyűzet: két legendás termékvonal, az Elgato Stream Deck és a K70 billentyűzet technológiáit vegyíti...
Erre utal többek között az, hogy a Fülöp-szigeteki központi bank szerint a világ egyik legnagyobb kriptotőzsdéje, a Binance, valamint helyi partnere, a BlockShoals Technologies Inc...
🥇 A szingapúri DBS Bank idén bejelentette, hogy 2026 második felétől már nemcsak az intézményi befektetők, hanem a hétköznapi ügyfelek is egyszerűen, új, digitális formában vásárolhatnak aranyat...
🤑 Erre utal többek között az is, hogy a tudomány mindmáig nem találta meg az egyértelmű választ arra, miként alakultak ki az első élő rendszerek a Földön...
Fontos kérdés, hogy mennyiben változtatja meg mindennapi vásárlási szokásainkat, ha a mesterséges intelligencia már nemcsak segítséget nyújt, de szinte teljesen át is vállalhatja a vásárlási folyamatot...
Június 12-én a világ legjobb focistái ismét igazi füvön lépnek pályára a Los Angeles-i SoFi Stadionban, amikor az Egyesült Államok Paraguayjal mérkőzik meg a világbajnokságon...
Fontos kérdés, hogy miért tud a rák olyan makacsul ellenállni a kezeléseknek, és miért válnak bizonyos daganatok egy idő után szinte legyőzhetetlenné...
📈 Meglepő fordulatot vett a következő Xbox-generáció fejlesztése, ugyanis a Microsoft egyre inkább azzal számol, hogy nem tud olyan konzolt piacra dobni, amely valóban modernnek érződik, és közben a legtöbb ember számára elérhető áron kínálható...
🕵 Az utóbbi időben heves vita alakult ki arról, mennyire szolgálja az állítólagosan európai fejlesztésű Euro-Office a digitális szuverenitás eszméjét...
Az Egyesült Királyságban nagy lépés készül a hajléktalanság felszámolására: egy több mint 25 szervezetet összefogó új kezdeményezés indult útjára, melynek célja, hogy korszerű adatkezeléssel és MI segítségével megelőzhetővé váljon a hajléktalanság...
A számítógép-alkatrészek folyamatos drágulása ismét a középpontba került: iparági vezetők szerint a DDR5 RAM-árak még legalább két évig biztosan nem térnek vissza elfogadható szintre, sőt egyesek szerint az igazi normalizálódásra akár 2029-ig vagy 2030-ig is várnunk kell...
