Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Az elmúlt években forradalmi lehetőség sejlett fel a poszttraumás stressz-zavar (PTSD) gyógyításában: az MDMA és a pszilocibin, ezek a hírhedtnek tartott pszichedelikumok ígéretes hatást mutatnak a súlyos pszichés sérülések leküzdésében...
Újabb izgalmas fejlesztéssel jelentkezik a Spotify: elindult az „About the Song” (A dalról) funkció, amivel végre bepillanthatsz a slágerek születésének kulisszái mögé...
A 2026-os Super Bowl reklámjai idén új szintre emelték az MI-technológiát, nemcsak a hirdetések elkészítésénél, hanem a legújabb MI-termékek népszerűsítésében is...
Az MI-kutatás élvonalába tartozó új modellek már nemcsak abban segítenek a mérnököknek, hogy gyorsabban írjanak kódot vagy automatizáljanak rutinfeladatokat...
Egyre több kínai szállodában találnak rejtett kamerákat, amelyek titokban közvetítik a vendégek, köztük párok intim pillanatait Telegram-előfizetők ezrei számára...
A tudomány világa új korszakhatáron áll, miután a híres Relativistic Heavy Ion Collider (RHIC), az Egyesült Államok egyetlen és legnagyobb részecskegyorsítója, 25 év működés után végleg befejezte működését a Brookhaven Nemzeti Laboratóriumban (BNL)...
A világ jelenségei, a viharok mozgásán át a tőzsdei árfolyamok változásáig, vagy épp egy járvány terjedése mind matematikai egyenletekkel írhatók le...
🕵 Németországban egyre több figyelmeztetés érkezik amiatt, hogy államilag támogatott hackercsoportok magas rangú célpontokat, például politikusokat, katonatiszteket, diplomatákat és oknyomozó újságírókat próbálnak megtéveszteni a Signalon és más üzenetküldő appokon keresztül...
🔮 Fontos kérdés, hogy miért érinti az Epstein–Barr-vírus (EBV) az emberek többségét súlyos következmények nélkül, míg néhányukat élethosszig tartó betegségekkel vagy akár daganatos megbetegedésekkel is veszélyezteti...
Az iOS 26 egyik kevésbé látványos, de annál hasznosabb újítása az Adaptive Power funkció, amely a háttérben teszi hatékonyabbá az iPhone akkumulátorhasználatát...
Egy 26 éves illinois-i férfi, Kyle Svara beismerte, hogy közel 600 nő Snapchat-fiókját törte fel, hogy meztelen képeket lopjon, majd azokat megtartotta, eladta vagy elcserélte az interneten...
Az Európai Bizottság komoly bírságra készül a TikTokkal szemben, mert a platform függőséget okozó funkciói – köztük a végtelen görgetés, az automatikus lejátszás, a push értesítések és a személyre szabott ajánlások – veszélyeztetik a felhasználók mentális és fizikai egészségét, különösen a kiskorúakét és a védtelen felnőttekét...
A Baldur’s Gate fantasy videojáték 2023-ban hatalmas sikert aratott, több mint 20 millió példány kelt el belőle, és történelmet írt azzal, hogy mind az öt legjelentősebb Év Játéka díjat elnyerte...
Ez a jelenség jól illusztrálható azzal, hogy a modern projektorok már nemcsak a nappalid falán jelenítik meg a mozit, hanem lényegében bármilyen sík felületet képesek vetítővászonná alakítani, ráadásul nagy fényerővel és kiváló képminőséggel...
Lényeges szempont, hogy a pszichiátria egyik legfontosabb alapkövét, a hivatalos diagnosztikai kézikönyvet – közismerten DSM néven – mostanra annyi kritika érte, hogy akár teljesen új alapokra is helyezhetik a mentális betegségek meghatározását...
🎮 Strauss Zelnick, a Take-Two vezérigazgatója megerősítette, hogy idén nyáron hivatalosan is elindul a Nagy értékű autólopás 6 (Grand Theft Auto 6, GTA 6) marketingkampánya, mert a játék fejlesztése végre célegyenesben jár...
