Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💸 Az Nvidia vezérigazgatója, Jensen Huang határozottan cáfolta azokat a híreket, amelyek szerint megtorpant volna a 36 000 milliárd forintos OpenAI-befektetésük...
Selina Tobaccowala felismerte, mennyire nehéz eligazodni az otthoni energiafogyasztás útvesztőjében, amikor lánya Post-it cetlikkel próbálta ösztönözni a családot a takarékosságra...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. 腕能App – 压力睡眠健康监测与冥想助手 (iPhone/iPad)Az 腕能App egy innovatív Apple Watch alkalmazás, amely átfogó egészség- és életmódfigyelést kínál modern adatvizualizációval...
Az OpenAI hamarosan végleg megszünteti a ChatGPT legkedveltebb változatát, a GPT-4o modellt, valamint több más változatot (köztük a GPT-5 Instant, GPT-5 Thinking, GPT-4...
A várva várt Nvidia DGX Spark megérkezett, és igazi különlegességet kínál: egyliteres, körülbelül 150 × 150 × 50 mm-es méretben egyesíti a GB10 Superchipbe integrált ARM-alapú CPU-t és Blackwell GPU-t...
A Garmin neve egyet jelent a futóórákkal – nem véletlenül. Ezeket az órákat elsősorban futók számára tervezik, bár található köztük modellek hegymászóknak, búvároknak, sőt, sofőröknek is...
🚗 A Ford már több mint 5 000 autószerelői állást kínál, miközben akár évi 43 millió forintot is kereshet az, aki elvállalja a munkát – mégsem jelentkezik elég ember...
⚠ 2025-ben az internet számtalan kihívással nézett szembe világszerte. A Cloudflare éves összefoglalója szerint több mint 180 jelentős leállás történt, amelyek minden kontinens szolgáltatásait érintették, rámutatva arra, mennyire sérülékeny maradt a globális hálózat – akár fejlett, akár fejlődő országról volt szó...
⚡ Elektrokémiai eszközök belsejében az erős elektromos terek olyan mértékben változtatják meg a vízmolekulák viselkedését, amely alapjaiban új megközelítést igényel...
🚀 Elon Musk cége, a SpaceX engedélyt kért egymillió műhold Föld körüli pályára állítására, hogy kiszolgálja a mesterséges intelligencia számításigényét...
Fontos kérdés, hogy bízhatnak-e továbbra is az európai vállalatok a tengerentúli, amerikai felhőszolgáltatókban – főként, amikor a digitális szuverenitás kérdése egyre hangsúlyosabbá válik...
🚶 Az Apple Watch egyre komolyabb szerepet játszik az egészségfigyelésben, hiszen az egyszerű fitneszfunkciókon túl már orvosilag is fontos adatokat kínál – például gyors értesítéseket a vérnyomásodat érintő hosszú távú változásokról...
A tokenizált részvények piaca látványos növekedést mutat, és most új lendületet kaphat azzal, hogy a New York-i Értéktőzsde (New York Stock Exchange, NYSE) és a Nasdaq is tervezi az éjjel-nappali, a hét minden napján zajló kereskedést...
🕵 Több mint 43 ezer évvel ezelőtt a neandervölgyiek évszázadokon át szarvas- és más agancsos állatok koponyáit gyűjtötték egy spanyolországi barlangban, amelyről most kiderült, hogy jóval összetettebb kulturális szokásokat tükröz, mint korábban gondolták...
🔍 Az Apple nemrég bemutatta az AirTag második generációját, fejlettebb hatótávval, hangosabb csengővel, nagyobb biztonsággal, de ugyanazzal a formával, mint korábban...
