Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🐈 A kvantumfizika egészen elképesztő kísérlettel bővült: Bécsben kutatóknak sikerült többezeres nátriumatom-klasztert úgy „megosztaniuk”, hogy ez a csoport egyszerre több helyen is tartózkodott – vagyis hatalmas szuperpozícióba került...
Több mint tízezer évvel ezelőtt az amerikai Délnyugat lakói egy kis vadburgonyát, a Four Corners-burgonyát (Four Corners potato, Solanum jamesii) vitték magukkal hosszú vándorlásaik során...
🐱 Ausztrália emlősfaunája a világon egyedülálló: a hosszú elszigeteltség olyan fajokat eredményezett, mint a kacsacsőrű emlős, a koala vagy a vombat...
💥 A Microsoft villámgyors, rendkívüli frissítéseket adott ki szombaton Windows 10, Windows 11 és Windows Server rendszerekhez, miután sokaknál egyszerűen nem indult el a klasszikus Outlook, ha a PST-fájlokat felhőben tárolták, például a OneDrive-on vagy a Dropboxon...
New Jersey-ben mostantól minden elektromos kerékpár-tulajdonos a legszigorúbb szabályozással szembesül. Legyen szó akár egy 20 km/h-s, pedálrásegítéses kerékpárról vagy egy motorkerékpár-teljesítményű e-bike-ról, mindenkire ugyanazok a szigorú előírások vonatkoznak: kötelező a regisztráció, a jogosítvány és a biztosítás...
Az FBI tavaly bírósági végzéssel kérte a Microsofttól, hogy adja át három laptop titkosítási kulcsait egy olyan csalási ügy vizsgálata miatt, amely a Guam szigetén folyósított COVID–19-munkanélküli-támogatásokat érintette...
Davos idén alaposan átalakult: a Világgazdasági Fórum korábbi, komoly hangvételű tanácskozását techcégek színesítették meg az MI-forradalom jegyében...
Az MI térhódítása az oktatásban komoly aggodalmakat kelt világszerte. Egy friss, 50 országot és több mint 500 tanárt, diákot, szülőt, oktatási vezetőt és szakértőt bevonó, egy évig tartó globális kutatás eredményei szerint az MI alkalmazásának kockázatai jelenleg felülmúlják az esetleges előnyöket...
⚡ Lengyelország villamosenergia-hálózata elleni kibertámadást hiúsítottak meg 2025. december végén. A támadás mögött az orosz állam által támogatott, hírhedt Sandworm nevű hackercsoport állt, amely egy új, pusztító törlővírust, a DynoWipert próbálta bevetni...
💡 Neurophos, a texasi MI-chipcég új mércét akar állítani a szuperszámítástechnikában azzal, hogy optikai processzorokat fejleszt, amelyek teljesítménye többszöröse a mai legmodernebb grafikus kártyák teljesítményének – mindezt jóval kisebb energiafelhasználás mellett...
Az észak-koreai Konni (Opal Sleet, TA406) hackercsoport MI által generált, erősen titkosított PowerShell-kártevővel célozza meg a blokklánc-szektor mérnökeit és fejlesztőit...
Az OLED-technológia az utóbbi években teljesen átalakította a tévépiacot. Az önállóan világító OLED-pixeleknek köszönhetően tökéletes feketét, élénk színeket és erős kontrasztot kapunk...
🥑 A világ szójatermelőit csendes, de komoly ellenség tizedeli: a szója-cisztaképző fonálféreg, amely a gyökereket támadva rontja a terméshozamot, évente komoly veszteséget okozva a gazdáknak...
🤖 Felmerül a kérdés, hogy kinek érdemes most a technológiai tőzsdéken kutakodnia, amikor a kvantumszámítógépek és a mesterséges intelligencia versenye kiélezettebb, mint valaha...
🔨 Egy körülbelül 480 ezer éves, háromszögletű eszközre bukkantak az Egyesült Királyság területén, amelyet egy ismeretlen archaikus emberfajta őselefánt csontjából készített...
