Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🐍 Hatalmas és egészen apró, mérges és óriáskígyók, surranók és úszók élnek a Föld legkülönbözőbb zugaiban – a kígyók eredetének története ma izgalmasabb, mint valaha...
🎮 Bennett Foddy neve sokaknak ismerősen csenghet: olyan játékok kötődnek a nevéhez, mint a QWOP vagy a Getting Over It, amelyek előszeretettel kínozzák a játékosok türelmét különleges irányításukkal és nehézségükkel...
Fontos kérdés, hogy mit tud nyújtani a The Sims 3 egy évtizeddel az első rész óta: vajon valami forradalmit, vagy csupán csiszoltabb változatot kapunk?..
Fontos kérdés, hogy mennyire sikerül biztonságban lebonyolítani azt a 78 mérkőzést, amelyet a tervek szerint az Egyesült Államok 11 nagyvárosában rendeznek majd...
A vasárnapi El Clásico izgalmai ezúttal a Camp Nou stadionjában bontakoznak ki, ahol a Barcelona mindössze egyetlen pontra van attól, hogy bebiztosítsa egymás után a második La Liga-címét...
Az utóbbi időben komoly hullámokat keltett Richard Dawkins világhírű biológus kijelentése, miszerint szerinte a mai mesterséges intelligenciák, például Claude vagy ChatGPT, valójában tudatosak...
A MagSafe technológiát szinte minden iPhone-tulajdonos szereti, és okkal: kényelmesen rögzítheted vele a telefonodat, vezeték nélkül töltheted, sőt autós tartókhoz és egyéb kiegészítőkhöz csatlakoztathatod...
🤯 Jellemző példa, hogy a zöld hidrogén gyártása egyre inkább kulcsfontosságú szerepet kap az energiaiparban, mégis számos technológiai akadályba ütközik...
🎉 Egy lényeges szempont, hogy az amerikai szenátus hamarosan napirendre tűzi a digitális pénzeszközök piacának szabályozását érintő törvénytervezetet...
👨🔬 Egérkísérletekkel sikerült átültetni egy rendkívül hosszú élethez kapcsolódó gént, amelyet a különleges biológiájú pucér vakondpatkányoktól vettek át a kutatók...
Fontos szempont, hogy a Two Point Museum legújabb kiegészítője, az Arty Facts DLC egy különleges műteremmel bővíti a játékot, ahol a művészek szinte végtelen számú egyedi alkotást készíthetnek – mindezt generatív MI használata nélkül...
👀 A pszichopátiát mindig is különleges, nehezen megfejthető személyiségjegyként tartották számon, de most a tudomány közelebb jutott a titokhoz: kiderült, hogy a pszichopaták agyában egy meghatározott terület, a striátum, átlagosan 10 százalékkal nagyobb, mint más embereknél...
💫 A James Webb Űrteleszkóp újabb szenzációs felfedezést tett: egy olyan fekete lyukat azonosított és vizsgált, amelynek tanulmányozása közelebb vihet a korai univerzum titokzatos, kis vörös pontjainak megfejtéséhez...
👑 A nagy konzolos és PC-s sikerszériák közül kevés mondhatja el magáról, hogy ilyen elegánsan debütált mobilon, mint a Tom Clancy: A Division – Resurgence (Tom Clancy’s The Division: Resurgence)...
Különösen érdekes kérdés, hogy vajon az emberek közelebb állnak-e a macskákhoz vagy a kutyákhoz — végül is mindkét faj uralja a mindennapjainkat, szoros kapcsolatban élnek velünk, közös ágyon alszunk velük, néha pedig az ételünkből is csippentenek...
💡 Különösen igaz ez akkor, ha elavult lakásodat szívesen cserélnéd egy korszerűbb, kényelmesebb otthonra – anélkül, hogy elköltöznél vagy vagyonokat költenél...
