2025. 03. 29., 20:07

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot. A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.

A mentális állapot kezelése

A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.

 

Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.

 

Etikai kérdések

A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.

 

Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.

 

A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.

2025, adminboss, www.livescience.com alapján

  • Mit gondolsz, hogyan befolyásolhatják az érzelmi állapotok a mesterséges intelligenciák döntéseit?
  • Hogyan kezelhetnénk etikusan egy MI érzelmi reakcióit?
  • Mit tennél, ha egy MI érzelmi torzítást mutatna a válaszaiban?


Legfrissebb posztok

MA 16:02

A JBL új fejhallgatói: finom előrelépés, bosszantó hibákkal

A JBL két új modellje, a Live 780NC és a Live 680NC csábító ígérettel érkezett, hogy a középkategóriás vezeték nélküli, zajszűrős fejhallgatók élmezőnyébe törjön...

MA 15:47

Az Artemis II után: Megváltozott, amit a Holdról tudunk?

🚲 Egy újabb történelmi kört zárt a NASA, amikor az Orion űrhajó tizenhárom évnyi előkészület után négyfős személyzettel kerülte meg a Holdat és indult vissza a Föld felé...

MA 15:34

A Google új trükkje: jegyzetelj okosabban, lustábban!

📝 Komolyan mondom, végre egy kis ész a digitális káoszban! A Google beolvasztotta a NotebookLM nevű mesterségesintelligencia-alapú kutatósegédjét a Gemini csevegőjébe, így mostantól már nem kell ezer ablak között vergődve kezelni a jegyzeteidet...

MA 15:23

Az új Muse Spark: a Meta MI-forradalma újraindul

Érdemes megvizsgálni, hogy a Meta legutóbbi MI-modellje, a Muse Spark képes-e új alapokra helyezni a cég mesterségesintelligencia-stratégiáját, miután a Llama 4 csalódást keltő fogadtatásban részesült...

MA 15:12

A Meta új modellje: totális zártság, nyitottság sehol

Mark Zuckerberg, aki korábban a nyílt forráskódú MI élharcosaként tündökölt, most meglepő fordulattal egészen eltérő irányt vett...

MA 15:02

A magánszféra otthoni védelmének 7 egyszerű, mégis ütős módja

Nemcsak a közösségi média vagy a kéretlen telefonhívások jelenthetnek veszélyt az adatainkra – az otthonunkban lévő technológia is komoly kockázati forrás lehet...

MA 14:56

Az új titkosítás véget vethet a kvantumhackerek uralmának

A tudomány nem tétlenkedik: egy új titkosítási rendszer született, amely már ma képes megvédeni a videofájlokat a jövő kvantumszámítógépeinek támadásaitól...

MA 14:48

A DJI Romo P: forradalmi porszívó, vagy csak menő kütyü?

🧺 A DJI, a dróntechnológiában jártas kínai óriásvállalat új szintre emelte az okos otthon gépeket: bemutatkozott a Romo P, amely végre nem csak kütyürajongóknak szól...

MA 14:34

Az Artemis II pokla: forróság, félelem és hazatérés a Holdról

Négy asztronauta történelmi utazása a Hold körül az Artemis II küldetés keretében a végéhez közeledik...

MA 14:24

Az új akkumulátor, amellyel a laptop hónapokig bírja

Képzelj el egy olyan akkumulátort, amelyet hónapokig, sőt akár évekig sem kell tölteni vagy cserélni egy energiaigényes laptopban – mindezt egy párkilós eszköz segítségével...

MA 14:03

Végleg búcsút inthetünk a titokzatos steril neutrínónak?

A neutrínók a lehető legelhanyagolhatóbb részecskék közé tartoznak: szinte semmi tömegük, nincs sem elektromos, sem színtöltésük, így a természet legtöbb erői gyakorlatilag nem hatnak rájuk...

MA 13:56

Az emberi DNS rejtett második kódja kapcsolja ki a géneket

🔑 Az emberi DNS egy bonyolult, hárombetűs egységekből álló rendszer; ezek az egységek négyféle nukleotidból épülnek fel...

MA 13:44

Az összehajtható iPhone jön? Szeptemberre készül a nagy Apple-hajtogatás

Nincs unalmasabb annál, mint amikor egy techóriás csak tologatja az újdonságokat – na de komolyan, most tényleg beindultak Cupertinóban!..

MA 13:34

A Ghost Murmur: valódi kémkütyü vagy csak sci-fi?

🕵 Noha a Ghost Murmur eszközről szóló történetek izgalmasak, a tudomány jelenlegi állása szerint meglehetősen valószínűtlen, hogy ilyen kvantumkémkedési technológia létezne vagy működne a leírtak szerint...

MA 13:24

Az MI körüli viták fékezik a vállalatok növekedését

Ilyen eset például, amikor egy vállalat rengeteg pénzt és erőforrást önt az MI-be, de a várt áttörések elmaradnak...

MA 13:01

Az ember 60 ezer éve meghódította Ausztráliát

🚶 Az emberiség vándorlásának egyik legnagyobb rejtélyére sikerült rávilágítani, méghozzá a DNS nyomozásával: már bizonyíték van arra, hogy az emberek körülbelül 60 ezer évvel ezelőtt érték el először Ausztráliát és Új-Guineát – sokkal korábban, mint azt néhány újabb elmélet eddig sejtette...

MA 12:57

Az öböl kapuja hetekig, akár hónapokig is zárva marad

🚢 Különösen igaz ez akkor, ha a világ energiaellátását fenyegető útvonalak kerülnek veszélybe...

MA 12:45

A nagy fordulat: a John Deere visszakozik, a gazdák nyernek

Évek óta dúl a vita: a gazdák szabadon szerelhetnék a saját gépeiket, vagy csak a John Deere drága szervizei babrálhatnak a traktorokkal?..

MA 12:34

Az Adobe Reader súlyos veszélyben: négy hónapja tart a hackerostrom

Aggasztó fejlemény, hogy már legalább négy hónapja kihasználnak hackerek egy súlyos, eddig nem javított, úgynevezett zero-day sebezhetőséget az Adobe Readerben...

MA 12:23

Az eddigi leggyorsabb töltés: BYD és KFC összefog Kínában

Tipikus eset, amikor két óriás egymásra talál: a kínai elektromosautó-gyártó BYD és a KFC különleges együttműködésbe kezdett, hogy közösen nyissák meg az ország első, kilenc perc alatt letudható gyorséttermi töltőállomásait...

MA 12:01

Az MI-ügynökök megjöttek – és velük a káosz

Például néhány éve még csak csevegtünk egy barátságos chatbottal, ma pedig már érezhető, hogy a mindennapokban is jelen van a mesterséges intelligencia...

MA 11:56

A gigantikus Bitcoin ATM-hálózatot milliós kibertámadás rázta meg

💸 A világ egyik legnagyobb Bitcoin ATM-hálózatát üzemeltető Bitcoin Depot súlyos pénzügyi károkat szenvedett el, miután hekkerek márciusban betörtek a rendszerükbe, és mintegy 1,4 milliárd forint (3,665 millió dollár) értékű Bitcoint loptak el a cég tárcáiból...

MA 11:46

Az orrában fejlődő légylárva – döbbenetes görög eset

Egy görög szigeten élő, 58 éves nő elképesztő egészségügyi problémával szembesült: hosszan tartó arcfájdalom, majd heves köhögés kínozta, miközben egyre rosszabbul érezte magát...

MA 11:34

Az okosórád már a termékenységet is figyeli: megérkezett a Garmin új funkciója

A Garmin legújabb fejlesztésével már a termékenységi adatok is elérhetők az okosórákon...

MA 11:01

Az Xbox végre forradalmasítja az elavult Achievement-rendszert

Az Xbox Achievement-rendszer évek óta nem kapott érdemi frissítést, mostanra azonban látványosan megújul: az Xbox Insider program résztvevői már tesztelhetik az új funkciókat, amelyek hamarosan mindenkihez megérkeznek...

MA 10:44

A mesterséges intelligencia háborút indít az üzleti adataidért

🤓 A digitalizáció rohamosan átalakítja, hogyan dolgoznak a vállalkozások minden iparágban, miközben az MI-alapú megoldások egyre mélyebben beépülnek a mindennapi munkafolyamatokba...

MA 10:22

A PS5 új menüje: végre használhatóbb lesz a felület

😃 A PlayStation 5-tulajdonosok évek óta várnak egy apró, de bosszantó problémát orvosló fejlesztésre a konzol kezelőfelületén...

MA 10:01

Az Ozempic és társai: fogyás, hányinger, gének – mi számít?

A népszerű fogyókúrás gyógyszerek, az Ozempic, a Wegovy vagy a Zepbound mégsem működnek egyformán mindenkinél, hiába robbantak be a köztudatba...

MA 09:58

A nagy adatvédelmi botrány: titokban pásztázza böngésződet a LinkedIn

Különösen igaz ez akkor, ha egy olyan technológiai óriás kerül reflektorfénybe, mint a LinkedIn, amelyet most két jelentős csoportos per is célba vett...