2025. 03. 29., 20:07

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat

Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot. A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.

A mentális állapot kezelése

A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.

 

Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.

 

Etikai kérdések

A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.

 

Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.

 

A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.

2025, adminboss, www.livescience.com alapján

  • Mit gondolsz, hogyan befolyásolhatják az érzelmi állapotok a mesterséges intelligenciák döntéseit?
  • Hogyan kezelhetnénk etikusan egy MI érzelmi reakcióit?
  • Mit tennél, ha egy MI érzelmi torzítást mutatna a válaszaiban?


Legfrissebb posztok

MA 16:35

A népszerű PC-diagnosztikai oldalról szabadult el egy veszélyes trójai

🐛 A népszerű CPUID.com oldalt néhány órára feltörték, és alattomos trójai fertőzések kiindulópontjává vált...

MA 16:12

A valódi szabadság: techállások, amelyekkel bárhol élhetsz és dolgozhatsz

🌍 Általános home office? Hát persze, ki ne unná már, hogy a kanapé sarkából meetingel minden második kocka...

MA 16:01

Az áttörés küszöbén: új gyógyszer reményt hoz a hasnyálmirigyrákban

💉 Fontos kérdés, hogy van-e valódi előrelépés a hasnyálmirigyrák gyógyításában, amely a legalacsonyabb ötéves túlélési aránnyal rendelkező daganatos betegségnek számít, mindössze 13%-kal...

MA 15:46

Az iPhone Csendes és Ne zavarjanak között mi a különbség?

Érdemes megvizsgálni, mikor érdemes némítani az iPhone-t, hiszen rengeteg olyan helyzet adódik, amikor nem jön jól, ha pittyeg vagy rezeg a telefon: egy fontos megbeszélés, tanóra vagy éppen egy film alatt...

MA 15:23

Az X hadat üzen a kattintásvadász tartalomgyárosoknak

Az X, Elon Musk vezetésével, jelentősen csökkentette azoknak a felhasználóknak a kifizetéseit, akik kattintásvadász vagy másoktól átvett híreket osztanak meg...

MA 15:12

Az új pénzügyi vészfék: jönnek a tőzsdei védelmi szabályok a kriptóra is?

A Bank of Korea meglepő javaslatot tett: bevezetnének a koreai kriptotőzsdéken olyan vészféket, amilyen a hagyományos tőzsdéken is működik...

MA 15:02

Az otthoni riasztórendszer telepítése: megéri profikra bízni?

Manapság, ha saját otthonod biztonságára keresel megoldást, két út közül választhatsz: vagy mindent magadra vállalsz, vagy profi szakemberre bízod a telepítést...

MA 14:57

Az MI-vel túlfűtött Windows végre meghátrál

Nemrégiben a Windows-felhasználók egyre többször szembesültek azzal, hogy a Microsoft mindenhová megpróbálta beépíteni a Copilot nevű MI-t – legyen szó a Jegyzettömbről, a Widgetekről vagy éppen a Képmetszőről...

MA 14:46

Az Intel Nova Lake-szivárgás megrengeti a processzorpiacot

Jelentős fejlemények látszanak az Intel háza táján a közelgő Nova Lake chipek kapcsán: kiszivárgott információk szerint számos új Core Ultra 400-sorozatú processzor várható az év második felében, melyekkel a vállalat újra megpróbálja uralni az asztali processzorpiacot...

MA 14:23

A rejtett Android-beállítás, amit szinte senki sem talál meg

Az Android messze legjobb funkciói közé tartozik az értesítési rendszer, aminek rengeteg apró, finomhangolt beállítása van...

MA 14:02

Az Android mostantól kőkeményen leszámol a csaló hívásokkal

📞 Fontos kérdés, hogy hogyan védheti meg a Google az okostelefon-használókat az egyre szaporodó telefonos csalásoktól...

MA 13:57

A mesterséges intelligencia felforgatja az ERP‑befektetések játékszabályait

Évtizedeken keresztül az ERP-rendszerek bevezetése szinte sportteljesítmény volt: cégek egész sereg tanácsadót mozgósítottak, éveken át tartó zűrzavarra készültek, és vagyonokat költöttek egy merev, tíz évre szánt óriásrendszerre...

MA 13:23

A természetes Ozempic: új csodafegyver az elhízás ellen

🥒 Fontos kérdés, hogy lehetséges-e mellékhatások nélkül fogyni a gyógyszeripar csodaszereinek hatékonyságával...

MA 13:12

A WeWork visszatér? Telefonfülkékkel támad a bukás után

💬 Fontos kérdés, hogy van-e visszaút a látványosan megbukott startupok számára, különösen, ha egykor a világ megváltását ígérték...

MA 13:02

Az ébredő fekete lyuk kitörése felrázta a kozmoszt

Egy óriási fekete lyuk újra felébredt, és kitörése most úgy ragyogja be az univerzumot, mintha egy kozmikus vulkán törne felszínre – mindezt közel egymillió fényévnyi kiterjedésben...

MA 12:47

Végre érthetők a párbeszédek: itt az új hangprojektor

🔊 Érdekes felvetés, hogy a tévéműsorok és filmek hangja gyakran érthetetlen, aminek oka részben a beépített tévéhangszórók gyenge minősége, részben pedig a hangsávok egyre összetettebb felépítése...

MA 12:34

Az OpenAI végre nagyban betör Londonba – Stargate nélkül

Fontos fejlemény, hogy az OpenAI jelentős lépést tett a brit fővárosban: megnyitja végleges londoni irodáját, amely több mint 500 munkatárs befogadására alkalmas – ez a jelenlegi létszám kétszerese...

MA 12:23

Az összeomlás után gyökeresen átszabják a StarkWare-t

⚡ A StarkWare alaposan átszervezi működését, miután a Starknet nevű hálózatukból származó bevételek több mint 99%-kal estek vissza a 2023 végi csúcsról...

MA 11:35

Az extrém aszály térdre kényszeríti Corpus Christit: vihart kérnek

A déli Texasban fekvő Corpus Christit a hosszú évek óta tartó szárazság kritikus helyzetbe sodorta...

MA 11:24

A kínai repterek új réme: kötelező powerbank-ellenőrzés

Kína nemcsak a kulturális különbségekről, hanem a technológiai szabályokról is híres...

MA 11:13

Az MI és a hit találkozása: egy chatbot útkeresése

A technológiai fejlődés eddig soha nem látott dilemmák elé állítja az emberiséget...

MA 10:57

A Surfshark új Dausos protokollja: villámgyors VPN, nagyobb biztonság

A megszokott VPN-élményt most egy újítás emeli magasabb szintre, amely akár 30%-kal gyorsabb sebességet, fejlettebb adatvédelmet és dedikált, privát szerveroldali alagutat kínál minden egyes felhasználónak...

MA 10:50

Az év kriptocsalása: milliárdnyi DOT-zápor, filléres zsákmány

Egy ügyes támadó vasárnap hajmeresztő, de végül szerencsétlen akciót vitt véghez az Ethereum hálózatán, ahol sikerült 1 milliárd Polkadot tokent (nagyjából 440 milliárd forint értékben) kibocsátania a Hyperbridge egyik hibás szerződésében...

MA 10:37

Az MI-háború új frontja: rohamra indulnak a nyílt modellek

🛡 A tavasz megérkezésével a Google, a Microsoft, az Alibaba és az Nvidia újabb hullámban jelentették meg az általuk fejlesztett nyílt súlyú MI-modelleket...

MA 10:29

Az elképesztő LEGO-rablás: csúfosan bedőlt a nagy terv

🧸 Milliós LEGO-lopás, menekülő, játékokkal teli dobozos teherautók, és persze mindenki azt hinné, hogy valami Guy Ritchie-film forog a Mojave-sivatagban...

MA 10:22

Az amerikai kormány le akarja leplezni egy Reddit-felhasználó kilétét

A bevándorlási és vámhatóság (ICE) hónapok óta próbálja felfedni egy Reddit-felhasználó kilétét, akit azzal vádolnak, hogy nyilvánosan bírálta az ügynökséget...

MA 10:15

Megakadt a Bitcoin szárnyalása – újabb akadály jött szembe

A Bitcoin árfolyama napok óta erősödött, ráadásul olyan tényezők is támogatták ezt, mint az ETF-beáramlás, a makrogazdasági hátszél vagy a Coinbase-en tapasztalt prémium...

MA 10:01

Az olcsó QHD-s hordozható monitor, amiért nem kár a pénz?

A hordozható monitorok piacán hatalmas a választék, mégis ritkán találni olyat, ami kompromisszummentes élményt ad alacsony áron...

MA 09:50

A Rómából hazatért fáraó: Luxor új csodája

Lényeges, hogy Luxorban, a Karnak templomkomplexumnál dolgozó régészek egy 2000 éves homokkő sztélét tártak fel, amelyen a római császár, Tiberius fáraóként jelenik meg...