Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🚨 Rekordsebességgel dúl a feszültség a CBS News szerkesztőségében, miután a 60 perc (60 Minutes) veterán tudósítóját, Scott Pelley-t egyik napról a másikra menesztették...
A bitcoin ára rövid időre 62 000 dollár (kb. 22,2 millió forint) alá esett az ázsiai kereskedésben, amivel több mint 1,5 milliárd dollár (közel 540 milliárd forint) értékű, tőkeáttételes kriptópozíciók kényszerlikvidálását váltotta ki egyetlen nap alatt...
Egy szokatlan kísérlet készül indulni Kalifornia és Florida területén: a Google célja, hogy 64 millió baktériummal fertőzött szúnyogot engedjen szabadon a két államban...
Senki sem várta volna, hogy az Ethereum egyik legnagyobb tartalékkal rendelkező cége, a Bitmine, Michael Saylor nyomdokain haladva próbálja meg mozgatni a piacot...
Rövid áttekintés: Ezen a napon egyszerre ért véget a dunkerque-i evakuálás és kezdődött el a döntő jelentőségű Midway-i csata, miközben Róma az első tengelyhatalmi fővárosként az amerikaiak és szövetségeseik kezére került...
📈 Erre utal többek között az, hogy a kriptopénzek piaca szerdán stabilizálódni látszott a korábbi esés után, miután a legnagyobb tőzsdén jegyzett bitcoin-tulajdonos, a MicroStrategy (MSTR) tartalékai egy újabb kis részét értékesítette, és a tőzsdei bitcoinalapok (ETF-ek) is sorozatban rekordösszegű kiáramlásokat könyveltek el...
Ez a jelenség jól illusztrálható azzal, hogy egyre többen keresnek hosszú gyújtótávolságú, megfizethető objektíveket, hogy komolyabb szintre emeljék a természet- vagy madárfotózást, kompromisszumok nélkül...
👑 A Computex rendezvény egy váratlan pillanatát örökítették meg, amikor Jensen Huang, az Nvidia vezérigazgatója, rajongók között autogramot osztogatott – igazi sztárként ünnepelték...
Erre utal többek között az is, hogy Kína hétfőn váratlanul, előzetes figyelmeztetés nélkül bocsátotta fel legújabb, újrafelhasználható hordozórakétáját, a Long March 12B-t...
💃 Raine Michaels, Bret Michaels lánya, egy új valóságshow-ban szerepel, ahol nyíltan beszél az életéről – még arról is, hogy lábáról készült fotókkal keresne pénzt...
A háttérben egészen más zajlott: a Stripe, a Visa és a Mastercard hamarosan közösen indítanak egy stabilcoin‑platformot, amelyhez az amerikai Coinbase kriptotőzsde is csatlakozhat...
🔒 A decentralizált pénzügyi megoldások (DeFi) valódi jelentőségét nem a spekulatív kereskedés, hanem a nemzetközi bankrendszer háttérfolyamatainak átalakítása adhatja meg...
😱 Egy 11 éves indiai fiú szülei kétségbeesetten fordultak orvoshoz, amikor fiuk különös tüneteket produkált: szeméből, füléből és orrából időnként vér szivárgott mindenféle látható ok nélkül...
🪖 Több mint száz évvel azután, hogy egy walesi barlang falán vörös vonalakat fedeztek fel, most úgy tűnik, sikerült bizonyítani, hogy ezek a legrégebbi ismert sziklarajzok a Brit-szigeteken...
🔐 A Trezor hardveres kriptotárcák gyártója egy chiphibát tárt fel vadonatúj Safe 7 készülékében, miután a rivális Ledger kutatói sikeresen demonstráltak egy laboratóriumi támadást...
💰 Érdemes megvizsgálni, hogy az amerikai bankok miért tartanak a stabilcoinok elterjedésétől, és miként próbálnak hatni a törvényhozókra a digitális eszközök szabályozására...
🔑 A nagyvállalatok világában a compliance sokak számára szükséges rossz: lassító, bonyolító, időrabló tényező, amit auditorok, jogászok, szabályozó hatóságok rákényszerítenek azokra, akik a cégükkel haladni igyekeznek...
💀 Egy lényeges szempont, hogy a Sony Santa Monica egy teljesen új irányba viszi a God of War sorozatot: a Laufey alcímű részben most először Kratos feleségét, Faye-t irányíthatják a játékosok...
Megdöbbentő megfigyelés nyomán új útra lép a lakható exobolygók kutatása: csillagászoknak először sikerült közvetlenül kimutatniuk több távoli bolygó mágneses mezejét...
Egy szombat délután váratlanul megszakadt az ég nyugalma az Egyesült Államok északkeleti részén: egy tűzgömb 230 tonna TNT erejével robbant fel, dörejét több államban és két kanadai tartományban is hallották...
