Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
📈 Erre utal többek között az, hogy a kriptopénzek piaca szerdán stabilizálódni látszott a korábbi esés után, miután a legnagyobb tőzsdén jegyzett bitcoin-tulajdonos, a MicroStrategy (MSTR) tartalékai egy újabb kis részét értékesítette, és a tőzsdei bitcoinalapok (ETF-ek) is sorozatban rekordösszegű kiáramlásokat könyveltek el...
Ez a jelenség jól illusztrálható azzal, hogy egyre többen keresnek hosszú gyújtótávolságú, megfizethető objektíveket, hogy komolyabb szintre emeljék a természet- vagy madárfotózást, kompromisszumok nélkül...
👑 A Computex rendezvény egy váratlan pillanatát örökítették meg, amikor Jensen Huang, az Nvidia vezérigazgatója, rajongók között autogramot osztogatott – igazi sztárként ünnepelték...
Erre utal többek között az is, hogy Kína hétfőn váratlanul, előzetes figyelmeztetés nélkül bocsátotta fel legújabb, újrafelhasználható hordozórakétáját, a Long March 12B-t...
💃 Raine Michaels, Bret Michaels lánya, egy új valóságshow-ban szerepel, ahol nyíltan beszél az életéről – még arról is, hogy lábáról készült fotókkal keresne pénzt...
A háttérben egészen más zajlott: a Stripe, a Visa és a Mastercard hamarosan közösen indítanak egy stabilcoin‑platformot, amelyhez az amerikai Coinbase kriptotőzsde is csatlakozhat...
🔒 A decentralizált pénzügyi megoldások (DeFi) valódi jelentőségét nem a spekulatív kereskedés, hanem a nemzetközi bankrendszer háttérfolyamatainak átalakítása adhatja meg...
😱 Egy 11 éves indiai fiú szülei kétségbeesetten fordultak orvoshoz, amikor fiuk különös tüneteket produkált: szeméből, füléből és orrából időnként vér szivárgott mindenféle látható ok nélkül...
🪖 Több mint száz évvel azután, hogy egy walesi barlang falán vörös vonalakat fedeztek fel, most úgy tűnik, sikerült bizonyítani, hogy ezek a legrégebbi ismert sziklarajzok a Brit-szigeteken...
🔐 A Trezor hardveres kriptotárcák gyártója egy chiphibát tárt fel vadonatúj Safe 7 készülékében, miután a rivális Ledger kutatói sikeresen demonstráltak egy laboratóriumi támadást...
💰 Érdemes megvizsgálni, hogy az amerikai bankok miért tartanak a stabilcoinok elterjedésétől, és miként próbálnak hatni a törvényhozókra a digitális eszközök szabályozására...
🔑 A nagyvállalatok világában a compliance sokak számára szükséges rossz: lassító, bonyolító, időrabló tényező, amit auditorok, jogászok, szabályozó hatóságok rákényszerítenek azokra, akik a cégükkel haladni igyekeznek...
💀 Egy lényeges szempont, hogy a Sony Santa Monica egy teljesen új irányba viszi a God of War sorozatot: a Laufey alcímű részben most először Kratos feleségét, Faye-t irányíthatják a játékosok...
Megdöbbentő megfigyelés nyomán új útra lép a lakható exobolygók kutatása: csillagászoknak először sikerült közvetlenül kimutatniuk több távoli bolygó mágneses mezejét...
Egy szombat délután váratlanul megszakadt az ég nyugalma az Egyesült Államok északkeleti részén: egy tűzgömb 230 tonna TNT erejével robbant fel, dörejét több államban és két kanadai tartományban is hallották...
📸 A Sigma 60–600 mm f/4.5–6.3 DG DN OS Sport objektív pontosan azt hozza, amit várnánk egy sportobjektívtől: nagy, masszív, és már ránézésre is azt sugallja, hogy túléli a zordabb körülményeket is...
Franklin Templeton vezérigazgatója, Jenny Johnson szerint a blokklánc és a kriptovaluta alapjaiban rengetik meg a pénzügyi rendszert, mert közvetlenül veszélyeztetik a hagyományos, busás díjakkal működő üzleti modelleket...
Szeptemberben sosem látott játéközönre lehet számítani: négy-öt nagy név döntött úgy, hogy még időben, jóval a Grand Theft Auto VI megjelenése előtt piacra lépjenek...
2024-ben az Egyesült Államok egészségügyi intézményei rekordmennyiségű, 275 millió beteg adatának kiszivárgását jelentették, bőven megduplázva az előző évet...
