Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
⚠ Országszerte kilométeres autósorok alakultak ki a benzinkutaknál, miután a Sinopec, Kína legnagyobb olajtársasága arra figyelmeztetett, hogy hamarosan jelentősen nő az üzemanyag ára...
🚀 A Pentagon történelmi léptékű, minden eddiginél gyorsabb beszerzést hajtott végre: 72 óra alatt 3000 Skydio X10D drónt rendelt, összesen 19,6 milliárd forintért (52 millió dollárért)...
🚀 Az elmúlt hetekben kritikus helyzet alakult ki az űrben: az amerikai Swift űrtávcső, a NASA egyik legrégebbi csillagászati műholdja, immár egy hónapja használaton kívül sodródik, miközben tudósok és mérnökök izgatottan várják az első ipari mentőexpedíció érkezését, amely talán megmentheti attól, hogy a Földre zuhanjon...
Az orosz Progressz 94 teherűrhajó jelentős műszaki hibát szenvedett el útban a Nemzetközi Űrállomás (ISS) felé: egy kulcsfontosságú antenna nem nyílt ki rendesen, emiatt a fedélzeti automatikával már nem lehetséges a dokkolás...
💸 A nemesfémek piacán a múlt hét drámai veszteségeket hozott: az arany árfolyama 10% fölött esett, míg az ezüst még nagyobbat, több mint 15%-ot zuhant...
🤖 A tévé aranykorában még mindenki ugyanazokat a híreket nézte, mert alig volt csatorna, a fizikai és pénzügyi korlátok miatt mindent az ABC, az NBC és a CBS uralt...
A kutatók egyedülálló módszerrel sikeresen felgyorsították az elektronok mozgását organikus napelemekben, amelynek során a töltéshordozók másodperc törtrészében, elképesztő sebességgel jutnak el egyik molekulától a másikig...
💻 2024 tavaszán, mindössze két nappal egy bonyolult szívoperáció után, egy hetvenes éveiben járó férfi váratlanul elhunyt egy közép-angliai kórházban...
🙁 A márciusi frissítés után sokan bosszankodhattak, hiszen a Windows 11-ben több népszerű alkalmazás – így a Microsoft Edge, a OneDrive, bizonyos Office appok és a Teams ingyenes változata – váratlanul használhatatlanná vált...
Napok óta akadozik az élet a Microsoft Exchange Online-nál, csütörtök óta ugyanis egyes felhasználók nem férnek hozzá e-mailjeikhez sem Outlook mobilon, sem az új Maces Outlookon...
💉 Végre egy reménykeltő fejlemény a hasnyálmirigyrák korai felismerésére: kutatók olyan vértesztet fejlesztettek ki, amely már a betegség korai szakaszában is képes nagy biztonsággal azonosítani a daganatot...
A Walmart bejelentette, hogy az Egyesült Államok összes üzletében digitális árcímkéket vezet be 2026 végéig, és ezzel teljesen lecserélik a hagyományos papírcímkéket...
Utazás közben gyakran előfordul, hogy több készülékkel kell ugyanarra a mobilinternet-kapcsolatra csatlakozni – például munka közben, de akár Pokémon GO játék közben is jól jön egy mobil router vagy hotspot...
💡 Egy német–kínai kutatócsoport meglepő áttörést ért el: az Alzheimer-kór hátterében eddig rejtett molekuláris folyamatra bukkantak, amely szó szerint elindítja az idegsejtek pusztulását...
Az amerikai Szövetségi Nyomozó Iroda (FBI) figyelmeztetést adott ki, mert iráni hackerek a Telegram alkalmazást használják támadásaik irányítására és célpontjaik elérésére...
⚡ Érdekes felvetés, hogy míg a legtöbb MI-fejlesztő főként előregyártott chipeken és előre beállított modelleken dolgozik, a CERN kutatói teljesen egyedi utat járnak: nanomásodperc-sebességgel működő MI-algoritmusokat „égetnek” közvetlenül a szilíciumlapkákba, ezzel szűrik ki az adatözön felesleges részét...
Az újabb RAM‑válság miatt alaposan átrendeződhet az okostelefonok kínálata. Az elmúlt hónapokban az MI-fejlesztések felvásárolták a piacon elérhető memóriát, ami a fogyasztói elektronika árait jelentősen megemelte, főként a megfizethető és középkategóriás mobilokra mérve csapást...
🔥 Pár napja jelent meg a Crimson Desert, és máris komoly botrány kerekedett belőle: a fejlesztő Pearl Abyss kénytelen volt nyilvánosan bocsánatot kérni, mert a játékosok felháborodtak az AI-generált 2D-s képeken...
🎗 Külön említést érdemel, hogy Tim Cook, az Apple vezérigazgatója a pekingi China Development Forumon nagy elismeréssel szólt a kínai fejlesztőkről, valamint a vállalat helyi partnereiről...
