Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Komolyan mondom, néha úgy érzem, imádnak minket egyes cégek, aztán mégis ott motoszkál hátul, hogy jó, jó, persze, csak közben valami apróbetűs rész mindig előugrik...
🌍 Az MI-fejlesztések hatására a nagy technológiai vállalatok drasztikusan növelik szén-dioxid-kvóta-vásárlásaikat, hogy ellensúlyozzák a növekvő energiafogyasztásukból eredő kibocsátásaikat...
🤰 Egy eddig kevéssé ismert bélfehérje, az intelectin-2, kettős védelmi vonalat alakít ki a szervezetben: egyrészt erősíti a bélfalat borító nyákréteget, másrészt csapdába ejti és elpusztítja a kórokozó baktériumokat...
🔈 A Samsung frissített Galaxy Buds 4 Pro fülese minden eddiginél jobban szól: duplán erősített, nagyobb teljesítményű mélynyomók dübörögnek benne, menő, penge formát kapott, még tisztább hívásminőséget és fejlettebb zajszűrést ígér...
Van abban valami szédítő, hogy végre megtalálod a munkát, amit imádsz – például újságíró és író vagy, elmerülsz a sztorikban, és nap mint nap okosnak és hasznosnak érzed magad...
🔮 A világegyetem sötétjében ragyog a híres Macskaszem-köd (Cat’s Eye Nebula, NGC 6543), amely izzó, kék, narancs és vörös gázgyűrűivel, valamint bonyolult alakzatával a csillag halálának káprázatos jelenetét tárja elénk...
📢 Noha sok felhasználó észrevette, hogy a ChatGPT frissített adatvédelmi tájékoztatójában már szó esik a hirdetésekről, egyelőre nem tervezik ezeket a reklámokat bevezetni az Egyesült Államokon kívül...
Az Oracle részvényei szárnyalni kezdtek, miután a vállalat várakozáson felüli harmadik negyedéves eredményeket közölt, és meglepően optimista előrejelzést adott a bevételekre...
🚀 Fontos kérdés, meddig lehet még fokozni a laptopok számítási teljesítményét, különösen, amikor az MI-alkalmazások már szinte mindenhol jelen vannak...
🍾 A filmiparban minden héten felrobban az internet egy-egy új generatív MI-mutatvánnyal, és már az is csoda, ha egy filmes egyáltalán tartani tudja a tempót...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Mutazione (iPhone/iPad)A Mutazione egy egyedi kalandjáték, amelyben a mindennapi kisvárosi élet és a természetfeletti események egyedülálló elegyet alkotnak...
🧬 Lényeges szempont, hogy a COVID–19 elleni harcban számos étrend-kiegészítőről pletykálták már, hogy védőhatású lehet – ezek közül az egyik legnépszerűbb a D-vitamin, amellyel kapcsolatban most egy nagyszabású vizsgálat érdekes eredményeket hozott...
Beleszerettél már egy böngészőbe ágyazott számítógépbe? Nos, tessék: az Aether OS teljes értékű asztali gépet varázsol a böngésződbe, amely közvetlenül rácsatlakozik az AT-protokollra...
A 2026-os TechRadar Australian PC Awards, amelyet minden évben nagy várakozás előz meg, ismét kihirdette az év legjobb PC-s hardver- és szoftvertermékeit...
😷 Az Egyesült Államokban a kanyaró újbóli megjelenése sokakat meglepett. Bár 2000-ben a hatóságok hivatalosan is felszámoltnak nyilvánították a betegséget, most ismét egyre több államban bukkan fel, gyakran már a hírekig sem jut el minden kitörés...
Most figyelj, mert ezt szeretni fogod: az Arc Raiders, az a shooter, ahol korábban MI-generált hangok szóltak, most visszatért a jó öreg színészekhez...
Átfogó időutazás: Jeruzsálem elestétől, Magellan Fülöp-szigeteki partraszállásán és Goddard első folyékony hajtóanyagú rakétáján át a halálos halabdzsai vegyi támadásig, majd a krími népszavazásig...
A Zootropolis 2 (Zootopia 2) legújabb felvonásában már nem a klasszikus gonosz szerepét osztják a kígyókra – ehelyett a szerethető piton, Gary De’Snake áll a középpontban, akinek története rávilágít arra, hogy a kígyók nem kegyetlen ragadozók, ahogyan azt generációk óta a mesék és filmek sugallják...
Négyezer évvel ezelőtt az Indus-völgyi civilizáció virágzott a mai Pakisztánt, Nyugat-Indiát, Kelet-Iránt és Afganisztán egyes részeit is magában foglaló területen...
👑 A Sony első generációs InZone H9 fejhallgatója sokakban hagyott hiányérzetet, de a vállalat most vastagon visszavágott: a H9 2-es modell szinte minden hibát kijavít, amit elődjénél felróttak...
