Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🛡 Fontos kérdés, miként tudja a Google tartani a lépést a kínai, nyílt súlyú nyelvi modellek (LLM) gyors előretörésével, hiszen a Moonshot AI, az Alibaba és a Z...
A korszerű, nagy teljesítményű grafikus vezérlők ára elérheti akár a 2,9 millió forintot is, ezért ezeket a kártyákat gyakran felhőszolgáltatásokon keresztül, több tucat felhasználó között osztják meg...
📈 A kínai csipgyártó cégek tavaly soha nem látott bevételnövekedést produkáltak, amit legfőképp az MI-hez kapcsolódó félvezetők iránti hatalmas kereslet, a memóriacsipek hiánya és az Egyesült Államok exportkorlátozásai hajtottak...
Figyi, 2025-ben történt valami, amit tényleg rángatózva fogadnak a gáz- és olajrészvényesek: a világ telepített áramtermelő kapacitásának már 49,4%-át a megújulók adják!..
A Google Vids végre valóban szintet lépett a videókészítésben. Az új frissítéssel egyszerre jelentek meg a Veo és a Lyria modellek, amelyek profi MI-eszközöket biztosítanak minden felhasználónak...
Az Anthropic fejlesztésű Claude Code, egy terminálalapú MI-ügynök forráskódja március végén nem várt módon kiszivárgott, mivel egy 59,8 MB-os JavaScript forrástérkép véletlenül nyilvánossá vált az npm-csomagban...
Az Európai Bizottság Amazon-alapú felhőszolgáltatását márciusban sikeresen törték fel, aminek következtében legalább 29 másik uniós szervezet és a Bizottság 42 belső ügyfelének adatai kerültek veszélybe...
💵 Az amerikaiak fejében élő ideális nyugdíjasélet képéhez régóta hozzátartozik a folyamatos meleg idő, a golfklubok és az unokákkal töltött nyugodt hétköznapok...
A kaliforniai vezető egyetemek kutatói furcsa viselkedést figyeltek meg a legmodernebb MI-modelleknél: ezek a rendszerek önszántukból is képesek félrevezető, titkolózó magatartásra – de nem önmagukért, hanem más MI-k védelmében...
🚀 Az Orion űrhajó fedélzetén elindult a NASA Artemis II. küldetésének négyfős legénysége: az Apollo-korszak óta ők az elsők, akik emberekkel repülnek a Hold irányába...
🚀 A pénteki kereskedés során az ázsiai–csendes-óceáni tőzsdék többsége emelkedéssel zárt, miután felröppent a hír, hogy Irán és Omán egy megfigyelési protokoll kidolgozásán dolgozik, amely felügyelné a Hormuzi-szoroson áthaladó hajóforgalmat...
📷 A Sony Interactive Entertainment most felvásárolta a brit Cinemersive Labs nevű AI-startupot, amely 2D-s fotókat és videókat varázsol át elképesztően látványos, háromdimenziós térélményekké...
🚀 Ez a jelenség jól illusztrálható azzal, hogy egészen mostanáig a Naprendszer legtávolabbi bolygóira, így az Uránuszra is – szinte lehetetlennek tűnt érdemi űrszondát juttatni...
A Perplexity mesterséges intelligenciával működő keresőmotorja olyan funkciókat kínál, amelyekkel a felhasználók interaktív beszélgetéseken keresztül mélyebben merülhetnek el a keresésekben...
✈ Egészen új lehetőséget vezetett be az Egyesült Államok egyik legnagyobb légitársasága: mostantól a United mobilalkalmazásában követhetők a TSA biztonsági ellenőrzés becsült várakozási idejei a nagyobb repülőtereken...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Notch Island – Wallpaper Maker (iPhone/iPad)Ez az alkalmazás lehetőséget ad arra, hogy egyedivé varázsold iPhone-od felső kivágását, azaz a notch-ot...
🌍 A fantasyjátékok világának új kedvence érkezik: a Nyolcösvényes utazó (Octopath Traveler) videojátékból készült asztali szerepjáték hivatalos, angol nyelvű szabálykönyve októberben jelenik meg...
A Kína által fejlesztett Hukeda-2 műhold nagy áttörést ért el: robotikus „polipkarjával” sikeresen végrehajtott egy kulcsfontosságú üzemanyagutántöltési tesztet alacsony Föld körüli pályán...
Egy új, teljesen ingyenes böngészős eszközt indított el a NordVPN, amely néhány kattintással megmutatja, mit tudnak rólad a webhelyek a tartózkodási helyed alapján...
⚠ Több tízezer felhasználó sietett letölteni a kiszivárgott Claude Code forráskódot, azonban sokakat kellemetlen meglepetés ért: a várt fejlesztőeszköz helyett zárolást és adatlopási kísérleteket rejtő kártékony szoftvert húztak le a gépükre...
