Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
⭐ A csillagvetítők ma már nemcsak díszes éjszakai fények: a komolyabb modellek igazi tudományos taneszközökké váltak, amelyekkel csillagképeket, bolygókat és a világegyetem izgalmait lehet közelebb hozni a gyerekekhez...
🔎 A Discord, az egyik legnépszerűbb kommunikációs platform, komoly adatvédelmi botránnyal szembesült, miután kiderült, hogy a Persona Identities nevű azonosítószoftverének kódja nyilvánosan elérhető volt az interneten, sőt amerikai kormányzati szervereken is hozzáférhetővé vált...
Meglepő nyomokra bukkantak a németországi barlangokban előkerült, mintegy 40 ezer éves műtárgyakon: az őskori mesterek nem pusztán kedvtelésből véstek vonalakat, pöttyöket és kereszteket az elefántcsontfigurákra; ezek a díszítések egy jól szervezett, jelentéssel bíró rendszer részei lehettek...
❄ Az Egyesült Államok északkeleti részén közel 38 cm hó esett, megbénítva New York City-t, New Jersey-t, Connecticutot, Rhode Islandet és Massachusettset...
📈 A Kraken kriptotőzsde új szintre emeli a kereskedést: mostantól már tokenizált amerikai részvényekkel is lehet folyamatosan, a nap 24 órájában, akár húszszoros tőkeáttéttel kereskedni...
🗺 Az elmúlt évben minden korábbinál nagyobb volt a vezetői pozíciók cseréje a nagyvállalatoknál, de ennek oka nem valamilyen piaci visszaesés vagy rossz negyedév volt...
Amerikai egészségügyi szervezetek kerültek célkeresztbe: a Lazarus néven ismert, államilag támogatott észak-koreai hackercsoport a Medusa nevű zsarolóvírust vetette be ellenük...
🚀 Egyre élesedik a nemzetközi mesterségesintelligencia-verseny, most három ismert kínai cég került a reflektorfénybe: a DeepSeek, a Moonshot AI és a MiniMax...
A Tesla beperelte a kaliforniai Közlekedési Hatóságot (DMV), miután az megtiltotta az Autopilot és a Full Self-Driving elnevezések használatát az autók értékesítésekor...
🤔 Érdemes megvizsgálni, mennyire megalapozottak a mikroműanyagok egészségkárosító hatásairól szóló figyelmeztetések. Az elmúlt években félelmet keltő hírek terjedtek el: mikroműanyagok már mindenütt jelen vannak, az élelmiszerektől a vízen át a tisztítószerekig, és lassan felhalmozódnak a szervezetünkben – legalábbis ezt állították...
🕵 Az amerikai védelmi minisztérium hamarosan hadrendbe állítja Elon Musk tulajdonában lévő Grok nevű MI-t, amelyet titkos katonai rendszerekben is bevethetnek...
Az MI-őrület mostanra teljesen felforgatta a kockázatitőke-piac jól bevált szabályait. A közelmúltban az OpenAI hatalmas tőkebevonásának árnyékában az Anthropic is soha nem látott, 10 800 milliárd forint értékű befektetést szerzett...
Az emberiség egyre több adatot termel és gyűjt, minden eddiginél gyorsabb ütemben – a mesterséges intelligencia elterjedésével pedig a tárolandó információ mennyisége robbanásszerűen nő...
2026. február 23. Az elmúlt hét bővelkedett a meglepetésekben: váratlan fordulat a Moderna új mRNS-influenza-vakcinája engedélyezése körül, biztató kísérleti eredmények egy univerzális, belélegezhető oltásról, veszélyesnek bizonyuló légszennyezés és egy sivatagi dinólelelet, ami átírja a spinosauridák történetét...
Sam Altman, az OpenAI vezérigazgatója újabb hullámokat keltett azzal, hogy minden MI-t támadó hangot visszautasított az India AI Impact csúcstalálkozón, mondván, igazán elfogadhatatlan az a „csúnya” vád, hogy sok vizet és energiát zabál az MI – hiszen tessék, az emberek is 20 évig csak esznek, nőnek és tanulnak, mire okossá válnak...
🌍 Az Xflow egy indiai fintech startup, amely jelentős támogatást kapott a Stripe-tól és a PayPal Ventures-től, miután 6 milliárd forintnyi (16,6 millió USD) tőkét vont be...
Mintegy 1000 kilométerre Portugália partjaitól, mélyen az Atlanti-óceán alatt, egy hatalmas föld alatti kanyonrendszer húzódik, amely minden szárazföldi képződményt felülmúl – köztük a Nagy-kanyont (Grand Canyon) is...
Négy feltételezett hacktivistát vett őrizetbe a spanyol Polgárőrség, akik a gyanú szerint több kormányzati minisztérium, politikai párt és közintézmény ellen indítottak kibertámadásokat...
