Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💸 Fontos kérdés, hogy a Netflix és a Warner Bros. Discovery (WBD) egyesülése valóban az előfizetők javát szolgálná-e, vagy ismét áremelkedések várhatóak...
A francia rendőrség ma razziázott az X (korábban Twitter) párizsi irodájában, miközben Elon Muskot is beidézték kihallgatásra egy illegális tartalmak miatt folyó nyomozásban...
Az ultrafeldolgozott élelmiszereket (UPF) sokkal szigorúbban kellene szabályozni – erre figyelmeztet egy friss kutatás, amely párhuzamot von ezek és a cigaretta között...
Az 1840-es években Semmelweis Ignác, magyar orvos megfigyelte, hogy ugyanabban a kórházban, ahol orvosok vezették le a szüléseket, akár 35% volt az anyák halálozási aránya, míg a bábák által vezetett szüléseknél ez 4% alatt maradt...
💸 Kedden viharos napot éltek át a kriptobefektetők: a bitcoin 14 hónapos mélypontra zuhant, majd hirtelen visszakapaszkodott 76 800 dollár fölé (több mint 27,5 millió forint), mielőtt ismét gyengülni kezdett volna...
A NASA Artemisz II küldetése, amely az első emberes Hold körüli tesztet jelentené évtizedek óta, ismét csúszik: a legutóbbi indítási ablak márciusra tolódik...
A Y Combinator, a világ legismertebb startup-inkubátora, mostantól lehetőséget ad arra, hogy a programjába bejutó fiatal cégek stabilcoinban kapják meg befektetésüket...
Mai válogatásunkban birodalmak születését és bukását, felszabadításokat, háborúk kezdetét és megrázó tragédiákat idézünk fel – köztük George Washington egyhangú elnökké választását és a francia rabszolgaság eltörlését...
Kína 2027-től betiltja az automatikus, süllyesztett ajtókilincseket az új autóknál, 2029-től pedig a már forgalomban lévő modelleknél is kötelező az átalakítás...
🔎 Dél-Korea kormánya és fő értéktőzsdéje, a Korea Exchange új MI-alapú eszközöket vet be, hogy kiszűrje azokat a manipulációs trükköket, amelyek során befektetők először felvásárolnak részvényeket vagy kriptovalutákat, majd hamis híreket terjesztve próbálják felpörgetni az árakat...
A Kraken kriptotőzsde mögött álló Payward elképesztő évet zárt: bevételei 33%-kal, 818 milliárd forintra emelkedtek, miközben a teljes tranzakciós volumen elérte a 2 billió dollárt (kb...
A francia hatóságok kedden razziát tartottak az X párizsi irodájában, miután büntetőeljárás indult a platform Grok nevű MI-eszköze miatt, amelyet széles körben használtak szexuálisan explicit képek generálására...
