Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
📦 Az IKEA új, mindenki számára elérhető okos kütyüi végre megérkeztek! A gondolat izgalmas: menő, okos izzók, kapcsolók, dugaljak, mind kezdőáron, már 2400 forinttól...
🛡 Egy új, böngészőkben alkalmazható trükk lehetővé teszi, hogy rosszindulatú parancsokat rejtsenek el közvetlenül a weboldalakon anélkül, hogy azt az MI‑asszisztensek észrevennék...
A Google újraírta a szabályokat: mostantól a Geminiben mindenki számára ingyenesen elérhető az a funkció, amellyel valóban személyre szabott válaszokat adhat...
Jellemző példa erre, hogy napjaink egyik legagresszívebb ellátásilánc-támadása, a GlassWorm ismét lecsapott: több mint 400 fejlesztői csomag, forráskódtár és bővítmény vált fertőzötté olyan platformokon, mint a GitHub, az npm, a Visual Studio Code és az OpenVSX...
🎧 A Spotify most végre bevezette az Exkluzív módot (Exclusive Mode) Windowsra – innentől a szoftver ráteszi a kezét a hangkártyádra, és kiküszöböli, hogy a géped belemotyogjon a zenédbe...
🔒 Az Apple először élesítette a Háttérbiztonsági fejlesztések nevű rendszerét, amellyel anélkül javíthattak egy kritikus WebKit-sebezhetőséget, hogy a teljes operációs rendszert frissíteni kellett volna...
🔒 Az Apple beindította a háttérben letöltődő biztonsági javításokat, amelyek olyan észrevétlenül érkeznek, hogy talán észre sem veszed őket – de a telefonod vagy a géped nagyon hálás lesz érte...
Az elmúlt hetek eseményei szinte megbénították a Hormuzi-szoros forgalmát: ahol korábban naponta több mint 100 tanker haladt át, most viszont február vége óta alig 21 tette meg az utat...
A Meta frissen felvásárolt MI-startupja, a Manus most egy asztali alkalmazással hozza el saját mesterségesintelligencia-ügynökét közvetlenül a felhasználók számítógépeire...
🔥 Mielőtt bárki eltemetné az FBC: Firebreak-et, fontos tudni, hogy a Remedy kiadta hozzá az utolsó tartalmi frissítést—de cseppet se aggódj, a szerverek még évekig bírni fogják a strapát...
👑 A francia Mistral AI bemutatta a Forge nevű platformját, amellyel cégek és állami intézmények saját MI-modelleket építhetnek, továbbfejleszthetnek és folyamatosan igazíthatnak a saját adataikhoz szabva – mindezt teljes körű adatvédelem mellett...
🔒 Kezdetben az MI-fejlesztések fő fókuszában a képességek és a funkcionalitás állt, de most először jelent meg egy átfogó biztonsági rendszer már a kiadás pillanatában...
Az MI-alapú ügynökök egyre több vállalatnál végzik el helyettünk az érzékeny feladatokat: CRM-rendszerekbe lépnek be, adatbázisokat olvasnak, e-maileket küldenek...
A ChatGPT szinte mindig magabiztos válaszokat ad, bármiről kérdezed is. Olyan határozottsággal érvel, hogy első ránézésre meggyőző lehet – ugyanakkor könnyen elfeledteti, hogy az általa közvetített válasz csupán egy nézőpont, nem pedig az egyetlen érvényes megoldás...
A videojáték-ipar épp az MI robbanását éli, sokan attól tartanak, hogy a generatív modellek elveszik majd az emberek munkáját a legnagyobb franchise-okban is...
A netes csalók manapság vérprofi szélhámosokká váltak: ügyesen ugrálnak a közösségi oldalak, üzenetküldő appok, e-mailek és piacterek között, hogy lecsapjanak a legóvatosabb áldozatokra is...
