Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🎧 Néhány év szünet után a Nothing bedobta következő generációs vezeték nélküli fülhallgatóját, a Nothing Ear 3a-t, amely az elérhető ár mellett olyan újításokat hoz, amelyekre eddig senki sem számított...
Az Ear (3a) vezeték nélküli fülhallgató nemcsak stílusos, hanem igencsak barátságos árcédulával is érkezik, és a megszokottnál is több extra funkcióval bír ebben a kategóriában...
🧠 Egy lényeges szempont, hogy a biológia és kémia találkozásánál gyakran bukkannak olyan titkokra, amelyek évtizedeken át megoldhatatlanoknak tűnnek...
🚀 A Csendes-óceán fölött, valahol Hawaii és Ausztrália között, egy különleges, levegőből indított rakéta indult útjára július elején: célja nem más, mint megmenteni egy legendás, de veszélyesen alacsony pályára sodródott csillagászati műholdat...
A James Webb űrteleszkóp minden eddiginél részletesebb térképet rajzolt meg a világegyetemről, feltárva a galaxisok fejlődését és a kozmosz hatalmas hálózatát...
Ez a jelenség jól illusztrálható azzal, hogy egy-egy termék bármennyire is kiemelkedő tulajdonságokkal bír, néha egyetlen makacs hibája minden más erényét képes háttérbe szorítani...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ImgRef (iPhone/iPad)Az „App Store szerkesztői választása” és 98%-os, ötcsillagos értékelésű alkalmazás egyetlen platformon ötvözi a mood boardokat, referencia-képeket, okos eszközkezelést, pontos színválasztást és szabadon szerkeszthető kollázsokat...
Külön említést érdemel, hogy a törökországi Üçağızlı II-barlang mélyén feltárt leletek alapján a neandervölgyiek és az utánuk beköltöző modern emberek mindennapi életének nyomai feltűnően hasonlónak bizonyultak...
Érdemes megvizsgálni, hogy az egyre népszerűbb kapucsengő-kamerák, mint például a Ring, a Google Nest Doorbell vagy a SimpliSafe, valóban növelik-e a biztonságot, vagy inkább ártanak a közösségi kapcsolatoknak...
Érdemes megvizsgálni, mire vállalkozik egy olyan MI-startup, amely eddig még sosem volt nyereséges, de most elképesztően magabiztosan hosszú távon tervez...
2018-ban a NASA elindította a TESS űrtávcsövet azzal a céllal, hogy közeli csillagokat figyeljen meg, észlelve a fényükben jelentkező apró elhalványulásokat, amelyeket elhaladó bolygók okoznak...
🤔 Évente több millió amerikai esik át koleszterinvizsgálaton, amelynek középpontjában rendszerint az úgynevezett “rossz” LDL-koleszterinszint mérése áll...
Mi történt ezen a napon? Rövid történelmi körkép: felmentették Jeanne d’Arcot 25 évvel a kivégzése után, a tilsiti béke lezárta a negyedik koalíciós háborút, és a Marco Polo hídi incidens ürügyet adott a második kínai–japán háborúra...
A világegyetem leglátványosabb robbanásai – szuperfényes szupernóvák – eddig is lenyűgözték a kutatókat, most azonban egy újabb titok oldódott meg: sikerült közvetlenül megfigyelni, amint egy ilyen kozmikus esemény során magnetár, azaz rendkívül erős mágneses mezővel rendelkező, pörgő neutroncsillag keletkezik...
⚠ Nehéz elhinni, de alig pár órával azután, hogy az Adobe bejelentette egy kritikus ColdFusion-sebezhetőséget (CVE-2026-48282), máris aktív támadások indultak világszerte...
📈 A TeraWulf hatalmas lendületet kapott a tőzsdén, miután 20 éves szerződést kötöttek: a Hawesville-ben, Louisville-től kicsit több mint egyórányira található adatközpontjukat az MI-fejlesztő Anthropic bérli ki...
A japán Hayabusa2 űrszonda lenyűgöző bravúrt hajtott végre: mindössze 800 méterre száguldott el a Torifune nevű aszteroida mellett, mintegy másodpercenként 5 kilométeres sebességgel...
Különösen igaz ez akkor, ha valaki éppen garanciális javításra vagy cserére szorul, de végül csak értelmetlen utalványokat kap, amiket gyakorlatilag semmire sem tud felhasználni...
