Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🚀 Az elmúlt napokban valóságos roham indult az Anthropic MI-asszisztense, a Claude alkalmazás iránt: hirtelen az amerikai App Store ingyenes alkalmazásainak listája élére ugrott, maga mögé utasítva a korábbi csúcstartó ChatGPT-t, valamint a Google Geminit is...
Kiderült, hogy a baktériumokat fertőző vírusok – azaz fágok – egy eddig ismeretlen gyengeséget tártak fel: képesek lekapcsolni egy létfontosságú bakteriális fehérjét, a MurJ-t, amelyre az eddigi antibiotikumok nem tudtak hatni...
💻 Az Apple idén év végétől az Egyesült Államokban kezdi el gyártani a Mac minit, leállítva a Vietnámban és Kínában folyó termelést, hogy az összeszerelés a houstoni Foxconn-gyárban történjen...
A Xiaomi világszerte bemutatta a Xiaomi 17 és Xiaomi 17 Ultra mobilokat, amelyek bátran odaállnak bármelyik zászlóshajó mellé, és akár az idei Galaxy S26-sorozat csalódott rajongóinak is izgalmas alternatívát kínálnak...
👥 A szólóvállalkozók gyakran falakba ütköznek, amikor új ügyfeleket szeretnének találni. A hagyományos platformok, mint a LinkedIn, tele vannak önjelölt gurukkal, akik a saját tanfolyamukat promózzák, vagy a reggeli jógájuk eredményeit akarják világgá kürtölni...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Last Horizon (iPhone/iPad)A Last Horizon egy letisztult, minimalista űr-túlélő játék, amelyben egy letűnt civilizáció utolsó űrhajóját irányítva kell új otthonra lelnünk az univerzumban...
Az 1854-ben alapított Clarity évtizedeken át adott munkát vak és látássérült embereknek az Egyesült Királyságban, legutóbb pedig szappankészítéssel foglalkozott...
🚨 A QuickLens nevű Chrome-bővítmény, amely eredetileg a Google Lens gyors elérését tette lehetővé a böngészőn belül, mára már több ezer felhasználót megkárosított, miután veszélyes, kriptolopásra és adathalászatra alkalmas kódokat építettek bele...
🔑 A Xiaomi bemutatta első Bluetooth-alapú helymeghatározó eszközét, amely a beépített fém huroknak köszönhetően azonnal rögzíthető kulcscsomóra, karabinerre...
Véget ér a Star Wars-mozifilmek aszálya, mert idén májusban jön A Mandalóri és Grogu (The Mandalorian and Grogu), aztán jövőre Ryan Goslinggal a Csillagok háborúja: Csillagvadász (Star Wars: Starfighter)...
🕵 Érdemes megvizsgálni, hogy tényleg elkerülhetetlenek-e a korral járó betegségek, vagy létezik olyan megközelítés, amellyel egyszerre több egészségügyi kockázat is mérsékelhető...
🍺 Fontos kérdés, hogyan lett hirtelen rosszul több tucat ember egy kisvárosi vásáron, miközben a gyanúba hozott ételeket többen nem is fogyasztották, és a helyszíni higiénia is erősen kétséges volt...
🚀 Több évnyi kutatómunka és a legújabb NASA-eredmények alapján egyre több adat utal arra, hogy a Mars felszínéről származó kőzetekben talált rendkívüli szerves vegyületeket élőlények hozhatták létre...
A NASA több mint ötven év után ismét a Holdhoz készül visszatérni, és ezúttal történelmet ír: a következő Artemis II-küldetésen először utazik fekete és női űrhajós is a Holdhoz...
Azt vizsgáljuk, hogy az Egyesült Államok szövetségi védőoltási javaslatainak átalakítása után miként próbálják az egyes államok megőrizni a gyerekek számára az ingyenes és könnyen hozzáférhető oltásokat...
🤖 Az OpenAI pénteken bejelentette, hogy óriási, 110 milliárd dolláros befektetés érkezik az Amazon, az Nvidia és a SoftBank részéről, miközben a cég értékét már 730 milliárd dollárra teszik...
🔋 Fontos kérdés, hogy egyre több készüléket és gyorstöltőt párosítva meddig kell még bosszankodnunk amiatt, hogy az USB-C-vel is gyakran káoszba fullad az élmény: a különféle gyorstöltési szabványok, a gyártói protokollok meg a hosszú távú akkumulátor-élettartam miatt csak kevesen oldották meg tényleg jól a problémát...
Amerikai egészségügyi és oktatási intézmények ellen indítottak támadásokat az elmúlt hónapokban olyan digitális behatolók, akik feltételezhetően Észak-Koreához köthetők...
🚀 A Földön kívüli villámok létezése már nem újdonság, hiszen a csillagászok korábban is észleltek villámlást a Jupiteren, a Szaturnuszon és a Neptunuszon...
🎥 Minden idők egyik legnagyobb médiafúziója jöhet létre, miután hivatalossá vált, hogy a Paramount több mint 40 ezer milliárd forint (110 milliárd USD) értékben felvásárolja a Warner Bros...
⚡ A motoros világ figyelme a Donut Labra irányult, miután bemutatták első gyártásérett szilárdtest-akkumulátorukat, amely a jelenlegi ismereteink szerint döbbenetesen gyors töltést tesz lehetővé...
