Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
A globális egészségügyet egyre súlyosabb veszély fenyegeti: az antibiotikumoknak ellenálló baktériumok miatt 2050-re évente akár 10 millió halálesetet is jósolnak...
Na most kapaszkodj: a Meta hosszú távú szerződést kötött az Nvidiával, és évekig tonnaszámra vásárolja az Nvidia vadiúj Grace és Vera CPU-it, meg a Blackwell- és Rubin GPU-it a saját adatközpontjaihoz...
🧐 Amikor valaki orvoshoz fordul, magától értetődőnek veszi, hogy a szakember már találkozott valódi testtel, tapasztalatokat szerzett, vizsgált szerveket, megkülönböztette a különböző fájdalomtípusokat...
Nemcsak a profik számára fontos az, amit a 2026-os téli olimpián debütáló síalpinisták teste tud: a kiemelkedő állóképességi szint, amelyet egy mutató, a VO2 max mér...
Fontos kérdés, hogy az egyre fejlettebb digitális technológiák hogyan javíthatják az idősebbek életminőségét, különösen azokét, akik Alzheimer-kórral vagy más demenciával élnek...
A Proton VPN androidos alkalmazása jelentősen átalakult: frissítés után a felhasználók gyorsabb, átláthatóbb felületet kapnak, ám az ikonikusnak számító OpenVPN-protokoll már nem elérhető...
Az Anthropic frissítette Sonnet nevű MI-modelljét a 4.6-os verzióra, amely most jobban programoz, ügyesebben kezeli a számítógépes feladatokat, és fejlettebb következtetési, valamint tervezési képességekkel is rendelkezik...
🤢 Érdemes tudni, hogy egy németországi kövület nem mindennapi felfedezést rejt: egy 290 millió éves, megkövesedett hányásdarabkát – vagyis regurgitalitot – sikerült azonosítaniuk paleontológusoknak...
A 2026-os pekingi Tavaszünnepi Gálán különleges esemény zajlott: emberformájú robotok adtak elő teljesen autonóm harcművészeti műsort a holdújévi ünnepség keretében...
Egy nyugdíjas informatikus kísérleti céllal fordult a Google Geminihez: saját gyógyszerlistáját és egészségügyi adatait akarta rendszerezni, bízva abban, hogy a bot tárolja az ezekből összeállított orvosi profilt...
A Bayer megdöbbentő, 2600 milliárd forint (7,25 milliárd dollár) összegű egyezségre készül, hogy végre lezárja a Roundup nevű gyomirtó körül évek óta húzódó amerikai rákkártérítési pereket...
5500 évvel ezelőtt egy svédországi szigeten élt vadászó-gyűjtögető közösség tagjait egy különleges temetőben temették el, amelyről most DNS-vizsgálatok révén egyedülálló részletek derültek ki...
Mark Zuckerberg, a Meta vezérigazgatója szerdán tanúskodik egy jelentős kaliforniai perben, amely azt vizsgálja, hogy a közösségi oldalak szándékosan teszik-e függővé és károsítják-e a fiatalokat...
Egy világ omlott össze a Tesla kaliforniai rajongói számára: már hiába keresed az Autopilot kifejezést, az államban hivatalosan is eltűnik a márka kommunikációjából...
Az indiai IT-piac óriása, az Infosys együttműködési megállapodást kötött az Anthropic MI-fejlesztő céggel, amelynek célja, hogy az úgynevezett agentikus MI-től új lendületet kapjon a távközlési és egyéb, erősen szabályozott iparágak digitalizációja világszerte...
🌊 2024 októberében a valenciai térséget olyan rendkívüli esőzések sújtották, amelyek néhány óra alatt több csapadékot zúdítottak a vidékre, mint amennyi máskor egy teljes év alatt esik...
💰 Az Abu-Dzabi állami befektetési alapok jelentős szereplői nem riadtak vissza a bitcoin 2025-ös árfolyamzuhanásától: a Mubadala Investment Company és az Al Warda Investments a negyedik negyedévben komoly mennyiséget vásároltak a BlackRock iShares Bitcoin Trust (IBIT) spot bitcoin ETF-jéből...
⚠ Külön említést érdemel, hogy 2024 közepe óta egy kínai államilag támogatott hackercsoport folyamatosan kihasználja a Dell egyik kritikus sebezhetőségét...
