Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Attila hun király 🗡️ feldúlja Metzet, az internet szimbolikus születésnapja 📄 megszületik az RFC 1 közzétételével, és amerikai csapatok elfoglalják Bagdadot 🏙️ – pár nap, ami új irányokat adott a történelemnek...
💎 Ez a látványos, több mint 4500 éves, gyöngyhálóból készült óegyiptomi ruha igazi ritkaság, amely kifejezetten egy nő temetésére készült a piramisok korában...
🔒 A német hatóságok hivatalosan is leleplezték Daniil Makszimovics Scsukint, azt a 31 éves, krími születésű orosz hackert, aki évekig „UNKN” fedőnéven működtette a hírhedt GandCrab- és REvil-zsarolóvírus-bűnbandákat...
Az emberiség elképesztően sokszínű környezethez alkalmazkodott az évezredek során. Bárhol nézünk szét a Földön, megtalálhatók olyan közösségek, amelyek a legextrémebb körülményeket is túlélhetővé tették – sőt, otthonukká formálták...
📤 Ebből következően érdemes megérteni, hogy az adattárolás egyre nagyobb kihívást jelent: a videók felbontása és mérete folyamatosan nő, a projektekhez szükséges fájlok könnyen túllépik a több száz MB-ot, miközben a megbízható, nagy kapacitású és megfizethető fizikai tárolók lassan eltűnnek...
⏱ Alig pár napja, hogy a T-Mobile frissítette a hálózatát, és elbúcsúzott néhány régi biztonsági szabványtól, amelyeket a 2017 előtti, régi androidos vagy iPhone-ok használtak...
Tipikus eset, amikor a technológia fejlődése villámgyorsan átírja a játékszabályokat: az MI már nemcsak elméleti fenyegetés, hanem a mindennapi gazdaság húzómotorja...
Az elmúlt tíz évben Angliában és Walesben mintegy ötvenszeresére emelkedett a rendőrség által nyilvántartott zaklatási ügyek száma, tavaly több mint 135 ezer bűncselekményt regisztráltak, szemben a tíz évvel korábbi majdnem 3 ezerrel...
Micsoda fordulat a hétvégén! A kriptopiacon mindenki a NEAR Protocolra kapta fel a fejét, mert 8,1%-ot hasított – komolyan, ez már nemcsak véletlenül elszabadult rakéta...
A NASA épp most ír történelmet az Artemis II küldetéssel. Reid Wiseman, Christina Koch, Victor Glover és Jeremy Hansen lesznek azok, akik minden eddigi űrhajósnál messzebb utaznak a Földtől, az Orion űrhajóval...
📺 A Walmart legújabb, 4K-s streaming stickje már csendben megjelent néhány üzlet polcán, így a vásárlók már most is beszerezhetik az UHD-minőséget kínáló eszközt...
⚡ A Samsung legújabb csúcsmobilja, a Galaxy S26 Ultra elsőként kapott 60 wattos vezetékes gyorstöltést, amivel végre felzárkózott a versenytársak szintjéhez...
Az ipart formáló, stratégiai jelentőségű innovációként tör előre a szilícium-fotonika: ez a technológia főként a fejlett MI-, kommunikációs és adatinfrastruktúra alapkövévé válik...
⚠ A világ legnagyobb Bitcoin-vagyona veszélybe került, mivel új kvantumszámítási technikák már 2029-re képesek lehetnek feltörni Satoshi Nakamoto pénztárcáit akár kilenc perc alatt is...
Az idei év elején komoly hullámokat vetett a technológiai piac, amikor a fejlett MI-megoldások, mint az Anthropic Claude jogi feladatmodulja, egyetlen nap alatt 104 ezermilliárd forintnyi piaci értéket tüntettek el a tőzsdékről...
Gyerekek és mobilkamerák – ez aztán páros! Ha hagyod, hogy a kis kezek rátegyék a tappancsukat a mobilodra, tuti, hogy pár ujjlenyomat és egy adag titokzatos trutyi landol a képernyőn, sőt, a kamerán is...
⚠ A blokkláncon megjelenő valós eszközök tokenizációja forradalmasíthatja mind a kriptopiacokat, mind a hagyományos pénzügyi rendszert, de új kockázatokat is teremt, amelyekre a szabályozóknak egyelőre nincs válaszuk...
Érdemes megvizsgálni, hogy egy kísérleti génszerkesztéses eljárás milyen áttörést hozhat a veszélyesen magas koleszterinszint kezelésében azok számára, akiknek a hagyományos gyógyszerek nem válnak be, vagy egyszerűen nem képesek hosszú távon következetesen szedni azokat...
A világ távközlési infrastruktúrája jelentős átalakulás előtt áll: a műholdas rendszerek mellett most a sztratoszférába emelt, irányítható léghajók is megjelentek az adatátvitel forradalmian új formájaként...
