Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Létezik az a helyzet, amikor próbálsz valami menőt vagy vicceset mondani angolul, aztán szembejön veled egy kedves, de értetlen tekintet, mert az a bizonyos „break a leg” vagy az elhíresült „bite the bullet” ott helyben totál félremegy...
📈 A Block, amely alá tartozik a Square fizetési rendszer, a Cash App, a Tidal, valamint egy nyílt forráskódú MI-platform, hirtelen a világgazdasági diskurzus központjába került...
A francia Olympique Marseille futballklub megerősítette, hogy kibertámadás érte, miután egy hacker azt állította, sikerült áttörnie a klub informatikai rendszerét...
❄ 2023-ban az Antarktisz keleti részén fekvő Hektoria-gleccser rekordgyorsasággal zsugorodott: mindössze két hónap alatt a jégtömeg közel fele, nyolc kilométer hosszan eltűnt...
A hét vége felé közeledve a kriptopiacon ismét eluralkodott a borús hangulat, ahogy az amerikai részvények is esésbe kezdtek az Nvidia vártnál gyengébb eredményei miatt...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Four Last Things (iPhone/iPad)A Four Last Things egy point-and-click kalandjáték, amelyben reneszánsz kori festményekből készült képi világban mozoghatsz...
💬 Az emberi génállományban mindmáig ott lappang néhány százaléknyi neandervölgyi örökség. Bár régóta ismert, hogy a két faj egy időben, egy helyen élt, a keveredés pontos jellege mindig is rejtély maradt...
Érdemes megvizsgálni, hogy a Juniper Networks PTX sorozatú routereit érintő kritikus sebezhetőség veszélybe sodorhatja a legnagyobb internetszolgáltatókat és felhőalapú hálózatokat...
A klímaváltozás elleni harcban a zöld hidrogén már most központi szerepet tölt be, de tömeges előállítása még mindig túl drága, és környezetvédelmi szempontból is problémás...
💡 Tipikus eset, amikor az online játékvilágban egyik botrányt a másik követi: most épp egy MI-vel írt álkritika robbantotta fel a Metacritic oldalát, miközben a háttérben átalakulások és leépítések hulláma söpör végig a játékmédia világán...
Ma vallás, birodalomalapítás, forradalmi jogkiterjesztés és tragédiák váltják egymást: a thesszalonikai ediktum átalakította a Római Birodalom vallási arculatát, a Dominikai Köztársaság kivívta függetlenségét, míg Chile történelmi erejű földrengést szenvedett el...
Ez a jelenség jól illusztrálható azzal, hogy a Microsoft szélesebb körben vezeti be a Windows 11-ben a személyes beállítások és a Microsoft Store-alkalmazások visszaállításának lehetőségét vállalati felhasználók számára...
🙌 Az Elon Musk által vezetett xAI nagy reményekkel indított pert az OpenAI ellen, azt állítva, hogy a rivális mesterségesintelligencia-fejlesztő cég jogtalanul csábított át nyolc xAI-munkatársat, hogy hozzájusson a vállalat adatközpontjaihoz és a Grok nevű chatbotjához kapcsolódó üzleti titkokhoz...
🚨 Az Instagram hamarosan értesítést küld a szülőknek, ha gyermekük ismételten öngyilkossággal vagy önsértéssel kapcsolatos kifejezésekre keres rá az alkalmazásban...
A brit Rolls-Royce óriási lendületet vett, miután jelentős működési nyereséget és részvény-visszavásárlást jelentett be az egyre növekvő hajtóműigényeknek köszönhetően...
Tipikus eset, amikor egy fejlesztőcsapat nagy lendülettel veti bele magát a közös munkába, majd váratlanul kiderül, hogy a folyamatban egy kritikus sebezhetőség lapul...
💪 Különösen igaz ez akkor, ha valaki abban reménykedik, hogy a testmozgás majd jelentősen csökkenti az ízületi kopás, vagyis az oszteoartritisz okozta fájdalmat...
Érdekes felvetés, miszerint az övsömör elleni oltás nemcsak a fájdalmas kiütés megelőzésében lehet hasznos, hanem az öregedés folyamatára is hatással lehet...
