Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Az Európai Bizottság komoly bírságra készül a TikTokkal szemben, mert a platform függőséget okozó funkciói – köztük a végtelen görgetés, az automatikus lejátszás, a push értesítések és a személyre szabott ajánlások – veszélyeztetik a felhasználók mentális és fizikai egészségét, különösen a kiskorúakét és a védtelen felnőttekét...
A Baldur’s Gate fantasy videojáték 2023-ban hatalmas sikert aratott, több mint 20 millió példány kelt el belőle, és történelmet írt azzal, hogy mind az öt legjelentősebb Év Játéka díjat elnyerte...
Ez a jelenség jól illusztrálható azzal, hogy a modern projektorok már nemcsak a nappalid falán jelenítik meg a mozit, hanem lényegében bármilyen sík felületet képesek vetítővászonná alakítani, ráadásul nagy fényerővel és kiváló képminőséggel...
Lényeges szempont, hogy a pszichiátria egyik legfontosabb alapkövét, a hivatalos diagnosztikai kézikönyvet – közismerten DSM néven – mostanra annyi kritika érte, hogy akár teljesen új alapokra is helyezhetik a mentális betegségek meghatározását...
🎮 Strauss Zelnick, a Take-Two vezérigazgatója megerősítette, hogy idén nyáron hivatalosan is elindul a Nagy értékű autólopás 6 (Grand Theft Auto 6, GTA 6) marketingkampánya, mert a játék fejlesztése végre célegyenesben jár...
Az Obsbot Tiny 3 és a kedvezőbb árú Obsbot Tiny 3 Lite új szintre emelik a webkamerázás élményét, főleg azok számára, akik podcasterként, streamer-műsorvezetőként vagy zenészként dolgoznak, de a mindennapi felhasználó is profitálhat belőlük...
A Penn State Egyetem kutatói új, „okos”, hidrogélalapú műbőrt fejlesztettek ki, amely képes álcázni vagy feltárni képeket, szövegeket és más információkat, sőt a felülete, megjelenése és formája is parancsra változtatható...
Az Európai Bizottság szerint a TikTok jelenlegi működése túlzottan addiktív, ezért akár a szolgáltatás alapjain is változtatni kellene a jogszabályok betartása érdekében...
🌧 Egyre nagyobb mennyiségben hullik a Földre egy szinte eltávolíthatatlan szennyező anyag, amelyet eredetileg az ózonréteg védelmére fejlesztett anyagok lebomlása generál...
💥 Az elmúlt években egy különleges fekete lyuk, amelyet Jetty McJetface-nek becéznek, minden eddiginél erőteljesebb sugárzást bocsát ki – a kutatók szerint jelenleg az univerzum legnagyobb energiájú objektumai közé tartozik...
📈 A hét elején drámai árfolyamesés rázta meg a szoftveripart, miután az Anthropic új, MI-alapú vállalati csomagja, a Claude Cowork fenyegetést jelent a hagyományos szoftvereszközök számára...
🧠 Az OpenAI bemutatta a GPT-5.3-Codexet, amely egy fejlettebb kódoló MI-modell, és mostantól a parancssorban, fejlesztői környezetben, webes felületen, valamint új platformokon is elérhető – API-hozzáférés viszont még nincs hozzá, de hamarosan várható...
📈 A nagy techcégek versenye egyre inkább arról szól, ki tud többet költeni adatközpontokra, hogy ezzel növelje az MI-fejlesztésekhez szükséges számítási kapacitást...
🔧 Az Egyesült Államok Kiberbiztonsági és Infrastruktúra-védelmi Ügynöksége (CISA) kötelező irányelvet adott ki, amely szerint a szövetségi ügynökségeknek fel kell kutatniuk és le kell cserélniük minden olyan hálózati eszközt – például útválasztókat, tűzfalakat és kapcsolókat –, amelyek már nem kapnak frissítést a gyártótól...
🤖 Egy átlagos hét sincs már az MI világában: friss az xAI-fúzió, a technológiai részvények piacán tombol az MI-hisztéria, és a Moltbook nevű új közösségi hálózat személyes MI-ügynökeivel robbantotta fel az internetet...
A befektetői hangulat jelentősen átalakult ezen a héten, miután egyre többen kérdőjelezik meg a vállalati szoftverek és IT-szolgáltatások értékét abban a korszakban, amelyben a mesterséges intelligencia házon belül is elláthat sok feladatot...
🚀 A LEGO idén igazán szokatlan húzással jelentkezik: érkezik a Hail Mary küldetés (Project Hail Mary) építőkészlet, pedig a film maga még mozikba sem került...
A Nintendo évekkel ezelőtt eltemette a Virtual Console-t, vagyis azt a lehetőséget, hogy klasszikus játékokat töltsünk le egyenként a Wii-re vagy a Wii U-ra...
A programozásban járatlanok ma már képesek saját alkalmazást készíteni, köszönhetően a vibe-coding megoldásoknak, például a Lovable-nek, amelyek hétköznapi nyelvű leírásból működő kódot generálnak...
🔎 A mesterséges intelligencia és a fejlett számítástechnika már ma képes olyan genetikai szekvenciákat tervezni, amelyek változatos biológiai alkalmazásokat tesznek lehetővé...
A NASA új szabályozásának köszönhetően az űrhajósok a közelgő Crew-12 és Artemis II küldetések során már magukkal vihetik iPhone-jaikat, illetve más modern okostelefonokat az űrbe és a Holdra is...
A kiberbűnözők új trükkel szálltak be a ransomware-piacra: egy legitim szolgáltató, az ISPsystem virtuális gépein keresztül terjesztik a kártékony programokat...
