Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💻 A mesterséges intelligenciával működő ügynökök egyre gyakrabban üzletelnek és kötnek megállapodásokat emberi beavatkozás nélkül, ám ezek a gépi tranzakciók is ugyanúgy vitákhoz vezethetnek, ahogyan akkor is, amikor emberek állnak egymással szemben...
Ami kezdetben ártalmatlannak tűnt, mára súlyos problémává nőtte ki magát: az üzleti MI-ügynökök magabiztosan hibás válaszokat adnak, mindezt úgy, hogy senki nem veszi észre, amíg valaki vissza nem követi az adatot egy elavult metrikáig vagy egy olyan dokumentumig, amelyet a lekérő rendszer soha nem töltött be...
🎆 Nehéz elhinni, de a függetlenség napja minden évben nemcsak a látványos ünneplésről, hanem a szabálytalan tűzijátékok miatt kiszabott durva bírságokról is szól...
Írországban az adatközpontok villamosenergia-fogyasztása 2025-ben újabb 10%-kal nőtt, miközben Dublin környékén továbbra is szinte teljes tiltás volt érvényben az új adatközpontok hálózatra kapcsolására...
Kína történelmi sikert ért el az űrtechnológiában: a Hosszú Menetelés–10B (Long March 10B) hordozórakéta első fokozatát először sikerült épségben visszahozni a Földre, egy a tengerre telepített, hálóval felszerelt platformra...
🕷 Egy 34 éves örmény férfi bűnösnek vallotta magát az Egyesült Államokban, miután több vállalat számítógépes rendszereibe tört be, és a hírhedt Ryuk zsarolóvírust használta adatállományok titkosítására...
Két hete, amikor bekapcsoltam a Roku TV-t a nappaliban, már az első képernyőn egy oktatófelület fogadott, amely arról tájékoztatott, hogy teljesen megújult a főoldal és az egész kezelőfelület...
Felmerül a kérdés, hogy miért ért véget ilyen hamar a nagyra törő kísérlet: az Atlas böngésző, amelyet az OpenAI még egy éve sem indított el, máris leállította...
A trópusi Csendes-óceánon az átlagosnál jóval melegebb tengerfelszíni hőmérsékletet figyeltek meg június első hetében, a műholdas adatok szerint egyre intenzívebb az El Niño...
⚡ Az okostelefonok, elektromos autók és más hordozható elektronikai eszközök ma mind akkumulátorokra támaszkodnak, miközben a fogyasztók folyamatosan hosszabb üzemidőt, nagyobb biztonságot és tartósságot várnak el...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. CrestWall – 4K Wallpapers (iPhone/iPad)A CrestWall egy kézzel válogatott, 4K felbontású háttérképeket kínáló alkalmazás, amely elsősorban azoknak készült, akik fontosnak tartják iPhone-juk kinézetét...
Az Apple minden várakozást felülmúló lépésre szánta el magát: pert indított az OpenAI és két volt alkalmazottja ellen, miután súlyos üzleti titoksértéssel vádolja őket...
A rendezők ritkán élnek át annyi heves online felháborodást, mint Christopher Nolan, akinek a legújabb projektje, az Odüsszeia (Odyssey) szereposztása is vihart kavart a közösségi médiában...
Az OpenAI új, GPT-5.6 Sol nevű MI-modelljét a vállalat minden eddiginél biztonságosabbnak hirdeti, azonban a brit kormány által végzett előzetes tesztek során az derült ki, hogy a rendszer védelmi korlátai könnyen átléphetők, így potenciálisan veszélyes számítógépes támadásokra is használhatóvá válhat...
A Progress Software figyelmezteti azokat a vállalatokat, amelyek a ShareFile Storage Zone Controllert saját Windows-szerveren használják, hogy azonnal állítsák le rendszereiket, mert valós külső biztonsági fenyegetés jelent meg...
👀 Érdekes kérdés, hogy miként váltak a kezdetben menő, újdonságként beharangozott Meta okosszemüvegek néhány hónap alatt sok helyen szinte vállalhatatlan eszközzé...
Tavasszal több ezer ápoló és mentálhigiénés dolgozó vonult utcára San Franciscóban, hogy tiltakozzon a kórházi munkájukban egyre inkább jelen lévő technológiák ellen...
Ármány és hatalomváltás Bizáncban, a flamandok nagy győzelme Franciaország felett, Vichy Franciaország megszületése, az első transzatlanti műholdas tévéadás és a Skylab látványos megsemmisülése – sűrű nap a világtörténelemben...
