Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🛒 A ServiceNow ismét meglepte a piacot, alig két héttel azután, hogy vezérigazgatója, Bill McDermott kizártnak tartotta a nagyobb felvásárlásokat ebben az évben...
Tizenhárom éve gyűjti a Backblaze a meghajtó-statisztikákat, és ennyi idő alatt bőven akadt mindenféle meglepetés: újdonságok, botrányos hibaarányok és kitartó, stabil teljesítmény...
Sammy Azdoufal, egy kíváncsi techrajongó mindössze annyit szeretett volna, hogy PlayStation 5-ös kontrollert használjon vadonatúj DJI Romo robotporszívójához...
Az eddigi tudományos álláspont szerint a legtöbb bolygórendszerben a kisebb, sziklás bolygók közelebb, míg a hatalmas gázóriások távolabb keringenek a csillagjuktól...
Az amerikai autóipar három nagyágyúja, a General Motors, a Ford és a Stellantis együttesen 18 ezer milliárd forintos, azaz 50 milliárd dolláros veszteséget könyvelhetett el az elektromos autók lufijának kipukkanása miatt...
A Meta nemrég szabadalmat kapott egy olyan fejlesztésre, amely szerint egy nagy nyelvi modell a felhasználó halála után is képes lenne aktívan fenntartani annak online jelenlétét...
🐶 A Super Bowl alatt sugárzott Ring-reklám után az Amazon kénytelen volt visszavonni a tervezett együttműködést a Flock Safety nevű céggel, amely a rendőrség számára is elérhetővé tette volna az MI-vel támogatott, civil Ring kamerahálózatot...
Elon Musk MI-vállalata, az xAI most a Mississippiben épülő adatközpontja miatt került nyomás alá, mivel a NAACP perrel fenyegeti a céget a légszennyezés miatt...
⚠️ Több mint 10 000 macOS-felhasználót vertek át csalók, akik az MI, pontosabban a Claude LLM által generált tartalmakat és Google-hirdetéseket használnak adatlopó kártevők terjesztésére...
Az elmúlt években a Wikipédia, az internet legismertebb enciklopédiája váratlan reneszánszot él meg — miközben sosem volt ekkora nyomás és kockázat alatt...
Az Airbnb észak-amerikai ügyfélszolgálati ügyeinek már körülbelül harmadát mesterséges intelligencia kezeli, és a vállalat hamarosan világszerte bevezeti ezt a megoldást...
⚠ Az amerikai kiberbiztonsági hivatal (CISA) arra kötelezte a szövetségi ügynökségeket, hogy sürgősen foltozzák be a Microsoft Configuration Manager kritikus sebezhetőségét, amelyet 2024 októberében javítottak, de mostanra aktívan kihasználnak támadások során...
A SpaceX az idén tervezett részvénykibocsátását egy kétosztályos részvénystruktúrával készíti elő, amellyel Elon Musk, a cég alapítója, könnyedén biztosíthatja magának a döntéshozatali hatalmat akkor is, ha ténylegesen kisebbségi tulajdonos marad...
Az amerikai Wendy’s gyorsétteremlánc komoly leépítésre készül: 5–6 százalékkal csökkenti az Egyesült Államokban működő étteremszámot, vagyis idén 300–360 üzletet zárhat be...
Nemcsak erkölcsi tanítás kérdése, mennyire vagy nagylelkű; tudósok friss kutatása szerint az agy különböző területeinek összhangja befolyásolhatja, mennyit vagy hajlandó megosztani másokkal — akár saját károdra is...
💉 A WHO határozottan elítélte azt az amerikai finanszírozású kutatást, amely újszülöttektől vonná meg a hepatitis B elleni védőoltást Bissau-Guineában...
🧠 A neandervölgyiek eltűnése évtizedek óta izgatja a tudományos világot. Vajon mi, a modern emberek okoztuk legközelebbi rokonaink pusztulását, vagy már eleve kihalásra voltak ítélve?..
Érdekes felvetés, hogy a halolaj-készítményeket, amelyeket gyakran szednek a rák megelőzésének reményében, valójában nem egyformán hatásosak mindenkinek...
Dél-Korea rekordösszegű, átszámítva több mint 9 milliárd forintos (25 millió USD) bírságot szabott ki a Louis Vuitton, a Christian Dior Couture és a Tiffany márkákra, miután nem biztosították ügyfeleik adatainak védelmét, és így hackerek több mint 5,5 millió vásárló adataihoz fértek hozzá...
A nagy amerikai mobilszolgáltató, a Verizon újabb akadályt gördített azok elé, akik idő előtt szeretnék lezárni részletfizetési konstrukciójukat, majd függetleníteni telefonjukat...
🚲 Santa Monica lesz az első amerikai város, ahol idén tavasszal MI-alapú rendszert vetnek be a parkolásfelügyeletben: áprilistól már hét hivatali autóban is kamerák vadásznak majd a biciklisávot jogtalanul elfoglaló autósokra...
Az OpenAI bemutatta legújabb fejlesztését, a GPT-5.3-Codex-Spark modellt, amely minden eddiginél gyorsabban, másodpercenként 1 000 tokent képes feldolgozni a hatalmas Cerebras-chipeken...
