Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💬 Jelentős változás érkezett a Discord életébe: mostantól a Nitro előfizetéshez extra költség nélkül jár a Game Pass Core kezdőcsomag, amely több mint 50 különféle játékhoz nyújt hozzáférést...
💰 Számos amerikai PlayStation-játékos részesülhet abból a közel 2,8 milliárd forintos (8 millió dolláros) összegből, amit a Sony egy kaliforniai csoportos per során kötött egyezség keretében fizet ki...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Diamond Painting Logbook (iPhone/iPad)A teljesen megújult Diamond Painting Logbook alkalmazás könnyedén átláthatóvá és rendszerezetté teszi a gyémántfestés szerelmeseinek projektjeit...
Viharos fordulatok, trónok és lázadások: ezen a napon koronázások, alapítások és sorsfordító politikai döntések alakították Európa és a világ történetét...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Crazy Caps (iPhone/iPad)Ez a fizika alapú match-3 kirakós játék üdítően új színt visz a műfajba: célunk, hogy három vagy több azonos elemet helyezzünk egymás mellé, miközben a pályák változatos kihívásaival és a szokatlan, kreatív dizájnnal találkozunk...
Érdemes megvizsgálni, hogy a vállalati környezetben használt MI-alapú ügynökök hogyan választják ki eszközeiket, és hol rejtőznek a legnagyobb veszélyek...
Mindenki ismeri azt az érzést, amikor egy szerepjátékban furcsa dolgokat produkál a játékvilág, de kevesen gondolták volna, hogy a cipőlopás valaha komoly téma lesz egy fejlesztőcsapat életében...
Felmerül a kérdés, hogy mi teszi ennyire népszerűvé azokat a játékokat, amelyek lehetőséget adnak arra, hogy közösen bolondozzunk a barátainkkal, anélkül, hogy kimozdulnánk otthonról...
🎧 Érdekes felvetés, hogy kell-e egy egész arzenál különféle hangfalból, ha létezik egyetlen pár, amely egyszerre képes kiszolgálni a nappali, a tévé, az asztali gép vagy akár a lemezjátszó igényeit...
Ma reggel sem volt könnyű dolgom a Quordle napi kihívásával: a négy szó együtt mind az öt különböző magánhangzót tartalmazta, ráadásul egyik válaszban sem volt ismétlődő betű, és nem is szerepelt bennük olyan ritka betű, mint a Q, Z, X vagy a J...
A Forza Horizon 6 elképesztő sikert aratott már jóval a megjelenés előtt: április elejétől már több mint 500 000 elővásárlásnál tartott, és ez azóta várhatóan duplájára nőtt...
Röviden: ezen a napon Kolumbusz Kristóf negyedszer és utoljára útnak indult az Újvilág felé, Spencer Perceval brit miniszterelnököt meggyilkolták, Luxemburg függetlenné vált, az izraeli Mossad ügynökei elfogták Adolf Eichmannt, miközben katasztrófák és háborús lépések rázták meg a világot...
🐍 Hatalmas és egészen apró, mérges és óriáskígyók, surranók és úszók élnek a Föld legkülönbözőbb zugaiban – a kígyók eredetének története ma izgalmasabb, mint valaha...
🎮 Bennett Foddy neve sokaknak ismerősen csenghet: olyan játékok kötődnek a nevéhez, mint a QWOP vagy a Getting Over It, amelyek előszeretettel kínozzák a játékosok türelmét különleges irányításukkal és nehézségükkel...
Fontos kérdés, hogy mit tud nyújtani a The Sims 3 egy évtizeddel az első rész óta: vajon valami forradalmit, vagy csupán csiszoltabb változatot kapunk?..
Fontos kérdés, hogy mennyire sikerül biztonságban lebonyolítani azt a 78 mérkőzést, amelyet a tervek szerint az Egyesült Államok 11 nagyvárosában rendeznek majd...
A vasárnapi El Clásico izgalmai ezúttal a Camp Nou stadionjában bontakoznak ki, ahol a Barcelona mindössze egyetlen pontra van attól, hogy bebiztosítsa egymás után a második La Liga-címét...
Az utóbbi időben komoly hullámokat keltett Richard Dawkins világhírű biológus kijelentése, miszerint szerinte a mai mesterséges intelligenciák, például Claude vagy ChatGPT, valójában tudatosak...
