Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
📷 A Canon EOS R6 III a gyártó legfrissebb teljes képmezős, tükör nélküli fényképezőgépe, amely minden eddiginél magasabbra teszi a lécet a középhaladó fotósok számára...
💫 Egy új kísérletben sikerült ötvözni a kvantumszámítógépet és a szuperszámítógépet, így áttörést értek el a fúziós reaktorokban zajló fizikai folyamatok modellezésében...
Az elmúlt hetekben az új Google Home Speaker vásárlóit komoly bosszúságok érték: a készülék beállítása során sokuk szembesült egy makacs hibával, amely egyszerűen megakadályozta a használatot...
🪙 Egy norvég mezőn végzett fémdetektorozás közben különös felfedezés született: egy tárgy, amit eredetileg elhagyott gombnak gondoltak, végül egy 900 éves ezüstpénznek bizonyult...
💰 Egyre több cég dönt úgy, hogy olcsóbb, nyílt forráskódú MI-modellekre vált, miután a fejlett rendszerek használata világszerte elszálló számlákat eredményezett...
💖 Egy különleges, puha robot-szív képes utánozni a szívelégtelenség több különböző fázisát, így új lehetőséget adhat a kutatóknak arra, hogy még a klinikai vizsgálatok előtt teszteljék a lehetséges kezeléseket...
A legfrissebb Windows Defender-javítás ugyan befoltoz egy komoly biztonsági rést, de újabb, igencsak kellemetlen mellékhatást is bevezethet: lehetőséget teremt arra, hogy támadók pillanatok alatt teleírják a számítógép merevlemezét, egészen addig, amíg egyetlen bájtnyi hely sem marad...
🛠 Az OpenAI végre bemutatta azt az univerzális mesterségesintelligencia-alkalmazást, amely egyetlen helyen egyesíti a legfontosabb digitális munkaeszközöket...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days egy egyszerű alkalmazás, amely megmutatja, hány nap van két megadott dátum között...
Egy apró, élénkpiros mosollyal díszített pók ejtette ámulatba a kutatókat, amikor Indiában – jóval távolabb Hawaii-tól, amelyhez eddig kötötték a híres „mosolygós pókot” – fedezték fel...
🚨 Megemlíthető továbbá, hogy a digitális fenyegetések egyre kifinomultabbak, most pedig a Forg365 platform vetett be újszerű, MI-alapú módszereket a Microsoft 365-fiókok elleni adathalásztámadások során...
Érdemes megérteni, hogy az OpenAI ismét nagyot lépett előre: bemutatta legújabb fejlesztését, amely képes komplex, akár órákig tartó feladatok önálló elvégzésére, nem akad el a hosszabb munkafolyamatokban, és ténylegesen kézzelfogható eredményre vezet különféle célok esetén is...
🔥 Az Asus ProArt GeForce RTX 5090 32 GB GDDR7 OC Edition kifejezetten a tartalomgyártók és prémium minőségű munkaállomások építőinek szánt grafikus kártya, amely ötvözi a legerősebb fogyasztói GPU-t egy vékonyabb, kis helyigényű kivitelben...
📷 Egy személyautó-méretű óriáskamera megkezdte minden idők legnagyobb földi égboltfelmérését Chilében. A Cerro Pachón tetején működő, 3 tonnás digitális műszer elindította a Legacy Survey of Space and Time-ot, és mostantól éjszakánként, negyven másodpercenként, körülbelül 3200 megapixeles, 8 GB-os képeket készít az univerzumról...
A legújabb csillagászati megfigyeléseknek köszönhetően kiderült, hogy a Tejútrendszer két hatalmas spirálkarja sokkal messzebb húzódik, mint azt valaha gondoltuk...
Lényeges, hogy az Egyesült Államokat az utóbbi hetekben különösen súlyos parazitajárvány sújtja: országszerte már több mint ezer cyclosporiasis-fertőzést jelentettek...
Az MI-ügynökök egyre fontosabb szerepet töltenek be a vállalati működésben, azonban az egyszerűség kedvéért gyakran ugyanazt az API-kulcsot kapják meg...
Az antibiotikum-rezisztencia az egyik legsúlyosabb egészségügyi fenyegetés világszerte, a következő 15 évben akár 39 millió halálesethez is vezethet, ha a baktériumok továbbra is ellenállóvá válnak a gyógyszerekkel szemben...
Időutazás a történelembe: Julius Caesar majdnem elszenvedett macedóniai veresége, a Vichy-kormány megalakulása és a Death Valley hőmérsékleti rekordja mind ezen a napon történt...
