Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💡 Kedd este világszerte több ezren tapasztaltak problémákat a YouTube-on. Körülbelül 2 millió felhasználó jelentett hibát az esti órákban, köztük amerikaiak és ausztrálok, de valójában globális leállásról volt szó: az alkalmazás és a weboldal is használhatatlanná vált...
Időutazás egy nap történései között: a jeruzsálemi status quo diplomáciai úton való visszaszerzése, drámai háborús fordulatok és technikatörténeti elsők egyszerre rajzolják ki a történelem arcát...
🐅 Szeptemberben a Stelvio Nemzeti Park hegyóriásai között, a Fraele-völgyben egy vagány fotós, Elio Della Ferrera belebotlott minden paleontológus álmába: kétezer dinoszauruszlábnyom hemzseg egyetlen sziklafalon...
A kilencvenes években Alex Ross a Csodák (Marvels) és az Eljövendő királyság (Kingdom Come) minisorozatokkal robbant be a képregények világába, ahol egyedi, hipervalósághű festészete nemcsak borítókon, hanem belső oldalakon is megjelent...
Az alig 73 000 forintba kerülő Samsung Galaxy A17 5G első pillantásra elképesztő vételnek tűnik: hatalmas, fényes kijelző, meglepően jó kamerák, illetve hat éven át biztosított szoftveres és biztonsági frissítések...
💡 Erre utal többek között az, hogy az MI-technológia fejlődése már nem csupán a grafikus processzorokról (GPU-król) szól – egyre nagyobb szerep jut a memóriának is...
🤔 Na, megint eljött az évnek az a misztikus időszaka, amikor a Google nem bírja ki, hogy egyszerűen csak kiírja nekünk az I/O fejlesztői esemény dátumát...
A jelszókezelők évek óta a digitális biztonság egyik legfontosabb eszközei, hiszen arra hivatottak, hogy minden belépési adatodat szigorúan titkosítva tárolják, akkor is, ha az őket futtató felhőszolgáltató rendszere veszélybe kerül...
💸 A vezető technológiai vállalatok jelenleg olyan ütemben fektetnek be a mesterséges intelligenciába, hogy elképzelhető: néhányuk szabad pénzárama veszélyesen alacsony szintre eshet...
Írország adatvédelmi hatósága hivatalos vizsgálatot indított az X ellen, amiért a platform Grok nevű MI-eszközével valós emberekről – köztük gyerekekről – hozzájárulás nélkül szexuális képeket készítettek...
🚫 Az Európai Parlament minden beépített MI-funkciót letiltott a hivatalos munkaeszközökön, miután komoly aggodalmak merültek fel az adatbiztonság és a kibervédelem terén...
A mindennapok részévé váltak azok a rendszerek, amelyek korábban csak látványos csevegőprogramok voltak: ma már oktatási intézményekben, irodákban és kórházakban is az MI segíti a munkát...
🛑 A Shein, a szingapúri gyorsdivatcég, megint bajban van, mert az Európai Bizottság szerint túl addiktív a vásárlási élmény, és bőven akadnak problémás cuccok is a kínálatban – beleértve az illegális és veszélyes termékeket...
💰 A Snap hamarosan elérhetővé teszi a Creator Subscriptions nevű szolgáltatást, amellyel a legaktívabb rajongók havidíjas előfizetéssel támogathatják kedvenc Snapchat-tartalomgyártóikat, és ezért exkluzív tartalmakat kaphatnak...
🔥 A Samsung tényleg mindenhová feltolja az AI-t: a telefonoktól a háztartási gépekig, most pedig gátlástalanul beteríti vele az egész közösségi médiáját is...
🚀 A Tejútrendszer közepének vizsgálata során a kutatók egy lenyűgöző rádiójelet figyeltek meg: egy elképesztően gyors, mindössze 8,19 ezredmásodpercenként forgó pulzárt, amely a Sagittarius A* nevű szupermasszív fekete lyuk közelében található...
📷 Az X platform már megint bajban van: újabb uniós vizsgálat indult, mert a Grok MI-rendszer tömegesen készített engedély nélküli, szexuális tartalmú képeket, köztük gyermekekről...
🚇 Kapaszkodj meg: hackerek kezdték árulni a sötét weben azokat az érzékeny utasadatokat, amelyeket nemrég loptak el az Eurail hollandiai szervereiről...
