Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
🚫 Az Európai Parlament minden beépített MI-funkciót letiltott a hivatalos munkaeszközökön, miután komoly aggodalmak merültek fel az adatbiztonság és a kibervédelem terén...
A mindennapok részévé váltak azok a rendszerek, amelyek korábban csak látványos csevegőprogramok voltak: ma már oktatási intézményekben, irodákban és kórházakban is az MI segíti a munkát...
🛑 A Shein, a szingapúri gyorsdivatcég, megint bajban van, mert az Európai Bizottság szerint túl addiktív a vásárlási élmény, és bőven akadnak problémás cuccok is a kínálatban – beleértve az illegális és veszélyes termékeket...
💰 A Snap hamarosan elérhetővé teszi a Creator Subscriptions nevű szolgáltatást, amellyel a legaktívabb rajongók havidíjas előfizetéssel támogathatják kedvenc Snapchat-tartalomgyártóikat, és ezért exkluzív tartalmakat kaphatnak...
🔥 A Samsung tényleg mindenhová feltolja az AI-t: a telefonoktól a háztartási gépekig, most pedig gátlástalanul beteríti vele az egész közösségi médiáját is...
🚀 A Tejútrendszer közepének vizsgálata során a kutatók egy lenyűgöző rádiójelet figyeltek meg: egy elképesztően gyors, mindössze 8,19 ezredmásodpercenként forgó pulzárt, amely a Sagittarius A* nevű szupermasszív fekete lyuk közelében található...
📷 Az X platform már megint bajban van: újabb uniós vizsgálat indult, mert a Grok MI-rendszer tömegesen készített engedély nélküli, szexuális tartalmú képeket, köztük gyermekekről...
🚇 Kapaszkodj meg: hackerek kezdték árulni a sötét weben azokat az érzékeny utasadatokat, amelyeket nemrég loptak el az Eurail hollandiai szervereiről...
💻 Március 4-én ismét az Apple kerül reflektorfénybe: a vállalat egy különleges eseményt jelentett be, amelyen várhatóan több, régóta várt eszközt is bemutathat...
Nehéz elhinni, de a kreatív szoftverpiac egyik leglátványosabb fordulatát a Canva hozta el, amikor felvásárolta a nagy múltú Affinity csomagot, és minden fő funkcióját ingyenessé tette...
Az indiai Adani-csoport egészen elképesztő, 37 ezermilliárd forintos beruházást tervez a következő évtizedben, hogy mesterségesintelligencia-alkalmazások futtatására alkalmas adatközpontokat fejlesszen szerte Indiában...
🚫 Az Amazon tulajdonában álló Ring okos kapucsengő-márka megszakította együttműködését a rendőrségi megfigyeléstechnikával foglalkozó Flock Safety-vel...
A fűtés a világ energiaigényének közel felét teszi ki, melynek kétharmadát ma még fosszilis tüzelőanyagok – mint a gáz, az olaj és a szén – elégetésével fedezzük...
🚁 Az Eurail néhány hónappal ezelőtt adatlopás áldozatává vált; a vállalat több mint 250 000 kilométernyi vasúthálózathoz biztosít hozzáférést Európában...
Az Apple idén tavasszal teljes gőzzel rákapcsol a videós podcastekre. Mostantól az Apple Podcasts alkalmazás megújult, így a felhasználók végre könnyedén válthatnak nézés és hallgatás között ugyanabban a lejátszási listában, és ami a legjobb: a picture-in-picture módnak hála közben még csetelni is lehet a haverokkal...
⚠️ A KPMG ausztráliai részlegénél egy partner szépen besétált a tiltott AI-zónába: hogy simán átmenjen egy belső, mesterséges intelligenciáról szóló vizsgán, mesterséges intelligenciát hívott segítségül a kérdésekhez – erre viszont 2,6 millió forint (10 000 ausztrál dollár) bírság lett a vége...
Nem hiszem el, de végre rájöttek a Rode-nál, hogy mikrofonjainkat nem kell mindenáron drótokkal, kütyükkel, műanyag herékkel összebilincselni, csak hogy szóljon a hangunk az iPhone-ba vagy iPadbe...
