Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
A nemrég nyilvánosságra hozott bírósági dokumentumok felfedték, hogy az Anthropic cég egy „Panama Projekt” nevű művelet keretében több százezer, akár millió könyvet vásárolt fel, hogy azok gerincét levágva, a lapokat beszkennelve tanítsák be MI-chatbotjukat, a Claude-ot...
A tengeri halászat fenntarthatósága világszerte kiemelt jelentőségű, hiszen ez a szektor alapvető élelmiszerforrást, munkahelyeket és megélhetést nyújt emberek millióinak, miközben kulcsszerepet játszik a tengeri ökoszisztémák megőrzésében is...
🤔 Az asztma kialakulásának okait évtizedeken át a leukotriének nevű molekulák számlájára írták, melyeket az immunrendszer fehérvérsejtjei szabadítanak fel, ha a légutak irritációnak vagy allergéneknek vannak kitéve...
🛠 Az Európai Bizottság lépéseket tett, hogy a Google betartsa a Digitális piacokról szóló törvényt (Digital Markets Act, DMA), és ne részesítse előnyben a saját szolgáltatásait...
🔒 A Nike nagyszabású adatlopási botrányba keveredett, miután a World Leaks nevű zsarolóvírus-csoport 1,4 TB-nyi adatot szivárogtatott ki: állításuk szerint a sportóriástól lopták el mintegy 190 000 fájlt...
A várva várt Samsung Galaxy Z TriFold végre megjelenik az Egyesült Államokban, méghozzá a pletykált februári bemutató előtt: január 30-tól már meg is vásárolható lesz...
Nehéz elhinni, de a vállalati világot ismét elárasztotta az optimizmus. Az igazgatótanácsok folyosóin egymást érik a forradalmi átalakulásokról szóló beszélgetések, a költségvetések pedig folyamatosan nőnek, hogy helyet adjanak a legújabb platformoknak és MI-asszisztenseknek...
Ma már mindennapos, hogy órákat töltünk a telefonunk előtt. Nem ritka a napi három óra feletti okostelefon-használat, és sok felnőttnél a képernyőidő a hat órát is eléri...
🚗 Érdemes megvizsgálni, hogy az Egyesült Államok Közlekedési Minisztériuma (DOT) merész lépésre szánta el magát: a különféle közlekedésbiztonsági szabályokat, amelyek repülőgépek, autók és csővezetékek biztonságát garantálják, most már MI-vel is készítik...
🔭 Hosszú ideje tartotta magát az a nézet, hogy a Stonehenge hatalmas kövei, különösen a híres „kék kövek” gleccserek segítségével kerültek jelenlegi helyükre...
Kezdetben a vállalatok tömegesen kezdték el tesztelni a generatív MI-t, de az érzékeny adatokkal dolgozó szektorokban – különösen a jogi területen – folyamatosan előtérbe került a magánszféra védelme, a biztonság és a megfelelőség kérdése...
A gonosznak nincs nyugta (No Rest for the Wicked), a Moon Studios legújabb, brutálisan véres és precíz akció-RPG-je villámgyorsan népszerűvé vált a Steamen, messze maga mögé utasítva más sikerjátékokat, például az Ív lovasai (Arc Riders) játékot...
A Google 24,4 milliárd forintot (68 millió dollárt) fizet kártérítésként, miután felhasználók azzal vádolták a vállalatot, hogy a hangalapú asszisztense titokban rögzítette és továbbította a beszélgetéseket, még akkor is, amikor a felhasználók nem adtak erre engedélyt vagy parancsot...
⚙ Kezdetben a kvantumtechnológia kizárólag laboratóriumi körülmények között létezett, ám mostanra elérkezett ahhoz a ponthoz, amit a szakértők a tranzisztor feltalálása előtti számítástechnika korszakához hasonlítanak...
Felmerül a kérdés, mikor válthatják ki végre a kellemetlen, naponta beadandó hormoninjekciókat egy egyszerűbb, fájdalommentes módszerrel a lombikbébi-programban részt vevő nők számára...
⚠ Többek között egy friss, nagyszabású francia tanulmány hívja fel a figyelmet arra, hogy a különböző tartósítószerekben gazdag, feldolgozott élelmiszerek fogyasztása növelheti bizonyos ráktípusok kockázatát...
A hősugárzók pillanatok alatt kellemes meleget varázsolnak a lakás hideg sarkaiba, és akár az egész ház fűtése helyett is jó alternatívát jelenthetnek a téli hónapokban...
👀 Az elmúlt pár évben a Google rendkívül népszerűvé tette a saját Android-felületét, a Material 3 Expressive-t: a dinamikus animációk, a nagy gombok és a karakteres formák és színek miatt ez sokak kedvence lett, és ennek köszönhetően sokan nap mint nap a Pixel telefonokat választják...
🥑 Érdemes megérteni, hogy nem minden testzsír egyforma – míg a fehér zsír számos egészségügyi kockázatot rejt, a barna zsír kimondottan kedvező hatású lehet a szív- és érrendszerre...
