Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💉 Régi ismerős kerülhet új szerepbe a daganatos kezelések világában: egy közismert asztmagyógyszer, a montelukaszt lehet a kulcs a nehezen kezelhető rákok, például az agresszív, hármas negatív emlődaganat leküzdésében...
💰 A MoonPay eddig főként kriptopénzes fizetésekkel foglalkozott, de most nagyot lép előre: elindította a MoonPay Trade nevű platformot, amely lehetővé teszi, hogy a bankok, fintech cégek és nagyvállalatok egyetlen integráción keresztül férjenek hozzá tokenizált eszközökhöz, decentralizált pénzügyi (DeFi) protokollokhoz és stabilcoin-likviditáshoz, több mint 200 blokklánc-hálózaton...
A mesterséges intelligencia fejlődése megállíthatatlan, de egyre nagyobb aggodalom övezi, hogy a nagy nyelvi modellek hamarosan kifogynak a hiteles, ember által készült adatokból...
A Variational nevű, a Kajmán-szigeteken bejegyzett digitális piactér 50 millió dollárból, vagyis mintegy 18,5 milliárd forintból fejlesztheti tovább peer-to-peer kereskedési rendszerét...
A Kore.ai alaposan felforgatja a vállalati MI-ügynökök piacát az új Artemis platform bemutatásával, amellyel forradalmian gyorssá és egyszerűvé válik az ügynökök fejlesztése, menedzselése és optimalizálása...
A magzati korban elszenvedett klórpirifosz (CPF) nevű vegyszernek való kitettség hosszú távú agyi elváltozásokat és romló mozgáskészségeket idéz elő a gyerekeknél – erre jutottak a Columbia Egyetem, a Los Angeles-i Gyermekkórház és a USC Keck Orvosi Kar kutatói 270 gyermek bevonásával...
Jellemző példa rá, milyen érzés szemtől szemben találkozni a legendás karibi kalózokkal egy teljesen új köntösben, hiszen az Assassin’s Creed Black Flag Resynced szinte mindent átalakít, miközben végig hű marad 2013-as elődjének lelkéhez...
Noha sokan úgy gondolják, hogy a videokártya-illesztőprogramokat elég évente egyszer frissíteni, az Nvidia most sürgeti a felhasználókat: azonnal telepítsék a legújabb GPU-illesztőprogram-frissítéseket, különben komoly veszélynek teszik ki gépüket...
A betegségek genetikai hátterének feltérképezése az elmúlt években rohamléptekkel fejlődött, ennek ellenére a gyógyítás még mindig kihívásokkal teli maradt, főként a több száz különböző genetikai elváltozás miatt...
A kriptovalutákkal foglalkozó befektetők és tanácsadók egyre több lehetőség közül választhatnak, mióta 2024 januárjában elindultak a spot bitcoin tőzsdén kereskedett termékek (ETP-k)...
💡 Az MI alapjaiban alakította át a dizájnt: ma már egy cégvezető egyetlen délután alatt logót tervezhet, weboldalt indíthat, közösségi kampányokat készíthet, prezentációkat generálhat és marketinganyagokat állíthat elő – amit korábban ügynökségekre, szabadúszókra vagy saját kreatív csapatra kellett bízni...
Erre utal többek között az, hogy egy 59 éves wisconsini nő jobb karján hirtelen megjelent egy gyorsan növekedő csomó, ami orvosi vizsgálatot tett szükségessé...
💰 A londoni tőzsdén jegyzett IG, amely az 1970-es években úttörőként hozta el a pénzügyi spreadfogadást Nagy-Britanniába, most jelentős digitális terjeszkedés előtt áll...
A sejtek „erőműveként” ismert mitokondriumok kulcsszerepet játszanak az energiaellátásban: képesek folyamatosan igazítani működésüket az energiaszükséglethez...
A Xiaomi új Redmi Note 15 Pro 5G telefonja már első pillantásra is erős hardverrel és elképesztő üzemidővel kecsegtet, a kijelző és a kamerák teljesítménye pedig a kategória élmezőnyébe repíti az eszközt...
A kriptopiac csütörtökön óvatos emelkedést mutatott, a bitcoin árfolyama 77 900 dollárra (28,5 millió forint) ugrott fel a keddi 76 100 dolláros (27,8 millió forint) mélypontról, míg az ether is stabilan tartotta magát 2130 dolláron (781 000 forint)...
Ezen a napon egyszerre születtek hősies repüléstörténeti mérföldkövek és tragikus katasztrófák: Charles Lindbergh első szóló, megszakítás nélküli Atlanti-óceán átrepülése, a japán Mount Unzen pusztító megatszökőárja és Kolumbiában a rabszolgaság eltörlése...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Crazy Caps (iPhone/iPad)Ez a match-3 típusú, fizika alapú puzzle játék kreatív dizájnjával tűnik ki, és új élményt nyújt a megszokott játékmechanikákhoz képest...
