Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
Az Amazon bővíti egészségügyi MI-asszisztense, a Health AI elérhetőségét: mostantól nemcsak a One Medical alkalmazásban, hanem közvetlenül az Amazon weboldalán és alkalmazásában is hozzáférhető...
🚗 A Ford új lendületet ad a céges járműparkok irányításának: a Ford Pro AI névre hallgató, mesterséges intelligenciát használó szolgáltatás mostantól a Ford Pro telematikai szoftverébe épül be...
💉 Jellemző példa erre, hogy a világ egyik legveszélyesebb gyermekkori bélfertőzése ellen most először született hatékony védelem: a skandináv fejlesztésű ETVAX vakcina áttörő eredményeket mutat a halálos bélbaktérium, az enterotoxigén E...
📷 Az utóbbi években a Google minden termékébe minél több mesterséges intelligenciát (MI) igyekezett beépíteni, azonban a felhasználók nem mindig örülnek ennek...
🚀 Oké, szóval megérkezett a Chrome-ba épített Gemini chatbot Kanadába, Indiába és Új-Zélandra, ráadásul már több mint ötven nyelven lehet vele csevegni – köztük franciául, gujaratiul, hindiül, spanyolul és még sok más nyelven –, csakhogy a magyaroknak még várniuk kell egy kicsit...
💻 Dublin közvetlen közelében, Írország szívében indul el Európa első olyan adatközpontja, amely teljesen független, úgynevezett szigetüzemű mikrohálóra támaszkodik az energiaellátásban...
A bomló holttesteken nyüzsgő lárvák látványa nem túl gyomorkímélő, de a helyszínelők számára ezek az apró élőlények kulcsfontosságú bizonyítékok lehetnek...
Már tavaly novemberben is betelt a pohár: az Amazon nekiment a Perplexity nevű MI‑startupnak, és megtiltotta, hogy a Comet nevű MI‑böngészője engedély nélkül a felhasználók helyett vásároljon a webáruházukban...
🛠 A Microsoft kiadta a Windows 10 KB5078885 kumulatív biztonsági frissítést, amely számos fontos sebezhetőséget orvosol, köztük két aktívan kihasznált nulladik napi sérülékenységet, valamint egy olyan problémát, amely megakadályozta egyes eszközök leállítását vagy hibernálását...
Egyedülálló égi látványosságnak lehettek szemtanúi Németország és több szomszédos ország lakói vasárnap este, amikor egy meteor hatalmas tűzgömbbé vált az égen, majd látványos robbanással végződött...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Mutazione (iPhone/iPad)A Mutazione egy kalandjáték, amelyben egy kisváros különös lakóinak mindennapi élete és magánéleti drámái összefonódnak természetfeletti eseményekkel...
Jellemző példa erre, hogy ma már sokan tartanak attól, mit osztanak meg egy felhőalapú MI-vel, vagy attól is tartanak, hogy érzékeny genetikai adataik idegen kezekbe kerülnek...
Érdemes megérteni, hogy a Lenovo legújabb SFF (small form factor) munkaállomása, a ThinkStation PGX, nemcsak mérnöki bravúr, hanem komoly stratégiai döntés is...
📁 Na, most aztán forr a levegő az USA-ban: egy DOGE-mérnök állítólag elcsente a Társadalombiztosítási Hivatal (Social Security Administration, SSA) adatbázisát egy apró pendrive-on – és benne több mint 500 millió élő és elhunyt amerikai minden féltve őrzött adata...
💰 Amikor az online előrejelző piacok berobbantak a köztudatba, senki sem gondolta volna, hogy két ilyen karakteres rivális vág bele a jövő fogadásaiért folyó harcba...
Rövid utazás a múltba: ezen a napon történt Litvánia függetlenségének kikiáltása, a madridi vonatrobbantások tragédiája, és az utolsó brit királyi vétó...
Fontos kérdés, hogy mi maradna, ha eltávolítanánk az univerzum legüresebb régióiból minden anyagot: a hagyományos atomokat, a neutrínókat, a sötét anyagot, a kozmikus sugárzást és minden más sugárzási formát...
Az Adobe új MI‑asszisztenst jelentett be, amelynek béta verziója mostantól elérhető a Photoshopban, és weben, valamint mobilalkalmazásokban is használható...
