Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💉 A brit egészségügy szemmel láthatóan komoly digitális fordulat elé néz: több mint félmillió orvos, nővér és háttérdolgozó kap hozzáférést a Microsoft 365 Copilot nevű MI-eszközhöz...
👽 Hihetetlen, de mégis igaz, hogy a tudatosság kérdése egyre fontosabbá válik, ahogy az univerzum határait kutatjuk, és a mesterséges intelligencia fejlődése is egyre gyorsul...
Az Amazon vezérigazgatója, Andy Jassy személyesen számolt be amerikai tisztviselőknek arról, hogy kutatóik az Anthropic egyik legújabb MI-modelljét, a Fable 5-öt olyan információk előállítására vették rá, amelyeket elvileg nem lett volna szabad...
Érdekes felvetés, hogy az angliai egészségügyi ellátásban részt vevő páciensek nem dönthetnek arról, hogy adataikat feldolgozzák-e a Palantir által fejlesztett NHS Federated Data Platformon (FDP), miközben kórházaik elutasíthatják a rendszer használatát...
🚫 Jellemző példa erre, hogy váratlanul szűnik meg egy népszerű technológia elérhetősége: a legújabb exportkorlátozási döntés értelmében minden felhasználó számára világszerte, azonnali hatállyal lekapcsolták a Fable 5 és Mythos 5 modellek hozzáférését...
🔎 Egy nagy szervezet elkülönített kritikus infrastruktúrahálózatába jutott be a Velvet Ant nevű kínai kibercsoport, és tíz éven keresztül zavartalanul kémkedett...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. CrestWall – 4K Wallpapers (iPhone/iPad)A CrestWall egy kézzel válogatott 4K felbontású háttérképeket kínáló alkalmazás, amely azoknak szól, akik szeretnék egyedivé tenni iPhone-juk kinézetét...
🥀 Érdekes felvetés, hogy a világ felszíne alatt láthatatlanul behálózzák bolygónkat a gombafonalak: a kutatók szerint, ha az összes arbuszkuláris mikorrhiza gomba fonalait egyetlen vonalba fűznénk, azok messze túlnyúlnának a Naprendszer határán is...
💸 Érdekes felvetés, hogy a világ legnagyobb technológiai cégeinek értékével vetekedő óriáscégek, mint a SpaceX, hirtelen bekerülhetnek mindenki portfóliójába, pusztán az indexek ereje miatt...
🚫 Az Anthropic hirtelen felfüggesztette két legerősebb MI-modellje, a Fable 5 és a Mythos 5 használatát világszerte, miután az amerikai kormány exportkorlátozási rendelettel azonnali tiltást rendelt el minden külföldi állampolgár számára...
Felmerül a kérdés, hogy miért kellett több mint 25 évet várni egy új naptejösszetevő megjelenésére az Egyesült Államokban, miközben Európa és a világ többi része már régen használ fejlettebb kémiai védelmet...
🔒 Egy lényeges szempont, hogy amikor új Android-telefon kerül valakihez, spontán nekiáll az alkalmazások letöltésének, fiókokba való belépésnek, a felesleges gyári appok kitakarításának és a külalak testreszabásának...
A telefonok töltési sebességét tekintve elértük a csúcsot, de még messze vagyunk attól, hogy minden eszközünket egyszerűen, gond nélkül tudjuk tölteni...
Mi történt ezen a napon a történelemben? Ma háborúk fordulópontjai, birodalmak sorsa és technológiai mérföldkövek rajzolták át a világot: Párizs német megszállása, az első nonstop transzatlanti repülés és a Stars and Stripes hivatalos elfogadása mind ezen a napon történt...
