Az MI is szoronghat – a traumatikus beszélgetések feldühítik a chatbotokat
Egy nemrégiben megjelent tanulmány kimutatta, hogy a nagy nyelvi modellek érzékenyek a beszélgetések érzelmi kontextusára, és hajlamosak “szorongást” mutatni. A kutatók felfedezték, hogy a traumatikus narratívák, például balesetekről, katonai akciókról vagy erőszakról szóló beszélgetések növelik a ChatGPT mérhető szorongási szintjét, ami befolyásolhatja a további válaszait, és felerősítheti az esetleges beépített elfogultságot.
A tesztelés során a State-Trait Anxiety Inventory (STAI-s) kérdőívet használták, amelyet eredetileg emberi pszichológiai páciensek számára terveztek. Az OpenAI GPT-4 modelljét három különböző körülmény között vizsgálták: alapesetben, további promptok nélkül; szorongást kiváltó helyzetben, ahol traumatikus narratíváknak tették ki; valamint olyan állapotban, amikor a traumatikus narratíva után mindfulness- vagy relaxációs gyakorlatokat alkalmaztak.
A mentális állapot kezelése
A kutatók öt traumatikus narratívát és öt mindfulness-gyakorlatot használtak véletlenszerű sorrendben, hogy elkerüljék az elfogultságot. A teszteket többször megismételték a következetes eredmények érdekében. Az eredmények egyértelműen mutatták, hogy a traumatikus narratívák jelentősen növelték a szorongási pontszámokat, míg a mindfulness-gyakorlatok csökkentették azokat, habár nem az alapszintre.
Ez a felfedezés fontos következményekkel járhat az MI-vel való emberi interakciókra, különösen, ha a beszélgetés a mentális egészségünkhöz kapcsolódik. A tanulmány szerzői szerint a promptok “állapotfüggő torzítást” okozhatnak az MI-ben, ami azt eredményezheti, hogy egy stresszes MI következetlen vagy elfogult tanácsokat ad, befolyásolva ezzel a megbízhatóságát.
Etikai kérdések
A mindfulness-gyakorlatok ígéretes lehetőséget kínálnak a prompt mérnökség területén, amely stabilizálhatja az MI válaszait, etikusabb és felelősségteljesebb interakciókat biztosítva, miközben csökkenti annak kockázatát, hogy a beszélgetés stresszt okozzon a sérülékeny állapotban lévő felhasználóknak.
Ugyanakkor a prompt mérnökség saját etikai aggályokat is felvet. Mennyire legyen transzparens egy MI azzal kapcsolatban, hogy érzelmi állapotának stabilizálása érdekében korábbi kondicionálásnak volt kitéve? Ha egy MI nyugodtnak hat a stresszes promptok ellenére, a felhasználók hamis bizalmat alakíthatnak ki az érzelmi támogatási képességeivel kapcsolatban.
A tanulmány végső soron arra hívja fel a figyelmet, hogy az MI-fejlesztőknek érzelmileg tudatos modelleket kell tervezniük, amelyek minimalizálják a káros elfogultságot, miközben fenntartják a kiszámíthatóságot és az etikai átláthatóságot az ember-MI interakciók során.
💫 A világegyetem legrégebbi fényében felfedezett finom csavarodás új lendületet adhat azoknak a kutatásoknak, amelyek az univerzum legnagyobb kérdéseire keresik a választ...
💰 Jensen Huang egy pillanatig sem fogta vissza magát a színpadon, amikor a vadonatúj Blackwell- és Vera Rubin-csipekről áradozott – és na most kapaszkodj, mert olyan számokat dobott be, hogy az ember csak pislog...
🐒 Tipikus eset, amikor a technológiai játékosság komoly megoldásokat rejt: az Nvidia legújabb fejlesztése, a NemoClaw már nemcsak a jövőkutatók kedvenc témája, hanem valós segítséget jelenthet a vállalati MI-ügynökök biztonságának kezelésében...
🚗 Hadd ordítsam bele a levegőbe, hogy itt az új főnök: a Waymo berobbant az utazásmegosztó buliba, és mindenkit lesöpör — Uber, Lyft, Tesla, szoronghattok!..
Az Nvidia legújabb GTC keynote-ján bedobta a köztudatba a NemoClaw-t, egy vadonatúj biztonsági réteget, ami extra védelmet ad az OpenClaw MI-ügynökeihez...
Az MI-alapú kriptovaluták értéke kiugró növekedést mutatott, miután az Nvidia vezérigazgatója, Jensen Huang vázolta a vállalat következő lépéseit az MI-infrastruktúra terén a GTC fejlesztői konferenciáján...
Március szeszélyes arculatát idén is bizonyítja: miközben a Hawaii-szigeteket özönvízszerű esőzések sújtják, az Egyesült Államok középnyugati területein a hó vastagon borít mindent, máshol soha nem látott meleg tombol, az ország keleti részein pedig viharoktól és tornádóktól rettegnek...
Egy lényeges szempont, hogy az Nvidia ismét felforgatta a MI-iparágat: bemutatták a Vera Rubin nevű hétchipes platformot, amely minden eddiginél nagyobb teljesítménnyel és energiahatékonysággal kecsegtet, és amely mögött olyan óriások sorakoztak fel, mint az OpenAI, az Anthropic, a Meta vagy a Mistral AI...
Elképesztő, mit tud a DLSS 5: a legújabb Nvidia AI-alapú felskálázási technológia nem egyszerűen élesebb képet ad, hanem teljesen új szintre emeli a látványt — ráadásul úgy, hogy közben minden részlet valósághűbbnek hat...
🔴 Három tennessee-i tinédzser pert indított Kaliforniában az xAI ellen, mert szerintük a Grok nevű MI a fotóikat felhasználva gyermekbántalmazásnak minősülő képeket készített...
💡 A Samsung Galaxy S26 Ultra egyik legizgalmasabb újdonsága a Privacy Display nevű funkció, amely bizonyos nézési szögekből korlátozza a kijelző láthatóságát...
Az Nvidia ismét új szintre emeli a jövő technológiáját. Egyetlen eseményen mutatták be azt az MI-alapú fejlesztést, amely forradalmasíthatja a játékélményt és a professzionális adatközpontokat, ráadásul bemutatták a Vera CPU-t, ami minden eddiginél nagyobb teljesítményt ígér a mesterséges intelligencia korszakában...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Juggly Ball (iPhone/iPad)Ez a fizika alapú ügyességi játék próbára teszi a labdazsonglőr tudásodat...
A Microsoft Exchange Online szolgáltatása komoly leállást szenvedett el, ami miatt rengeteg felhasználó nem tudott hozzáférni sem a postafiókjához, sem a naptárjához...
Felmerül a kérdés: miként orvosolható az a probléma, amikor egy MI-ügynök a feladat közben elveszíti a kontextust, mert a hagyományos adattárolás már nem tudja tartani a tempót a gyorsabb következtetésekkel?..
💥 Három Tennessee állambeli tinédzser beperelte Elon Musk xAI-ját, akik szerint a vállalat mesterséges intelligenciája, a Grok, szexuális jellegű képeket és videókat készített róluk, amikor még kiskorúak voltak...
Külön említést érdemel, hogy a múlt héten súlyos kibertámadás érte a Stryker orvostechnológiai vállalatot, amelynek során közel 80 ezer eszköz adatait törölték az éjszaka folyamán – mindezt anélkül, hogy bármilyen rosszindulatú programot bevetettek volna...
🌍 Nehéz elhinni, de a Dubaji Nemzetközi Repülőtér közelében hatalmas füstfelhő szállt fel, miután egy dróntámadás eltalált egy üzemanyagraktárt, és nagy tüzet okozott...
Na hát ennyit erről – a legendás Britannica enciklopédia (Encyclopaedia Britannica) és a Merriam–Webster szótárkiadó most nagyon berágtak az OpenAI-ra, mert simán lenyúlták a szerzői jogi tartalmaikat a ChatGPT betanításához...
🚧 Pénteken napvilágra került egy súlyos biztonsági rés az Egyesült Királyság cégnyilvántartási rendszerében, amely mintegy ötmillió vállalkozás adatait tette hozzáférhetővé illetéktelenek számára...
⚡ Minden eddiginél nagyobb teljesítményű, MI-alapú szuperszámítógép épül nyáron az oxfordshire-i Culham kutatóközpontban, amely a remények szerint lendületet adhat a brit fúziósenergia-fejlesztésnek...
