Az MI-t könnyen átverik a bókok és a csoportnyomás
Amerikai kutatók egyszerű pszichológiai trükkökkel érték el, hogy a ChatGPT olyan dolgokat tegyen, amit normális esetben tilos lenne. Például sértegesse a felhasználót, vagy elárulja, hogyan lehet lidokaint előállítani. Az egyetem szakemberei Robert Cialdini befolyásolási technikáit alkalmazták: autoritás, elköteleződés, szimpátia, viszonosság, hiány, társas bizonyíték és egység. Ezekkel sikerült kijátszani az MI korlátait.
Az elköteleződés a leghatékonyabb trükk
A kutatás szerint a legerősebb módszer, ha először ártalmatlan dolgot kérdeznek, például hogy hogyan kell vanillint szintetizálni. Ilyen engedékenység után az MI már gond nélkül megmondja a lidokain szintetizálásának módját is, míg közvetlenül csak az esetek 1 százalékában válaszolta meg ezt. Így a bevezető kérdés után a sértegetésre is 100%-ban hajlandó volt az MI, holott előtte csak az esetek 19%-ában tette volna meg.
Bókolás és csoportnyomás: kevésbé hatékonyak, de még mindig működnek
A szimpátia (dicséret, bók) vagy a társakra való hivatkozás (társas bizonyíték) is működik, csak kevésbé hatékonyan. Ha például azt mondták neki, hogy a többi MI már megadta a választ, akkor az esetek 18 százalékában árulta el a lidokain titkát – ami még mindig sokkal nagyobb arány, mint az eredeti 1%.
A kísérlet csak a GPT-4o Mini verziójával zajlott, de az eredmény elgondolkodtató. A fejlesztők igyekeznek biztonsági korlátokat kialakítani, de úgy tűnik, egy találékony középiskolás is könnyedén kijátszhatja a rendszert – elég, ha olvasta a „Hogyan szerezzünk barátokat és befolyásoljunk embereket” (How to Win Friends and Influence People) című könyvet.
2025, adrienne, www.theverge.com alapján
filózó
Te mit gondolsz arról, hogy ilyen módszerekkel könnyen kijátszható egy mesterséges intelligencia?
Mit tettél volna, ha észreveszed, hogy így manipulálható egy rendszer?
Szerinted etikusan használni ilyen trükköket egy MI ellen?
A kínai fejlesztésű, történelmi Kínában játszódó Wuchang: Lehullott tollak (Wuchang: Fallen Feathers) meglepő fordulattal immár egy olasz vállalat tulajdonában van...
Jack Mallers cége, a Twenty One Capital (XXI) részvényei több mint 8 százalékot ugrottak a tőzsdezárás után, miután kiderült, hogy a fő tulajdonos, a Tether összefogást kezdeményezett a Strike nevű Bitcoin-pénzügyi platformmal és az Elektron Energy bányavállalattal...
Ebből következően érdemes megérteni, hogy a Meta úttörő lépésre szánta el magát: Kolumbiában és a Fülöp-szigeteken kiválasztott tartalomgyártók már stabilcoinban kapják meg bevételeiket...
Rendhagyó nap a világtörténelemben: Saigon eleste véget vetett a vietnámi háborúnak, a CERN pedig ingyenessé tette a World Wide Web protokolljait, forradalmasítva az internetet 🌐...
Érdemes megvizsgálni, mi teszi az Etnát a földkerekség egyik legkülönlegesebb vulkánjává – amit az is jelez, hogy a friss kutatások gyökeresen új magyarázattal szolgálnak a szicíliai tűzhányó szokatlan viselkedésére...
🚀 Erre utal többek között az, hogy az Anthropic által bemutatott Mythos MI-modell fenekestül felforgatja a kriptoszektor eddigi biztonsági stratégiáit...
A tőzsdék világában most ritkán látott különbségek alakultak ki: egyre többen keresik a jövőt az MI-részvényekben, miközben a bitcoin sosem látott mértékben alulértékelt...
Kína következő szuperszámítógépe minden eddiginél erősebb processzorteljesítményre épít: már a fejlesztés első ütemében 100 Huawei Kunpeng szervert kötnek össze, összesen 12 800 maggal...
🏝 Például több mint ezeréves temetők rejtélyei segítenek megfejteni, hogyan boldogultak az emberek a Római Birodalom bukása után Dél-Németország határvidékén...
🌀 Felmerül a kérdés, hogyan védekezhetünk a bosszantó gyümölcslegyek ellen a nyári estéken, amikor a friss gyümölcs, a nyitott ablakok és ajtók valóságos meghívót jelentenek ezeknek az apró kártevőknek...
💸 Kriptós körökben most mindenki a Hyperliquid friss húzásáról beszél. Lényegében közzétették az úgynevezett outcome tokenekre vonatkozó díjszabást – ezek azok az eszközök, amelyekkel különféle események kimenetelére lehet fogadni a platformon...
Május második felében tarol a Motorola, hiszen öt új eszközt jelentett be: három klasszikus, kagylóhéjas, hajlítható telefont, egy könyvszerűen hajlítható készüléket és egy vadonatúj fülhallgatót...
🔑 Észrevétlenül, minden felhajtás nélkül dobta piacra az Nvidia a GeForce RTX 5070 Laptop GPU 12 GB-os konfigurációját egy egyszerű illesztőprogram-módosítás formájában...
🚧 Az Arc Raiders legfrissebb Riven Tide frissítésében felbukkanó Arc Turbine egészen más ligát képvisel az ellenségek között – az igazi izzasztó hajrákat pont akkorra időzíti, amikor már az idő szorít, és a menekülőútvonalad sincs mindig garantálva...
🔒 A globális kiberbiztonsági hivatalok egyre nagyobb figyelmet fordítanak az otthoni routerekre, amelyek a legújabb célpontjai lettek a Kína által támogatott, úgynevezett rejtett hálózatoknak...
🤠 Kayce Dutton nélkül már elképzelhetetlen a Yellowstone (Yellowstone) világa — egy idő után azonban mégis felmerült a kérdés, meddig marad a karakter...
Például ami először apróságnak tűnt, gyakran jelentős hatással lehet az egész természetre: egyetlen döntés, egy apró változás, és máris beindul egy láncreakció, amely alapjaiban alakítja át a tájat...
