Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 07:01

Az OpenAI reklámszagú üzenetei kivertek minden biztosítékot

💣 Az OpenAI leállította a ChatGPT alkalmazásban megjelenő, hirdetésszerű javaslatokat, miután fizetős előfizetők panaszkodtak a reklámhoz hasonló felugró üzenetek miatt...

MA 06:57

Az új diabéteszpirula zsírt éget, izmot kímél

Egy forradalmi gyógyszer segíthet leküzdeni a 2-es típusú cukorbetegséget és az elhízást anélkül, hogy károsítaná az izomtömeget vagy csökkentené az étvágyat...

MA 06:43

Az ókori Egyiptom történelmét átírhatja egy titokzatos vulkánkitörés

🌋 Új radiokarbon-vizsgálatok teljesen átrajzolták az ókori Egyiptom egyik legizgalmasabb korszakának időrendjét...

MA 06:38

Az ősrobbanás kozmikus csomói: így születhetett a mindenség

Képzeld el, hogy létezik egy különös, eddig rejtett válasz arra, miért létezik egyáltalán az univerzum – miért van több anyag, mint antianyag, és hogyan keletkezhettünk mindannyian...

MA 06:29

A Mars trópusi múltját sejtetik az ősi fehér kövek

🌌 Különös, világos színű agyagsziklákat talált a Perseverance marsjáró a Mars felszínén, amelyek arra utalnak, hogy a vörös bolygó egykor a trópusi esőerdőkéhez hasonló, nedves és párás éghajlatnak örvendhetett...

MA 06:23

A házi kávé új korszaka: a 3 legjobb Breville eszpresszógép

A Breville régóta meghatározó szereplő a kávégépek piacán, évről évre fejlettebb eszpresszógépekkel örvendezteti meg az otthoni baristákat...

MA 06:09

Az amerikai marhaállomány válsága hajtja fel a marhahús árát

🐮 Egyre többen szembesülnek azzal, hogy a marhahús ára drasztikusan nőtt a boltok polcain...

MA 06:06

Történelmi események a mai napon (December 8.)

Kiemelkedő évfordulók: John Lennon meggyilkolása 🎸, a középtávú nukleáris fegyverek felszámolását célzó INF-szerződés aláírása 🕊️, és Eisenhower Atoms for Peace beszéde, amely új korszakot nyitott a nukleáris tudás megosztásában ⚛️...

MA 06:03

Az óceánmélyi bányászat könyörtelenül pusztítja az élővilágot

🌊 Kezdetben az óceán mélyének élővilága rejtélyes és nagyrészt feltérképezetlen volt, különösen azokban a térségekben, amelyeket tengeri bányászat céljából jelöltek ki...

vasárnap 20:50

A lenyűgöző égi csoda, amely vetekszik a Teremtés oszlopaival

💫 Lenyűgöző felvételt közölt a Gemini Obszervatórium fennállásának 25. évfordulóján: a fotón az NGC 6820 jelű emissziós köd és az NGC 6823 nyílt csillaghalmaz ragyog, mintha a híres Teremtés oszlopai (Pillars of Creation) párját látnánk...

vasárnap 20:33

A legsúlyosabb ciklon csapott le: ezrek otthona dőlt romba, százak haltak meg

💧 A legsúlyosabb természeti katasztrófa rázta meg Sri Lankát, ahol heves ciklon pusztított; a hegyvidéki tartományokban még mindig földcsuszamlások és áradások fenyegetik a lakosságot...

vasárnap 20:20

A monstrum Doogee V Max LR: telefon vagy szerszámosláda?

A Doogee V Max LR egészen új szintre emeli a strapatelefon fogalmát: nemcsak elképesztően masszív, de igazi energiabajnok is a 20500 mAh-s akkumulátorával...

vasárnap 20:02

Az elveszett indián falvak előkerültek – tényleg igaza volt John Smithnek?

🌍 Emellett a Rappahannock folyó mentén, Virginiában végzett ásatások során végre sikerült azonosítani azokat az ősi indián falvakat, amelyeket a Jamestownból ismert John Smith több mint 400 éve említett...

vasárnap 19:49

A Simogo új csomagja visszarepít az iPhone-játékok aranykorába

🎮 A mobiljátékok világában ma már ritkaságszámba mennek az igazán kreatív indie alkotások, de volt idő, amikor az App Store-nak köszönhetően a kis fejlesztőcsapatok is hatalmas közönséghez tudták eljuttatni ötleteiket...

vasárnap 19:34

Az elveszett szavak nyomában: miért fordíthatatlan néha a nyelv?

Több nyelvet beszélve feltűnhet, hogy bizonyos szavakat egyszerűen képtelenség lefordítani. Egy japán tervező vágyódik a mono no aware iránt, amely egyfajta letisztult, időtlen szépség – angolul, sőt magyarul sincs rá igazán megfelelő szó...

vasárnap 19:17

Az évszázad játéka visszatért – kezdődik a láz!

Az év vége felé közeledve senki sem unatkozik, hiszen a legendás játék, amely hosszú évek óta sokak toplistáján szerepel, most újra hódít...

vasárnap 19:02

Az Amazon nagy fúziója az MI-szuperszerverekkel

Tipikus eset, amikor a technológiai verseny nem az egyediség felé visz, hanem a legjobb, működő mintát másolják a nagyok...

vasárnap 18:51

Az olcsó boltok ára a szegények bőrére megy

Az Egyesült Államokban rengeteg család támaszkodik olyan bolthálózatokra, mint a Family Dollar vagy a Dollar General, hiszen ezek a boltok ígérik a legalacsonyabb árakat alapvető háztartási cikkekből...

vasárnap 18:33

Az okosszemüveg, amely rémálommá vált: 13 év Google Glass után

Amikor a Google Glass 13 évvel ezelőtt megjelent, az egész világ álmodozni kezdett arról, milyen lesz, ha számítógép költözik az arcunkra...