Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 09:44

Az elit tíz: a világ leggazdagabbjai újrarendezve

💰 A decemberi Forbes-lista szerint továbbra is az informatika, a közösségi média és a mesterséges intelligencia uralja a világ leggazdagabb embereinek rangsorát...

MA 20:34

A gőték láthatatlan genetikai csapdába estek

Ami először apróságnak tűnt, komoly evolúciós rejtéllyé nőtte ki magát a tarajos és márványos gőték körében...

MA 20:17

Áttörés: már a legritkább betegségeket is gyógyítják

Egy mindössze hat hónapos baba, KJ Muldoon lett az első a világon, aki személyre szabott CRISPR-génszerkesztéses kezelést kapott egyedi genetikai mutációjára...

MA 20:01

A tini hacker rács mögött: 64 millió ellopott adat

Spanyol rendőrök Barcelonában elfogtak egy 19 éves fiatalt, aki kilenc különböző cég rendszereibe tört be, majd 64 millió ember személyes adatait próbálta eladni az interneten...

MA 19:49

Jön az új chipgyártó, vége az MI energiazabálásnak?

⚡ Érdekes felvetés, hogy az MI gyors fejlődése nemcsak hatékonysági, hanem egyre inkább energiagazdálkodási kihívás elé állítja a világot...

MA 19:33

Az ősi csillagok átírják a Tejútrendszer történetét

⭐ Felmerül a kérdés, hogy mennyire ismerjük valójában saját galaxisunk, a Tejút, történetét...

MA 19:02

Az Instacart trükkös árazása: ki fizet többet ugyanazért?

Egy friss kutatás döbbenetes eredményeket hozott az Instacart árképzéséről: a felhasználók ugyanabból az üzletből származó, ugyanazon termékre akár öt különböző árat is láthattak...

MA 18:50

Az MI-lázban most éri meg igazán videókártyát venni

Érdekes felvetés, hogy a mesterséges intelligencia iránti kirobbanó kereslet néhány hónapon belül alaposan felhajthatja a videókártyák árait...

MA 18:34

Az űrbe költöznek az adatszerverek – forradalom vagy vakvágány?

🚀 Például egyre többen foglalkoznak azzal a gondolattal, hogy a nagy teljesítményű adatközpontokat a Föld helyett az űrben helyezzék el...

MA 18:18

Az univerzum rejtett rendje: áttörés a fraktális káosz feltárásában

🌈 Az univerzum felszínes rendjével szemben ott lüktet a káosz: véletlenek, apró kilengések formálnak mindent, a hatalmas galaxisoktól a leghétköznapibb jégvirágig...

MA 17:49

Leállt a Microsoft Copilot – pórul jártak az európai felhasználók

⚠ Az elmúlt órákban jelentős hiba akadályozta Európa-szerte a Microsoft Copilot MI-asszisztens használatát, így a felhasználók nem érhetik el sem a copilot...

MA 17:33

Az év animációs szenzációja: jön a Zootropolis 2 streamingre

🐶 Zootropolis 2 (Zootopia 2), a Disney nagysikerű animációs filmjének folytatása, várhatóan 2026 elején érkezik meg az otthonokba...

MA 16:50

Kínába csempészték az Nvidia GPU-kat: 60 milliárdos botrány

📦 Az amerikai hatóságok ismét komoly, Kínához köthető csempészési hálózatot számoltak fel, amelyen keresztül exportkorlátozás alá eső MI-chipeket szállítottak volna Kínába és más tiltott országokba...

MA 16:34

Az Android-nyomkövetők hadat üzennek az AirTagnek

🔎 Az Apple AirTag népszerűségét látva hamarosan új nyomkövető eszközök jelennek meg Androidra...

MA 16:20

A Meta zsonglőrködik: a Llama után érkezik az Avocado-káosz

🥑 Meta, a Facebook anyavállalata az elmúlt évben jelentős irányváltáson ment keresztül a mesterséges intelligencia fejlesztésében...

MA 16:02

Újabb vágás: a Standard Chartered tovább farag a bitcoin-előrejelzésén

📈 A Bitcoin árfolyamának emelkedése elakadt, különösen a gyenge negyedik negyedéves teljesítmény után...

MA 15:49

Az Intel és a Tata óriási dobásra készül Indiában

🚀 Az Intel új szövetséget kötött az indiai óriásvállalattal, a Tatával, és közösen vizsgálják majd a chipgyártás lehetőségeit India első félvezetőgyárában...

MA 15:17

A Google új MI-alkalmazása már vásárlásra is csábít

🛒 A Google MI-alapú próbafülke-alkalmazása, a Doppl új felfedező hírfolyammal bővült, ahol bárki azonnal be is szerezheti a kiválasztott ruhákat...

MA 15:02

A mesterséges intelligencia már átírja a nyelvünket?

Egyre több moderátor és kutató aggódik amiatt, hogy az emberek beszéde feltűnően hasonlít az MI által generált nyelvezethez...