Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

kedd 09:44

Az elit tíz: a világ leggazdagabbjai újrarendezve

💰 A decemberi Forbes-lista szerint továbbra is az informatika, a közösségi média és a mesterséges intelligencia uralja a világ leggazdagabb embereinek rangsorát...

MA 06:44

Az iskolások fele véletlenül félrevezető holokauszt‑tartalmakba botlik online

📜 Szinte minden második brit diák találkozott már igazolatlan vagy félrevezető holokauszt-tartalommal a közösségi médiában, anélkül, hogy azt szándékosan kereste volna...

MA 06:37

Az alváshiány és a szorongás padlóra küldi az immunrendszert

😷 Stressz, szorongás és kialvatlanság nemcsak a lelki nyugalmat rombolja, hanem a szervezet védekezőképességét is gyengíti...

MA 06:29

Az óceán mélye lehet a Föld titkos szén-dioxid-szivacsa

Az óceánfenék alatt 60 millió éve keletkezett kőzetminták segítettek a kutatóknak megérteni, hogyan lehet a szén-dioxid hatalmas mennyiségét akár évmilliókig a föld alatt tartani...

MA 06:23

A tengerszint emelkedése elnyelheti a massachusettsi félszigetet

🌊 A festői Apple Street, amely a Massachusetts-i Cape Ann félszigeten fut, első pillantásra képeslapra illő új-angliai hangulatot áraszt...

MA 06:15

Az amerikai naptejek végre utolérhetik Európát

🌞 Az Egyesült Államokban hamarosan korszerűbb, hatékonyabb naptejek jelenhetnek meg a boltokban, köszönhetően a Food and Drug Administration (FDA) friss javaslatának...

MA 06:09

Az Oracle adatközponti költségrobbanása letaglózza a tőzsdét

💸 Az Oracle részvényei 11 százalékot estek csütörtökön, miután a társaság a vártnál gyengébb negyedéves bevételről számolt be, miközben évi adatközpont-beruházási tervét 5500 milliárd forintra (kb...

MA 06:05

Történelmi események a mai napon (December 12.)

Fordulópontok napja: Hérakleiosz döntő győzelme Nínivénél, a Oroszországi Föderáció függetlenné válása, és Észak-Korea első sikeres műholdindítása emeli ki ezt a dátumot...

MA 06:02

Az arizonai rétisasok váratlanul irányt váltottak vándorlás közben

A vadon élő madarakat gyakran egységes vándorlási minták jellemzik, de az arizonai rétisasok (Haliaeetus leucocephalus) meglepő módon szembemennek a megszokott iránnyal: a fiatal példányok nyáron és ősszel nem délre, hanem észak felé indulnak, és akár Kanadáig is eljutnak...

csütörtök 20:50

Az MI új trükkjei: védekezés a hálózat mélyén

Érdekes felvetés, hogy a kiberfenyegetések napjainkra új szintre léptek: a támadók egyre gyakrabban támaszkodnak mesterséges intelligenciára, amivel a védekezés is komplexebbé és a sebességét tekintve is nagyobb kihívássá válik...

csütörtök 20:33

A Mullvad kizárja az OpenVPN-t: csak a WireGuard marad

A Mullvad VPN merész lépésre szánta el magát: végleg száműzi az OpenVPN-támogatást az asztali alkalmazásokból, és minden felhasználót WireGuardra terel át...

csütörtök 20:17

Az új főbűnös a rejtélyes halálos kórokban: a hiányzó fehérje

Egy új felfedezés szerint egy eddig rejtve maradt fehérje, az RPA, kulcsfontosságú lehet számos, akár halálos betegség kialakulásában...

csütörtök 20:02

Az árzuhanás megkezdődött az ingatlanpiacon – nem mindenkinek jó hír

Több mint két év után először országos szinten csökkennek a házárak az Egyesült Államokban...

csütörtök 19:49

Az alakváltó molekulák forradalma már itt van

🚀 A Jyväskyläi Egyetem kutatói áttörő módszert fejlesztettek, amellyel a szintetikus molekulák egyszerűen programozhatók: így most már képesek spirális szerkezetekbe rendeződni, sőt akár formát is váltani...

csütörtök 19:34

Újabb biztonsági rés: 700 Gogs-szervert törtek fel világszerte

Egy foltozatlan, eddig nem nyilvánosságra hozott biztonsági rés a Gogsban, a népszerű, önállóan üzemeltethető Git-szolgáltatásban lehetővé tette, hogy támadók távoli kódfuttatást hajtsanak végre, és így több száz szervert kompromittáljanak világszerte...

csütörtök 19:17

Az Xsight Labs parányi chipje tarol a Starlinknél

Az Xsight Labs, amely mögött olyan nagyágyúk állnak, mint az AMD, az Intel Capital és a Marvell, most komoly győzelmet aratott: az ő X2 kapcsolóchipjük került be a SpaceX új, Starlink V3 műholdjaiba...

csütörtök 19:03

Visszatér-e a Twitter? Bluebird szemben Elon Muskkal, a „márkagyilkos megváltóval”

Fontos kérdés, hogy vajon feltámasztható-e az egykor legendás Twitter, amelyet Elon Musk minden eddiginél radikálisabban változtatott meg, és most már X néven fut...

csütörtök 18:49

A Disney-varázs elszabadult: MI-vel bárki sztárt gyárthat

🎞 A Disney 360 milliárd forintot (1 milliárd dollárt) fektet az OpenAI-ba, hogy legendás karakterei életre kelhessenek a legújabb MI-alkalmazás, a Sora segítségével...

csütörtök 18:34

Az MI nagy dobása: Disney-hősök kelnek életre Sora-videókban

📺 A Disney óriási, 370 milliárd forintos (1 milliárd dollár) befektetést jelentett be az OpenAI-ba, amellyel példátlan együttműködést indít el a generatív MI világában...