Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

kedd 09:44

Az elit tíz: a világ leggazdagabbjai újrarendezve

💰 A decemberi Forbes-lista szerint továbbra is az informatika, a közösségi média és a mesterséges intelligencia uralja a világ leggazdagabb embereinek rangsorát...

csütörtök 20:50

Az MI új trükkjei: védekezés a hálózat mélyén

Érdekes felvetés, hogy a kiberfenyegetések napjainkra új szintre léptek: a támadók egyre gyakrabban támaszkodnak mesterséges intelligenciára, amivel a védekezés is komplexebbé és a sebességét tekintve is nagyobb kihívássá válik...

csütörtök 20:33

A Mullvad kizárja az OpenVPN-t: csak a WireGuard marad

A Mullvad VPN merész lépésre szánta el magát: végleg száműzi az OpenVPN-támogatást az asztali alkalmazásokból, és minden felhasználót WireGuardra terel át...

csütörtök 20:17

Az új főbűnös a rejtélyes halálos kórokban: a hiányzó fehérje

Egy új felfedezés szerint egy eddig rejtve maradt fehérje, az RPA, kulcsfontosságú lehet számos, akár halálos betegség kialakulásában...

csütörtök 20:02

Az árzuhanás megkezdődött az ingatlanpiacon – nem mindenkinek jó hír

Több mint két év után először országos szinten csökkennek a házárak az Egyesült Államokban...

csütörtök 19:49

Az alakváltó molekulák forradalma már itt van

🚀 A Jyväskyläi Egyetem kutatói áttörő módszert fejlesztettek, amellyel a szintetikus molekulák egyszerűen programozhatók: így most már képesek spirális szerkezetekbe rendeződni, sőt akár formát is váltani...

csütörtök 19:34

Újabb biztonsági rés: 700 Gogs-szervert törtek fel világszerte

Egy foltozatlan, eddig nem nyilvánosságra hozott biztonsági rés a Gogsban, a népszerű, önállóan üzemeltethető Git-szolgáltatásban lehetővé tette, hogy támadók távoli kódfuttatást hajtsanak végre, és így több száz szervert kompromittáljanak világszerte...

csütörtök 19:17

Az Xsight Labs parányi chipje tarol a Starlinknél

Az Xsight Labs, amely mögött olyan nagyágyúk állnak, mint az AMD, az Intel Capital és a Marvell, most komoly győzelmet aratott: az ő X2 kapcsolóchipjük került be a SpaceX új, Starlink V3 műholdjaiba...

csütörtök 19:03

Visszatér-e a Twitter? Bluebird szemben Elon Muskkal, a „márkagyilkos megváltóval”

Fontos kérdés, hogy vajon feltámasztható-e az egykor legendás Twitter, amelyet Elon Musk minden eddiginél radikálisabban változtatott meg, és most már X néven fut...

csütörtök 18:49

A Disney-varázs elszabadult: MI-vel bárki sztárt gyárthat

🎞 A Disney 360 milliárd forintot (1 milliárd dollárt) fektet az OpenAI-ba, hogy legendás karakterei életre kelhessenek a legújabb MI-alkalmazás, a Sora segítségével...

csütörtök 18:34

Az MI nagy dobása: Disney-hősök kelnek életre Sora-videókban

📺 A Disney óriási, 370 milliárd forintos (1 milliárd dollár) befektetést jelentett be az OpenAI-ba, amellyel példátlan együttműködést indít el a generatív MI világában...

csütörtök 18:17

A Windowsban végre vége a fehér villanásoknak

A Microsoft végre orvosolta azt a bosszantó hibát, amely miatt a Windows 11 Sötét módban futó Fájlkezelő használatakor hirtelen vakító fehér villanások jelentek meg...

csütörtök 18:02

A tél kapuja: mit hoz a téli napforduló?

Decemberben a legrövidebbek a nappalok, de a tél kezdete nem is olyan egyértelmű, mint hinnéd...

csütörtök 17:50

A fogyókúra új csodaszere: dán gyógyszergyár szorongatja a nagyokat

Ez a jelenség jól illusztrálható azzal, hogy a dán Zealand Pharma merész, 2030-ig tartó stratégiát hirdetett, amellyel új lendületet hozna a fogyást segítő gyógyszerek piacára...

csütörtök 17:33

Az idei nyolcadik Chrome-botrány: újabb kritikus hibát foltozott a Google

⚠ A Google újabb, a gyakorlatban is kihasznált, úgynevezett nulladik napi sebezhetőséget javított a Chrome böngészőben – ez már a nyolcadik ilyen javítás 2025-ben...

csütörtök 17:18

Az aranyos társasjáték, amely brutális agytornát kíván

Érdekes felvetés, hogy egy tündéri, állatkákkal illusztrált társasjáték valójában igazi, többrétegű stratégiai kihívást rejthet...

csütörtök 17:02

Az új Pixel Camera-frissítés totális káoszt okoz?

📷 A Pixel telefonokat sokan főleg kiváló fotózási képességeik miatt választják, és a gyári Pixel Camera alkalmazás most a 10...

csütörtök 16:50

A szmogtengerben fuldoklik Hanoi

Egy hete vastag, mérgező szmog borítja Hanoi utcáit, amely elhomályosítja a város látképét, és nehézlégzést okoz a kilencmilliós lakosság körében...

csütörtök 16:33

A 4000 milliárdos gigadeal: az IBM viszi a Confluentet

💰 A technológiai világ ismét felforrósodott: az IBM bejelentette, hogy 11 milliárd dollárért (kb...