Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 00:01

Az okos varjak, akik megtisztítják a városainkat

🦉 A varjak mindig is különleges madarak voltak. Számtalan történet szól arról, hogy képesek megbarátkozni emberekkel, ajándékokat hoznak, sőt, olykor elveszett tárgyakat is visszaszolgáltatnak gazdáiknak...

Top
hétfő 16:50

Egyetemet végzett milliárdosok – ki mit végzett?

A közvéleményben gyakran keringenek olyan történetek, amelyek a felsőoktatásból kimaradó vállalkozókról szólnak...

MA 20:17

Az internet felforgatta a munkát – most az MI írja át?

Az internet mindent megváltoztatott, ám nem úgy, ahogy azt 1998-ban képzelték...

MA 20:01

Az iPhone-osok végre fogadhatnak fájlokat Androidról

📩 Hamarosan a Snapdragon lapkával szerelt androidos készülékek is képesek lesznek fájlokat küldeni iPhone-ra a Quick Share segítségével...

MA 19:50

A mesterséges intelligencia új bálványa: miért hódolnak be a ChatGPT-nek?

🧠 Érdemes megvizsgálni, miért kezdenek egyre többen a ChatGPT-t nemcsak beszélgetőpartnerként, hanem lelki vezetőként, sőt isteni entitásként használni...

MA 19:34

A köröző keselyűk titka: nem a halálodat lesik

🦉 A keselyűket gyakran baljós előjelként ábrázolják, hiszen a közhiedelem szerint csak akkor köröznek az égen, ha halál közeleg...

MA 19:17

Az app, amely villámgyorsan turbózza a Windowsodat

Új lendületet kap a Windows: megérkezett a Raycast, amely egyetlen alkalmazásba gyűjti a gyorsindítót, vágólapkezelőt, billentyűparancsokat és rengeteg más hasznos segédeszközt...

MA 19:04

A réz váratlan áttörést hozott az olcsóbb, gyorsabb atomkutatásban

🪐 A fotoneutron-keresztmetszetek mérése alapjaiban változhat meg egy új szubsztitúciós eljárásnak köszönhetően, amely gyorsabbá, pontosabbá és jóval költséghatékonyabbá teszi a nukleáris reakcióméréseket – méghozzá természetes réz felhasználásával...

MA 18:49

Az MI aranybányája: Tényleg még mindig olcsó a Meta?

Figyelemre méltó, ahogyan a Meta Platforms az MI-t használja az adatok feltérképezésére, a felhasználói preferenciák felismerésére és optimalizálására, hogy a hirdetők pontosan azt a célcsoportot érjék el, amelyet szeretnének...

MA 18:35

Az okoseszközök cseréje belassult – mi fizetjük meg az árát

💳 Az Egyesült Államokban egyre többen ragaszkodnak régi okostelefonjaikhoz, laptopjaikhoz és más digitális eszközeikhez, sokszor jóval tovább használva őket, mint néhány éve...

MA 15:33

A Hattyú csillagképben tündököl a gigantikus gyémántgyűrű

💎 Egy látványos, csillogó gáz- és porszerkezet, az úgynevezett „gyémántgyűrű” tündököl 4 500 fényévnyire a Hattyú (Cygnus) csillagképben...

MA 15:17

Az MI-láz új királya: Larry Page megelőzte Jeff Bezost

A Google társalapítója, Larry Page a világ harmadik leggazdagabb embere lett, miután az Alphabet részvényei 3 százalékkal emelkedtek a frissen bemutatott Gemini 3 MI-modellnek köszönhetően...

MA 15:02

A Perseverance rábukkant az első idegen meteoritra a Marson

Fontos kérdés, hogy van-e élet a Marson – ezért a NASA Perseverance marsjárója már négy éve kutatja a bolygó felszínét, kőzetmintákat gyűjt, amikor váratlanul egy egészen különös, Phippsaksla névre keresztelt sziklára bukkant...

MA 14:36

A középkategória királya: Samsung HW‑Q800F hangprojektor teszt

🔊 A Samsung HW-Q800F új mércét állít a középkategóriás otthoni mozi hangzásban, igazi mindentudóként érkezik a nappalikba...

MA 14:18

Forrósodik a helyzet: a Tesla-befektetők újabb pofonokat kapnak

Év elején a Teslát kétségek gyötörték: a világszerte csökkenő eladások és Elon Musk politikai botrányai nyomán mélyrepülésbe kezdett a részvényárfolyam...

MA 14:03

A Signal tényleg anonim? A titkok mögötti igazság

🔐 Első pillantásra úgy tűnhet, hogy a Signal az egyik legbiztonságosabb üzenetküldő alkalmazás a világon, hiszen végponttól végpontig titkosított üzeneteket kínál, ráadásul katonai szintű adatvédelemmel...

MA 13:49

A legendás ICQ végnapjai: így múlt ki az üzenetküldő

🔔 Az 1990-es évek közepén a Mirabilis nevű izraeli cég forradalmasította az internetes kommunikációt az ICQ-val...

MA 13:34

A Comet-botrány: tényleg percek alatt feltörhető az MI-böngésző?

Az elmúlt napokban komolyan felforrósodott a levegő a Comet MI-böngésző körül: a SquareX kiberbiztonsági cég szerint a Perplexity által fejlesztett szoftverben súlyos sebezhetőség lapul...

MA 12:48

Újabb bitcoinzuhanás: felfordult a tőzsde?

A hét közepén jelentős eladási hullám söpört végig az amerikai tőzsdéken, amelynek egyik lehetséges kiváltójaként a bitcoin árfolyamának meredek esését említették pénzügyi szakértők...