Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 20:49

Az MI klímalábnyoma: mítosz vagy kőkemény valóság?

Hiába tartottuk az MI-t környezeti rémnek, új kutatások szerint messze nem okoz akkora klímakárt, mint sokan gondolják...

szombat 20:34

A rejtett zsírégető kapcsoló: új remény az FGF19-től

💪 A túlsúlyosakat és a cukorbetegeket évek óta foglalkoztatja, hogyan lehet hatékonyan és tartósan csökkenteni a testzsírt...

szombat 20:17

Az új csodarost: tényleg egészségesebb a hűtött pizza?

Ha a maradék pizza másnap a hűtőből újra a tányérodra kerül, meglepő módon egészségesebbé válhat, mint frissen fogyasztva...

szombat 20:02

Az első spirálgalaxis átírja a kozmoszt: Alaknanda szenzációja

Mindössze 1,5 milliárd évvel az ősrobbanás után már létezett egy óriási, szabályos spirálgalaxis, ami csillagászati szempontból szinte lehetetlennek tűnt...

szombat 19:49

A mini Hi-Fi, ami letaszítja a trónról a nagy tornyot

🔊 A Schiit Audio bemutatta a Magni Unity fejhallgató-erősítő új változatát, amelyhez immár a friss Mesh DAC is kérhető, így egyetlen pici egységben kapod meg a teljes asztali erősítő–DAC megoldást – mérete mindössze 13 cm × 9 cm...

szombat 19:18

Az Amazonas új madara, a rettenthetetlen tinamou veszélyben

Kezdetben a Serra do Divisor Nemzeti Park meredek hegyvidékén dolgozó kutatók felfigyeltek egy különös madárhangra, amely a sűrű aljnövényzetben visszhangzott, megnehezítve a forrás pontos beazonosítását...

szombat 18:35

Az Auracast, a Bluetooth titkos ásza, amiről senki sem beszél

🔑 Ami kezdetben ártalmatlannak tűnt, mára a Bluetooth-technológia egyik legforradalmibb újítása lett: megérkezett az Auracast, mellyel párosítás nélkül kapcsolódhatsz fülhallgatóddal, hangszóróddal vagy hallókészülékeddel bármilyen közeli forráshoz...

szombat 18:18

Az eredeti Csillagok háborúja 2027-ben visszahódítja a mozikat

🌌 1977 óta először láthatjuk újra eredetiben a Csillagok háborúja: Egy új remény (Star Wars: A New Hope) filmet, minden vitatott CGI-bővítés vagy utólagos átszerkesztés nélkül...

szombat 17:34

Meghalt az építészet forradalmára, Frank Gehry, 96 évesen

Frank Gehry, a modern építészet egyik legnagyobb alakja, Santa Monicában hunyt el, 96 éves korában, légzőszervi betegség következtében...

szombat 17:18

A karácsonyi dalok tényleg tönkreteszik a munkahelyi hangulatot?

🎅 December első hetében szinte elkerülhetetlen, hogy karácsonyi zenék szóljanak az irodában...

szombat 17:02

A leukémia elleni áttörést egy kitartó kémikusnő hozta el.

💫 1941-ben Gertrude Elion kémikusi mesterdiplomát szerzett, de kutatói állásokat nem kínáltak nőknek...

szombat 16:34

Az új clickjacking-trükk: SVG-vel és CSS-sel támadnak

Az MI-t gyakran okolják a webes támadásokért, de most egy új, különösen rafinált clickjacking-támadási módszer jelent meg, amely egyáltalán nem használ JavaScriptet...

szombat 16:01

Az FBI riaszt: hamisított fotókkal zsarolnak az interneten

🕵 Az FBI friss figyelmeztetést adott ki a legújabb virtuális emberrablásos csalásokról, melyekben bűnözők a közösségi oldalakon talált képeket manipulálják, majd ezekkel megpróbálnak váltságdíjat kicsalni...

szombat 15:49

Az OpenAI rávette a renitens MI-ket, hogy kitálaljanak

OpenAI kutatói forradalmi kísérletbe kezdtek: megtanították a cég nagy nyelvi modelljeit (LLM-eket), hogy önként beismerjék, amikor rosszul viselkednek, hibáznak, netán csalnak...

szombat 15:17

A tiéd lehet az okostévéd forráskódja?

👀 Az amerikai Vizio tévégyártónak egy kaliforniai bíróság döntése szerint akár ki is kell adnia az okostévéi szoftverének forráskódját a felhasználóknak...

szombat 15:02

A klímaváltozás elnyelheti Európa utolsó lápjait

🌊 Európa eredeti lápterületének mindössze 7%-a maradt meg napjainkra, és ez az arány tovább csökkenhet a klímaváltozás miatt...

szombat 14:34

A 40 ezer római érme rejtekhelye végre napvilágra került

Szenon falujában, Északkelet-Franciaországban három ősi agyagedényt, úgynevezett amforát találtak a régészek, tele római kori pénzérmékkel...

szombat 14:18

A védelem vakfoltja: a passzív adatok csapdája

👁 A digitális rendszerek védelme már nem elég pusztán passzív internetes szkennelési adatokra támaszkodni...

szombat 14:03

Az okinavai tudósok leleplezték a lopakodó szabadgyökök támadását

Hihetetlen, de mégis igaz, hogy a napfény nemcsak ragyogóvá, hanem idővel törékennyé és fakóvá is teszi a mindennapjainkat körülvevő műanyagokat és festékeket...