Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

kedd 20:49

A Linux nagy áttörése: ugrásszerűen nő a Steam-játékosok száma

Novemberben a Linuxot használó játékosok aránya új rekordot ért el a Steamen: elérte a 3,2%-ot, ami 0,15%-os növekedést jelent az előző hónaphoz képest...

kedd 20:34

Az indiai Nagy Testvér mindent lát: nyilvántartanak minden okostelefont

👀 Megvizsgáljuk, hogyan tervezi India feltérképezni és nyilvántartani az ország összes okostelefonját, legyen szó új vagy használt készülékről...

kedd 20:16

Jön a szigor: felezik az ingyenes tanúsítványok érvényességét

A Let’s Encrypt bejelentette, hogy 2028-ig felére, azaz 90 napról 45 napra rövidíti a kibocsátott tanúsítványainak érvényességi idejét...

kedd 20:03

Az Amazon 36 millióért engedi személyre szabni a saját MI-modelleket

💰 Különösen említést érdemel, hogy az Amazon Web Services (AWS) mostantól lehetővé teszi a felhőalapú ügyfelek számára, hogy már a betanítási folyamat közben is testre szabják az MI-modelleket, saját adataikat beépítve...

kedd 19:34

A MI jövőjének kulcsa az igazság, a szépség és a kíváncsiság?

Elon Musk ismét figyelmeztetett az MI jelentette veszélyekre, kiemelve, hogy a technológia gyors fejlődése miatt a jövő nem feltétlenül lesz pozitív...

kedd 19:17

A Microsoft Defender összeomlása megbénította a fenyegetésvadászatot

🙁 Az elmúlt 10 órában részleges leállás bénította a Microsoft Defender XDR portált, több felhasználó számára elérhetetlenné téve a fenyegetésvadászatot és egyéb funkciókat...

kedd 19:01

A város minden épülete 3D-ben – itt az új térkép!

A Müncheni Műszaki Egyetem kutatói a GlobalBuildingAtlas nevű projektben először készítették el a Föld összes épületéről készült, nagyfelbontású 3D-térképét...

kedd 18:50

A menstruáció űrbeli forradalma: új megoldások hosszú küldetéseken

Az űrutazás emberi kihívásai túlmutatnak a technológián: az alapvető testi folyamatokat is újra kell gondolni a Földtől távol, legyen szó étkezésről, alvásról, vagy éppen a menstruációról...

kedd 18:34

Az új Steam Machine megtöri a Valve hardverátkát?

Első pillantásra úgy tűnt, hogy a Steam Machine 2015-ös bevezetésével a Valve végre megoldja a PC-s játékok legnagyobb gondjait...

kedd 18:17

Az év végi aduász: jön a Mortal Kombat 1 Game Passra

Decemberben a Game Pass kínálata igazi csemegéket tartogat. A legnagyobb durranás kétségtelenül a Mortal Kombat 1, amely december 10-től érhető el az Ultimate és Premium előfizetők számára...

kedd 18:01

A halott csillagok rejtélye: feltámadnak a fehér törpék?

💫 Az univerzum egyik legérdekesebb jelensége a fehér törpék világa: ezek a csillagmaradványok akkor születnek, amikor egy csillag már nem termel energiát magfúzió útján...

kedd 17:02

Az Antigravity bakija: eltűnt egy felhasználó teljes meghajtója

Külön említést érdemel, hogy egy újabb súlyos hiba miatt a Google Antigravity nevű MI-fejlesztőeszköze egy felhasználó teljes D: meghajtóját törölte, helyreállítási lehetőség nélkül...

kedd 16:50

A YouTube új deepfake-rendőre: áldás vagy átok?

A YouTube új arcfelismerő eszköze, amely a feltöltők biometrikus adatait használja fel az MI-alapú deepfake videók azonosítására, komoly aggodalmakat váltott ki szakértők és tartalomgyártók körében...

kedd 16:33

Az a merész jóslat, amely fél évszázadra formálta a chipeket

1964. december 2-án a San Francisco-öböl térségében egy szerény, szakmai találkozón Gordon Moore számítástechnikus letette a félvezetőipar alapjait: megszületett a ma már legendás Moore-törvény...

kedd 16:18

A Luma AI meghódítja Londont

Az amerikai Luma AI, amelynek értéke már meghaladja az 1 470 milliárd forintot, nagyszabású londoni terjeszkedést jelentett be...

kedd 16:01

Titkok a középkori angol seregről: 290 ezer sors online

Néhány éve még elképzelhetetlen volt, hogy bárki böngészhessen középkori angol katonák sorsaik között...

kedd 15:50

Az Oracle-hack után újabb adatlopás rázza meg a Pennsylvaniai Egyetemet

A Pennsylvaniai Egyetem nemrég jelentette be, hogy támadók érzékeny személyes adatokat loptak el az Oracle E-Business Suite szervereiről...

kedd 15:33

Az újabb csapás: Michael Burry szerint túlárazott a Tesla

Michael Burry, a híres befektető, aki a 2008-as nagy gazdasági válság idején shortolta az ingatlanpiacot, ezúttal a Teslát bírálja élesen...

kedd 15:17

Az új kvantumanyag átírhatja az űrtechnológia szabályait

A Kaliforniai Egyetem irvine-i campusán (UC Irvine) egy kutatócsoport olyan eddig ismeretlen kvantumállapotot fedezett fel, amely akkor jön létre, amikor az elektronok és a pozitív töltésű, ún...