Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 14:17

Az első olvadéksó-üzemanyag forradalmasítja az atomreaktorokat

Az amerikai Idaho Nemzeti Laboratórium előállította a világ első kloridalapú, olvadt sóból készült üzemanyagát gyorsreaktorokhoz...

MA 14:02

Az éghajlati válság házhoz jön – és végre észbe kapunk

🏖 A kommunikáció apró módosítása, például ha megemlítik a lakóhelyedet egy figyelmeztetésben, drámai módon növelheti a felkészülési hajlandóságot a természeti katasztrófákkal szemben...

MA 13:49

A Hold ma éjjel: mit látsz az égen?

🌕 December 8-án a Hold a holdciklus 18. napján jár, vagyis fogyó domború fázisában figyelhetjük meg...

MA 13:33

Az első kínai újrafelhasználható rakéta felrobban – az Ethernet mégis repült

A kínai LandSpace űripari vállalat a múlt héten indította el Kína első újrafelhasználható rakétáját, a Zhuque-3 Y1-et, amely ugyan sikeresen eljuttatta második fokozatát a kijelölt pályára, de irányított visszatérése során felrobbant...

MA 13:17

Az ünnepi frissítés hóvihart hoz a Battlefield 6-ba

december 9-én érkezik a Battlefield 6 legújabb, 1.1.3.0-s frissítése, amely az ünnepi időszakot egy vadonatúj, hó borította Empire State pályaváltozattal indítja...

MA 13:02

Valóban megállíthatatlanok az önvezető autók?

Az elmúlt hetekben újabb önvezető járművekkel kapcsolatos fejlemények láttak napvilágot: egyre több városban indulnak vagy terveznek robotaxi-szolgáltatásokat...

MA 12:49

Az Airbus A320 rejtélye: tényleg kozmikus eredetű a hiba?

Felmerül a kérdés, okozhatta-e a kozmikus sugárzás azt a hibát, amely sürgősségi szoftverfrissítéshez és a repülő váratlan magasságvesztéséhez vezetett...

MA 12:33

A PS5 tarolt az idei Black Fridayen

A játékosok idén sem tétlenkedtek Black Friday alatt, a konzoleladások látványosan megugrottak...

MA 12:18

A titokzatos Aska-medál: az egyetlen várandós viking nő

🔭 A svéd Aska településen, egy 10. századi elit nő sírjában bukkantak rá az Aska-medálra, mely az egyetlen ismert ábrázolás egy várandós viking nőről...

MA 12:02

Az MI-aranyláz nyertesei: chipgyártók és energiacégek aratják le a hasznot

💰 A BlackRock ázsiai–csendes-óceáni befektetési vezetője, Ben Powell szerint az MI-infrastruktúrába áramló tőke még messze nem érte el a csúcsát – sőt, még csak most jön a java...

MA 11:49

Az élő shopping vitte a prímet Black Fridayen

Idén a Black Friday alkalmával az élő vásárlási alkalmazások soha nem látott sikert arattak...

MA 11:33

Az elpazarolt hőből áram lesz: jön az energiaforradalom?

A világnak egyre több energiára van szüksége, miközben rengeteg energia hő formájában egyszerűen elvész az ipari folyamatok során...

MA 11:01

Az éhínség és egy vulkánkitörés lökhette útjára a Fekete Halált

💀 A Fekete Halál, amely 1347 és 1353 között söpört végig Európán, több helyen a lakosság akár 60%-át is elpusztította, de máig rejtély, hogyan tudott ilyen gyorsan terjedni...

MA 10:57

A szupernóvák írják át az élet eredettörténetét

Ki gondolta volna, hogy egy brutális csillagrobbanás új fényt vet az élet építőköveire?..

MA 10:51

Az Apache Tika végzetes hibája új kibertámadási hullámot indít

Érdekes felvetés, hogy még a legnagyobb technológiai óriásokat is bármikor váratlanul érheti egy súlyos biztonsági rés...

MA 10:44

Az ingatlanpiac csatája: hol diktálnak az eladók, hol a vevők?

🏡 A Zillow szakértői a Market Heat Index nevű modellel elemzik az ingatlanpiacokat: az árak változását, a kínálatot és az eladási időt összesítve pontszámmal jelzik, hogy az adott városban inkább eladói vagy vevői piac uralkodik...

MA 10:32

Az új Doogee S200 Ultra: páncélozott mobil, borsos árcédulával

A Doogee idén újabb ütésálló telefonját dobta piacra, az S200 Ultra modellt, amely szinte minden szempontból erős ajánlat lenne – ha nem lenne ilyen drága...

MA 10:15

Az MI csak akkor jó, ha emberibbé tesz minket

🧑 Az emberek gyakran úgy gondolnak az MI-re, mintha sorsdöntő összecsapás lenne ember és gép között, ahogyan a Terminátorban (The Terminator) látjuk a Skynet példáján...

MA 10:02

A fokhagymás szájvíz lehet a következő természetes csodafegyver?

A fokhagymáról régóta köztudott, hogy hatékony természetes fertőtlenítő, de most a Sharjah Egyetem kutatói bebizonyították: a fokhagymakivonatot tartalmazó szájvíz meglepően erős baktériumölő hatást fejt ki...