Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szerda 20:49

Az Orion óriása rejtélyes fényjeleket küld az égre

Az Orion csillagkép egyik legfényesebb csillaga, a Betelgeuse évek óta zavarba ejtő módon változtatja fényességét — mintha valami mennyei fényerőszabályzó játszana vele...

szerda 20:34

A marokkói ősleletek átírhatják az emberiség családfáját

Érdemes megérteni, hogy a marokkói Casablanca mellett feltárt, mintegy 773 ezer éves csontmaradványok alapjaiban változtathatják meg, amit az emberi faj eredetéről gondolunk...

szerda 20:17

Az MI-fiaskók miatt gőzerővel mérnököket keres a Google

👷 A Google egyre inkább előtérbe helyezi az MI-válaszokat a kereséseknél, ám ezek az automatizált összefoglalók, az úgynevezett MI-összefoglalók (AI Overviews), gyakran téves, sőt néha ellentmondó információkkal árasztják el a felhasználókat...

szerda 19:50

Az agy vezérlőközpontja végre megszületett a laborban

Japán kutatók áttörést értek el: laboratóriumi körülmények között hozták létre az emberi agy egyik alapvető idegi áramkörét, egymással összeillesztett, szervszerű modellek felhasználásával...

szerda 19:33

Az Nvidia vezérigazgatója megkapta az IEEE legmagasabb díját

🏆 Jensen Huang, az Nvidia alapító-vezérigazgatója a technológiai szektor legkitartóbb vezetői közé tartozik, hiszen 1993 óta irányítja a vállalatot...

szerda 19:18

Az utolsó szibériai sámán titka: a női múmia genetikai kódja

Többek között a középkorban eltemetett, természetes úton mumifikálódott jakutok maradványai segítenek feltárni Szibéria őslakosainak genetikai múltját és hagyományait, az orosz hódítás előtt, alatt és után is...

szerda 19:02

A berlini sötétség ára: ki felel, mennyire védtelen a város?

A berlini áramszünet, amely a második világháború óta a leghosszabb volt, komoly kérdéseket vetett fel a város és az ország infrastruktúrájának biztonságáról...

szerda 18:51

Az év, amikor a Wall Street végleg kriptóra vált

A kriptopiac 2026-ban új szintre lép, hiszen egyre több nagyvállalat integrálja a blokklánc-technológiát a pénzügyi szolgáltatásai magjába...

szerda 18:33

Az MI felzabálja a memóriát: emeli árait a Samsung

A Samsung hamarosan áremelésre készül memóriatermékeinek piacán, mivel az MI-alapú adatközpontok óriási mennyiségű RAM-ot igényelnek...

szerda 18:02

Az ázsiai zuhanás romba döntötte a kriptopiacokat

📉 A bitcoin ára jelentős eséssel indította a napot az ázsiai kereskedésben, miután már harmadszorra sem tudott 94 500 dollár (kb...

szerda 17:50

Az első fúziós erőmű átírhatja az energia jövőjét

⚡ A Commonwealth Fusion Systems (CFS) Boston mellett építi első bemutató jellegű fúziós erőművét, amely ugyanazt a folyamatot alkalmazza, amellyel a Nap is energiát termel...

szerda 17:17

Az elit harcosok titkai: 1100 éves sírok kerültek elő Magyarországon

Az Akasztó melletti ásatások során három, körülbelül 1100 éve eltemetett elit harcos sírjára bukkantak magyar régészek...

szerda 17:02

Az Aurzen új projektorai forradalmasítják a hordozható mozit

A Las Vegas-i CES kiállításon semmi sem lep meg jobban, mint amikor egy cég egészen új oldalról közelíti meg a vetítéstechnikát...

szerda 16:49

Visszatérnek az iPhone MI-összefoglalói – egyelőre visszafogottan

Az Apple újból elérhetővé tette az MI-alapú értesítés-összefoglalókat a hírek és szórakoztató appokban, miután korábban, 2025 elején letiltotta ezt a funkciót...

szerda 16:34

Az alvó ősvírusok titkai az emberi DNS mélyén

😴 Ami először apróságnak tűnt, mára elképesztően izgalmas felfedezéssé nőtte ki magát: tudósoknak sikerült ősi herpeszvírusokat azonosítaniuk és rekonstruálniuk emberi csontvázakból származó DNS-minták alapján...

szerda 16:17

Az ausztrál delfinek új őrangyalai: a drónok

🐬 Ausztrália ikonikus delfinjei egyre nagyobb veszélyben vannak a környezeti változások és az emberi tevékenység miatt, ezért megbízható, kíméletes megfigyelőeszközökre van szükség az egészségük ellenőrzéséhez...

szerda 16:02

Az okos otthon most tényleg őrködik: MI riaszt a gyanús mozdulatra

A Ring a CES 2025-ön jelentette be legújabb MI-alapú fejlesztéseit, amelyekkel a videócsengők és biztonsági kamerák még hatékonyabban óvhatják az otthonodat és a családodat...

szerda 15:49

A buborékok repítik szét a mikroműanyagokat vizeinkben

A mikroműanyagok szinte mindenhol jelen vannak: a testünkben, az ételeinkben és a környezetünkben is megtalálhatók...

szerda 15:34

Az Amazon a nappalinkba is beköltözne a tűzvédelemért – milyen áron?

🔥 Ez a jelenség jól illusztrálható azzal, hogy az Amazon tulajdonában álló Ring, a közösségi megfigyelésre szakosodott biztonsági szolgáltatás, újabb lépést tett abba az irányba, hogy az otthonaink térfigyelő kameráit ne csak betörők, hanem természeti katasztrófák ellen is bevesse...