Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 18:40

Leghaszontalanabb amerikai szlengek és idiómák

“Wallet biopsy” Szó szerint: pénztárca-biopszia 💸, amikor egy orvos vagy egészségügyi szolgáltató előbb ellenőrzi 🔬, mennyi pénzed / biztosításod van, és aztán dönti el, milyen vizsgálatot kapsz...

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

MA 16:02

Az első feltérképezett szupernóva-kitörés sokkolta a tudósokat

💥 Április 10-én egy hatalmas csillag robbanásának első fényét észlelte az ATLAS nevű figyelőrendszer...

MA 15:49

Az óceánok savasodása felgyorsult: nagyobb a baj, mint hittük

A St Andrews-i Egyetem (University of St Andrews) friss kutatása szerint a part menti tengerek savasodása drámaian felgyorsult, különösen azokon a területeken, ahol a mélyből feltörő tengervíz jelenik meg, vagyis a feláramlási zónákban (upwelling-zónákban)...

MA 15:33

Az árvíz letarolta Srí Lanka fővárosát, közel 200 halott

Srí Lanka fővárosának egész negyedeit öntötte el az árvíz a hétvégén, miután egy erős ciklon súlyos esőzéseket és földcsuszamlásokat váltott ki szerte a szigeten...

MA 15:02

A klímavédelem vakfoltja: amit a modellek nem látnak

Az éghajlatváltozás már most is alapjaiban forgatja fel az emberek jóllétét...

MA 14:50

Az örök emlékek titka: miért nem felejt az agy?

Tipikus jelenség, hogy egy gyerekkori nyár forró délutánja örökre bevésődik, miközben a tegnapi bevásárlólista már másnap reggelre elhalványul...

MA 14:33

Az új Galaxy S26: Forradalom helyett megint finomhangolás?

📱 2026 közeledtével egyre több részlet szivárog ki a Samsung Galaxy S26 szériáról, és már most látszik, hogy a gyártó idén sem kockáztat nagyot...

MA 14:02

A kiberbiztonság titka: a nyitott gondolkodás forradalma

🔒 A modern kiberbiztonságban nemcsak új eszközök és technológiák, hanem gondolkodásmódváltás is elengedhetetlen...

MA 13:18

A Kill Bill elveszett fejezete végre elkészült – Tarantinótól, Fortnite-ban

Fontos kérdés, hogyan kerülhetett Quentin Tarantino legendás bosszúeposza, az Öld meg Billt (Kill Bill) egy új fejezete éppen a Fortnite digitális világába...

MA 13:01

A valódi titkok nem a Stranger Things színdarabban bújnak meg

🔑 Az „A furcsa dolgok: Az első árnyék” (Stranger Things: The First Shadow) című színdarab tavaly decemberi londoni premierje óta sok rajongó tartott attól, hogy fontos részletek csak New Yorkban, ezer dollár feletti (kb...

MA 12:34

A hullámzó kínai gyártás: fordulat jön, vagy újabb zuhanás?

📈 A kínai gyáripar némileg javult novemberben, de továbbra is zsugorodik, immár nyolcadik hónapja...

MA 11:49

Az Asahinál példátlan adatlopásra derült fény

🔒 Egy szeptemberi kibertámadás miatt az Asahi Group Holdings, Japán legnagyobb sörgyártója, közel 1,9 millió ember adatait veszítette el...

MA 11:33

A szoftverhiba földre parancsolta az Airbus gépeit

Több mint 6000 Airbus A320-as gép földre kényszerült világszerte, miután a gyártó felismerte, hogy az intenzív naptevékenység miatt szoftverhiba fenyegeti a repülésbiztonságot...

MA 11:18

Az információ fényen utazik: közel a kvantuminternet kora

Jellemző példa erre, hogy a kvantumteleportáció területén sikerült olyan áttörést elérni, amely az információ fény segítségével történő átvitelét teszi lehetővé – ráadásul teljesen különálló kvantumpontok között...

MA 10:53

Az öt legjobb belépő szintű fényképezőgép vadfotózóknak 2025-ben

📷 A természetfotózás varázsa nehezen utolérhető – vadállatot, madarat vagy akár egy villámgyors mozdulatot elkapni mindig különleges élmény...

MA 10:37

Az ősi dinoszaurusz-múmia átírja a tankönyveket: paták és taréj

Megvizsgálandó, hogy milyen új titkokat rejtenek a dinoszaurusz-múmiák, egy amerikai kutatócsoport most minden eddiginél részletesebb, teljes testű rekonstrukciót alkotott az Edmontosaurus annectensről...

MA 10:29

A ChatGPT új kedvenc funkciója nem az, amire számítasz

💡 Hároméves lett a ChatGPT, és ennek örömére az OpenAI végre elárulta, melyek a legnépszerűbb funkciók a világ kedvenc MI-eszközében...

MA 10:22

Az RSV megelőzése átírhatja az asztma jövőjét

Új kutatások szerint ha sikerül megóvni az újszülötteket a légúti syncytialis vírus (RSV)-fertőzéstől, azzal drasztikusan csökkenthető a későbbi asztma kialakulásának kockázata...