Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 20:49

A kígyók hőlátása költözik az okostelefonokba

Kínai kutatók olyan mesterséges képrögzítő rendszert fejlesztettek, amelyet a kígyók elképesztő hőlátása inspirált...

MA 20:34

Az iMac Pro visszatér: most jön az igazi áttörés?

💻 Egy lényeges szempont, hogy újabb kiszivárgott információk szerint az Apple már dolgozik egy új iMac Pro modellen, amelybe valószínűleg az M5 Max lapka kerül...

MA 20:18

Az ősi méhek döbbenetes titka: fészkek a rágcsálók fogaiban

Különleges felfedezésre bukkantak a tudósok Hispaniola szigetén, ahol egy barlangban több tucatnyi megkövesedett méhfészket találtak rágcsálócsontokban – ezeket egykoron baglyok halmozták fel, miután elfogyasztották zsákmányukat, több mint ötezer évvel ezelőtt...

MA 20:01

Az ember, aki rendet tesz az MI-képkáoszban

📝 Az MI által generált képek elárasztják az internetet, és az emberek egyre kevésbé tudják eldönteni, mi valódi és mi nem...

MA 19:51

A OnePlus 15R: óriási kijelző, bivaly akksi, csalódás a kamera

📷 Nehéz elhinni, de kevesebb mint hat héttel az előző OnePlus mobil bemutatója után máris itt az újabb készülék: a OnePlus 15R...

MA 19:33

A mesterséges intelligencia felzabálja a Föld vizét és áramát 2025-ben

Évről évre nő az MI környezeti terhelése: 2025-re az új kutatások szerint az MI-rendszerek annyi szén-dioxidot bocsátanak ki, mint egész New York városa, és annyi vizet használnak el, mint amennyit az emberek palackozott vízből világszerte elfogyasztanak...

MA 19:17

Az újabb Firefox-botrány: veszélyes bővítmények vadásznak az adatokra

Több mint egy tucat olyan Firefox-böngészőbővítményt találtak, amelyek titokban hátsó kapukat nyitnak, és figyelik a felhasználók böngészési szokásait...

MA 19:01

A Coursera bekebelezi az Udemy-t: egyesülnek az e‑learning óriásai

A Coursera bejelentette, hogy részvénycserés ügylet keretében felvásárolja az Udemy-t, így a 900 millió dolláros (kb...

MA 18:49

Az újabb IIS-baki káoszt hozott a Windows gépeken

⚠ A Microsoft ismét figyelmeztetést adott ki: a vállalati ügyfelek egy része komoly problémákkal szembesülhet a frissített Windows rendszereken, mivel az Internet Information Services (IIS) és a Message Queuing (MSMQ) összeomolhatnak...

MA 18:34

A Google villámgyors MI-je: itt a Gemini 3 Flash

A Google globálisan elérhetővé tette a Gemini 3 Flash nevű MI-modellt, amely ígéretük szerint legalább olyan gyorsan használható, mint a hagyományos kereső...

MA 18:17

A Gemini 3 Flash végre turbóra kapcsolja a mesterséges intelligenciát

⚡ Megérkezett a Gemini 3 Flash, a Google új, villámgyors MI-modellje, amely minden eddiginél gyorsabban válaszol, miközben megőrzi csúcskategóriás logikai képességeit...

MA 18:02

A tőzsdecápák Solanára váltanak: ezért hasít a STKE

📈 A Solana (SOL) elképesztő növekedése mellé egyre többen sorakoznak fel, akik könnyedén, tőzsdén keresztül is részesedni szeretnének a sikerből...

MA 17:50

Az év nagy dobása a Samsungtól: érdemes hajtogathatóra váltani?

📱 Felmerül a kérdés, hogy miért fordítja a Samsung egyre nagyobb figyelmét az összehajtható telefonokra, miközben a hagyományos készülékek terén eddig is piacvezető volt...

MA 17:33

Az infláció bezuhant – jöhet a karácsonyi kamatvágás?

🎁 Az Egyesült Királyságban novemberre 3,2%-ra esett vissza az infláció, amely lényegesen alacsonyabb, mint az elemzők által várt 3,5%...

MA 17:18

A pompeii áldozatok gyapjúköpenyeinek rejtélye: miért haltak így meg?

Új kutatások szerint Pompeii áldozatainak egy része vastag gyapjúköpenyt viselt, amikor a Vezúv kitört, annak ellenére, hogy az esemény augusztus végén, általában forró időben zajlott...

MA 17:02

Az adatközpontok valódi ára: ki fizeti az áramot?

Érdemes megérteni, hogy az amerikai szenátorok egyre határozottabban követelik a techcégektől: tegyék világossá, hogyan akarják megakadályozni, hogy adatközpont-projektjeik miatt tovább emelkedjenek az áramárak, különösen ott, ahol a lakosság már most is drágán fizet az energiáért...

MA 16:50

Az agyfejlődés titka: egyetlen génhiba mindent felborít

Régóta foglalkoztatja a kutatókat, miért alakul ki egyes gyerekeknél szokatlanul kicsi agy (mikrokefália)...

MA 16:34

Közeleg az első Apple Silicon-alapú iMac Pro

💻 Hihetetlen, de mégis igaz: az Apple házon belüli szoftverfrissítései ismét felfedték, min dolgoznak éppen Cupertinóban...

MA 16:17

A Tesla bajban: Kalifornia megbüntetné az Autopilot miatt

A kaliforniai Közlekedési Hatóság (DMV) komoly lépésre szánta el magát a Tesla ellen: ha a cég nem hagy fel a félrevezető marketinggel, amely túlhangsúlyozza autói önvezető képességeit, akár egy hónapra is felfüggeszthetik a járművek értékesítését az államban...