Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 18:40

Leghaszontalanabb amerikai szlengek és idiómák

“Wallet biopsy” Szó szerint: pénztárca-biopszia 💸, amikor egy orvos vagy egészségügyi szolgáltató előbb ellenőrzi 🔬, mennyi pénzed / biztosításod van, és aztán dönti el, milyen vizsgálatot kapsz...

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

MA 20:50

Az igazi vámpírjáték: a Cabernet felfalja a felső tízezret

🍷 A vámpírok sosem voltak átlagos szörnyek. Nem agyatlan lények, akik cél nélkül sodródnak a következő zsákmány felé, és nem ösztönlények, akik pusztán vadászatra termettek...

MA 20:33

Az új szörnyetegek: 128 és 256 GB RAM-os laptopok

Egy átlagos laptopban 16 GB RAM van – na most ezt szorozd meg nyolccal vagy tizenhatossal!..

MA 20:19

A MI rejtett szuperereje: a szimbolikus gondolkodás

Egy lényeges szempont, hogy az emberi szintű vagy annál is fejlettebb mesterséges intelligencia létrehozásának útja szinte biztosan nemcsak a legmodernebb neurális hálózatokon át vezet...

MA 19:49

Az OpenAI álmait mások fizetik: 36 ezermilliárd forintos adósság

Az OpenAI partnerei hatalmas, közel 100 milliárd dolláros (36 ezermilliárd forintos) adósságot halmoztak fel, hogy finanszírozzák a mesterségesintelligencia-fejlesztésekhez szükséges infrastruktúrát – miközben maga az OpenAI nem vállal pénzügyi kockázatot...

MA 19:19

A Medicare-csapda: egyetlen rossz döntés súlyos árat követel

November végéig 68 millió amerikai dönt éppen most arról, milyen egészségbiztosítási csomaggal vágjon neki a 2026-os évnek...

MA 19:01

Az MI hamis szakmai bírálatokkal árasztotta el a tudományos konferenciát

🤔 Ilyen eset például, amikor a kutatók azzal szembesülnek, hogy kézirataikat már nem emberek értékelik, hanem MI által generált bírálatok alapján döntenek egy vezető tudományos eseményen...

MA 18:50

Az EOS R6 Mark II a természetfotózás belépőjegye

📷 A Canon EOS R6 Mark II és az EOS R8 első ránézésre nagyon hasonlítanak egymásra: mindkettő 24 megapixeles felbontással és Digic X processzorral dolgozik, a teljesen kihajtható érintőkijelzőjük azonos átlójú és felbontású, és a sorozatfelvétel sebessége is mindkét modellnél 40 kép/másodperc...

MA 18:34

Az élelmiszerpazarlás vége a konyhában: hat bevált lépés

Az élelmiszerpazarlás világszinten óriási problémának számít: évente több mint 1 milliárd tonna étel végzi hulladékként, ennek mintegy 60 százaléka a háztartásokból származik...

MA 18:17

Új klímaveszély Izlandon: nő a pánik

Izland most először nemzetbiztonsági kockázatnak minősítette az atlanti-óceáni áramlatok lehetséges összeomlását...

MA 17:33

Az Air India-katasztrófa nyomozása óriási botrányba torkollott

Az Air India tragikus, 260 életet követelő balesetének vizsgálata során összeütközés alakult ki az amerikai és indiai hivatalos szervek között...

MA 17:19

A végső asztroturista-kisokos: sarki fény és csillagvadászat

A világ legtisztább, legsötétebb égboltjai és a sarki fény megpillantása igazi bakancslistás kaland...

MA 17:01

Jönnek a reklámok a ChatGPT-be az OpenAI-tól

Az OpenAI belső tesztelés alatt állnak a ChatGPT hirdetései, amelyek teljesen átalakíthatják a webes gazdaságot...

MA 16:50

Mi köti össze múltunkat, a sötét anyagot és az égi fényeket?

Jól szemlélteti ezt, hogy a tudósok egy 3,4 millió éves, úgynevezett „Burtele-láb” maradványai alapján új fejezetet nyitottak az emberi evolúció történetében Etiópiában...

MA 16:35

Az afrikai e-learning forradalma: ugródeszka vagy zsákutca?

🎓 Érdekes felvetés, hogy Afrikában a távoktatás lett az egyik legerősebb eszköz a felsőoktatáshoz való hozzáférés bővítésében...

MA 16:18

Az ember és az MI hasonlóan tanul: áldás-e a régi tudás?

💭 A tanulás során mind az ember, mind a mesterséges neurális hálózatok (MI-rendszerek) meglepően hasonló folyamatokon mennek keresztül...

MA 15:51

Az áttörés kapujában: valóra válhat a tartós HIV-remisszió?

💡 Világszerte mintegy 40 millió ember él HIV-fertőzéssel. Bár az orvostudomány fejlődése révén a betegség ma már nem jelent automatikus halálos ítéletet, a teljes gyógyulás eddig elérhetetlen maradt...

MA 15:19

A kihunyt fények nyomában: UFO-k vagy titkos atomkísérletek?

🛰 Fontos kérdés, hogy több mint hetven évvel ezelőtt Kaliforniában, a Palomar Obszervatórium csillagászai különös, csillagszerű fényvillanásokat fotóztak az égbolton: ezek a pontok egy órán belül megjelentek, majd eltűntek — mindez jóval az első műhold, a Szputnyik–1 (Sputnik 1) fellövése előtt...