Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

péntek 16:34

Az MI-kütyük pocsékul fogynak – ezt már a Logitech is mondja

Az utóbbi időben minden startup arról álmodik, hogy az MI-t saját hardverrel forradalmasítsa, ám egyelőre sorra buknak el a próbálkozások...

péntek 16:20

A mesterséges intelligencia sötét oldala: botrányok, veszélyek, diszkrimináció

Megemlíthető, hogy a mesterséges intelligencia mindennapjaink egyre több területén jelenik meg...

péntek 16:02

A kozmikus káosz ura: mit rejt a TXS 0518+211 blazár?

A TXS 0518+211 nevű közeli blazárt indiai csillagászok vizsgálták tizenhat éven keresztül a Swift és a Fermi űrteleszkópokkal, minden hullámhosszon...

péntek 15:49

Az Apple-vezetők sorra lépnek le, Siri már a Google-re vár

🚨 Az Apple háza táján tovább gyűrűzik a vezetői átrendeződés: újabb két kulcsember jelentette be távozását...

péntek 15:34

Az Ofcom 2026-tól drasztikusan szigorítaná a fájlok ellenőrzését

🔏 Az Egyesült Királyság új csúcsra járatja az internetes fájlmegosztás ellenőrzését: az Ofcom 2026-ban kiterjesztené a gyermekek online biztonságáról szóló törvény miatt bevezetett felügyeletet a felhőalapú tárolókra, fájlmegosztókra és más hasonló szolgáltatásokra...

péntek 15:17

Végre gyerekjáték visszaszerezni az ellopott Facebook- és Instagram-fiókokat?

🔑 A Meta bejelentette, hogy új, központosított támogatási központot indít Facebook- és Instagram-felhasználóknak, hogy egyszerűbbé és gyorsabbá tegye az ellopott vagy feltört fiókok visszaszerzését...

péntek 15:02

A fizika új húzása: kvantumfeladatok laptopon, nem szuperszámítógépen

Kvantumproblémákat már nemcsak szuperszámítógépek és MI segítségével lehet megoldani: új módszernek köszönhetően hétköznapi laptopok is képesek komplex szimulációkat futtatni, akár pár óra alatt...

péntek 14:49

A műholdak gigacunamit jeleznek – újraírják az előrejelzéseket

2025 júliusában a Kuril–Kamcsatka földrengés után a NASA és a CNES SWOT műholdja először részletesen rögzítette egy óriási szökőár középóceáni szerkezetét...

péntek 14:18

Az eltűnés küszöbén az ausztrál sivatagi víznyelők rejtett élővilága

Érdekes felvetés, hogy Ausztrália középső, kietlen sivatagjában nem is gondolnánk, milyen gazdag és különleges élet rejtőzik a kőbe vájt víznyelőkben...

péntek 14:02

Az MI-őrület az egekbe lövi a Foxconn bevételeit

A Foxconn, amely Hon Hai néven is ismert, látványos, 26%-os éves árbevétel-növekedést jelentett be novemberre, miután soha nem látott kereslet alakult ki az MI-alapú szerverek iránt...

péntek 13:50

A tajvani hatóságok lecsaptak a RedNote-ra – újabb kínai app-tilalom

🛡 Tajvan egy évre szóló országos tiltást rendelt el a kínai Xiaohongshu (RedNote) közösségi alkalmazással szemben, miután a hatóságok szerint több ezer csalási ügy kapcsolódik hozzá...

péntek 13:33

A Cloudflare újraélesztette az internetet a globális leállás után

Világszerte ismét elérhetővé váltak a népszerű weboldalak, miután a Cloudflare gyors javítást adott ki egy, az irányítópultját és kapcsolódó alkalmazásait érintő hibára...

péntek 13:17

A Futtatás ablak végre normális dizájnt kapott Windows 11-en

🚀 Több mint harminc év után a Microsoft végre megújítja a Windows egyik legrégebbi eszközét: a Futtatás (Run) ablakot...

péntek 13:04

Az ész ára: miért lettünk tudatosak?

🧠 Az emberi tudat kialakulásának okait vizsgálva hamar szembetűnnek a hiányzó mozaikdarabok...

péntek 12:50

A Binance új titánja: Yi He, a háttérből irányító társigazgató

🛡 A Binance, a világ legnagyobb kriptovaluta-tőzsdéje jelentős átalakuláson megy keresztül: Yi He, a társalapító mostantól társigazgatóként áll a cég élén Richard Teng mellett...

péntek 12:35

A legújabb Öt éjszaka Freddyéknél-film belegabalyodik a saját rémtörténetébe

A játékadaptációk aranykorát éljük, ahol olyan sorozatok, mint az Az utolsók közülünk (The Last of Us), vagy akciódús filmek, például a Sonic, a sündisznó (Sonic the Hedgehog) nemcsak tiszteletben tartják az eredeti anyagot, hanem új rajongókat is vonzanak...

péntek 12:17

Az óceánok kiürülnek: csúfosan elbukott a halászati szabályozás

🐟 Fontos kérdés, miként lehetne megvédeni a világ óceánjainak élővilágát, amikor az ipari halászat továbbra is túlhasználja ezeket a vizeket...

péntek 11:49

A rejtélyes vulkán, amely kirobbantotta a Fekete Halált?

A 14. század közepén történt titokzatos vulkánkitörés alaposan felforgatta Európa középkori történelmét...

péntek 11:34

A Netflix bekebelezi az HBO-t és a Warner Bróst? Jöhet a gigadeal

💸 A Netflix jelenleg kizárólagos tárgyalásokat folytat a Warner Bros. Discovery filmes és tévés stúdióinak, valamint az HBO Max streamingszolgáltatásának megvásárlásáról...