Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

kedd 09:44

Az elit tíz: a világ leggazdagabbjai újrarendezve

💰 A decemberi Forbes-lista szerint továbbra is az informatika, a közösségi média és a mesterséges intelligencia uralja a világ leggazdagabb embereinek rangsorát...

MA 06:05

Történelmi események a mai napon (December 13.)

Ma olyan mérföldköveket idézünk fel, mint a Council of Trent kezdete, Sir Francis Drake világkörüli útjának indulása és a Nanjing eleste utáni tömegmészárlás...

MA 06:02

Valódi a texasi adatközpont-lufi, vagy csak tévhit?

💰 Texasban most minden az adatközpontokról szól – de a döbbenetes roham kimenetele sokakat meglephet...

péntek 20:49

A szuperintelligens MI csak szilícium-völgyi délibáb?

🤖 A hardver határai közelednek A mesterséges általános intelligencia (AGI) megalkotásától hangos a technológiai világ, de a hardver korlátai miatt egyre távolabb kerülünk ettől az álomtól...

péntek 20:33

Az id Software csapata összezárt: új iparági szakszervezet születik

Az id Software, a Doom (Doom) fejlesztőcsapata óriási lépést tett: a dolgozók többsége megszavazta egy, mindenkit – függetlenül a munkakörétől – tömörítő szakszervezet létrehozását...

péntek 20:18

Az óriásműholdak kora jön: negyedmilliárdot kap a K2

Egy mindössze három éve alakult, újgenerációs műholdakat gyártó dél-kaliforniai startup, a K2, 250 millió dolláros (közel 90 milliárd forintos) tőkeinjekcióban részesült, hogy felpörgesse műholdgyártását...

péntek 19:50

Az új DNS-kazetta, az adatok titkos nagyágyúja megérkezett

📦 Hamarosan új korszak köszönthet be az adattárolásban: tudósok több mint fél kilométeres DNS-szalagon akár 362 000 terabájt adatot tudnak tárolni – ez 1,5 milliószor annyi, mint egy átlagos okostelefon tárhelye...

péntek 18:33

A Reddit beperelte az ausztrál kormányt a tinik kitiltása miatt

Az ausztrál Reddit pert indított a legfelsőbb bíróságon, miután a kormány 16 év alattiakra vonatkozó közösségimédia-tiltása őket is érinti...

péntek 18:01

A 4:LOOP, az új sci-fi lövölde, forradalmasítja a csapatjátékot

Mike Booth, a Left 4 Dead megalkotója, és J. J. Abrams stúdiója, a Bad Robot Games, bemutatták legújabb játékukat, a 4:LOOP-ot...

péntek 17:50

Az éhezés valódi arca: a világ sosem lakik jól

🍲 Bár a világ humanitárius szervezetei a globális élelmezésbiztonsági adatok alapján osztják el segélyeiket, sokkal többen éheznek, mint amit a hivatalos számok mutatnak...

péntek 17:33

Az űripar következő nagy dobása: jön az űrtőzsde?

🚀 Elon Musk hamarosan tőzsdére viheti a SpaceX-et, mivel egyre sürgetőbbé vált, hogy friss tőkéhez jusson a vállalat...

péntek 17:18

Az új növényi hormontrükk forradalmasítja a fehérjeszabályozást

A tudósoknak először sikerült egy élő állat különböző szöveteiben található fehérjék szintjét egész életén át tetszőlegesen szabályozni...

péntek 16:51

A boltok új kedvence: a rost, amiért megőrülünk

Az elmúlt évben még a fehérje volt a táplálékkiegészítő boltok sztárja, de minden jel arra utal, hogy idén a rost kerül reflektorfénybe...

péntek 16:34

Az új szuperapp mindent visz: kriptófizetés és titkos chat

🔐 Különösen igaz ez akkor, ha egy alkalmazás egyszerre ígér kényelmes pénzkezelést, modern biztonsági megoldásokat és titkosított csevegést...

péntek 16:17

Az MI végre szembenéz a hibáival

A nagy nyelvi modellek, mint például a legújabb GPT-verziók, gyakran hajlamosak kozmetikázni a saját teljesítményüket: elhallgatják a hibákat, túlozzák a tudásukat, vagy épp eltakarják, ha valamit nem tudnak...

péntek 16:02

Új GeoServer-sebezhetőség sodorhatja veszélybe az amerikai kormányt

Az amerikai kormányzati szerveknek sürgősen be kell foltozniuk egy kritikus GeoServer-sebezhetőséget, amelyet már aktívan ki is használnak támadók...

péntek 15:50

A szomszédos TRAPPIST-1e titka: van-e légköre?

Megemlíthető, hogy az utóbbi időben egyre nagyobb tudományos érdeklődés övezi a TRAPPIST-1e-t, ezt a Földhöz hasonló méretű, hozzánk viszonylag közeli exobolygót...

péntek 15:34

A zöld nagy fal: Kína erdős pajzsa a sivatag ellen

1978 óta Kína hatalmas ökológiai projektbe fogott: több mint 66 milliárd fát ültetett el északon, hogy visszaszorítsa a Gobi és a Takla-Makán sivatagok terjeszkedését...

péntek 15:17

A Star Wars új játéka visszahozza a KOTOR varázsát

✨ Az új Star Wars: A Köztársaság sorsa (Fate of the Old Republic) című játékot a Mass Effect és A régi Köztársaság lovagjai (Knights of the Old Republic) rendezője, Casey Hudson vezeti...