Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”


Legfrissebb posztok

szombat 09:57

Az orosz télnél is halálosabb betegségek tizedelték meg Napóleon seregét

🔫 1812-ben Napóleon hatalmas sereggel – mintegy 500 000 katonával – rohanta meg Oroszországot...



MA 22:01

Ősi vírusok segíthetnek a baktériumok legyőzésében

💀 Évmilliárdok óta tart a harc a baktériumok és a vírusok között...

MA 21:59

Az illatos gomba miatt új ellenséget kaptak a szúnyogok

🍄 A világ számos pontján évről évre százezrek halnak meg a szúnyogok által terjesztett betegségekben, miközben az ismert irtószerek hatékonysága egyre csökken...



MA 21:30

Az AirTag négyes csomag most meglepően olcsó

Az Apple kütyüi ritkán kerülnek leárazásra, de most kivételes lehetőség kínálkozik, hiszen a népszerű AirTag Bluetooth-nyomkövető négyes csomagja 65 000 forintért szerezhető be, ami jelentős, 34 százalékos árengedményt jelent...



MA 21:00

Az OpenAI-ba öntött milliárdok is eltűnnek a Microsoftnál

💸 A Microsoft óriási összegeket fektetett az OpenAI-ba, mégis szinte semmit sem lehet tudni arról, pontosan hogyan használják fel ezeket a forrásokat, illetve milyen eredmények születnek belőlük...

MA 20:59

Az utolsó esély: a prémium Garmin Enduro 2 most rekordáron

Aki igazán fejlett, strapabíró okosórára vágyik, de nem akar vagyont költeni, annak most itt a nagy lehetőség: a Garmin Enduro 2 soha nem volt ennyire elérhető áron...

MA 20:32

Az utolsó európai vonat, amely átkel a tengeren

🚈 A Milánó és Szicília közötti legendás hálókocsi nemcsak egyedülálló, hanem veszélyben is van: egy gigantikus hídterv fenyegeti a történelmi komp–vonat-átkelést, amely ma már az utolsó ilyen élmény Európában...

MA 19:59

Az MI visszaadja a James Webb távcső élességét

Két sydney-i PhD-hallgató földi munkával oldotta meg a világ legerősebb űrtávcsövének egyik legnagyobb problémáját...



MA 19:00

Kanada lazíthat a kínai elektromos autók behozatalán

🏎 Kína mára letarolta az elektromosautó-gyártás piacát, mégsem lehet gyakran találkozni kínai elektromos autókkal Észak-Amerikában...



MA 18:30

Az ifjú csillagok tombolása feltárja a Nap múltját

💫 A Nap folyamatosan hatalmas plazmatömegeket lök ki az űrbe, ezeket koronakidobódásnak (CME) nevezik...



MA 18:01

Az ENSZ kibertörvénye: több az aggódó, mint az ünneplő

🕵 A világ első, kifejezetten a kibertámadások elleni ENSZ-egyezményét 72 ország írta alá ünnepélyes keretek között, miközben a bírálatok sem maradtak el...

MA 17:58

Az MI-gyárak: új forradalom vagy csak marketinghype?

Az MI-forradalom közepette egymás után jelennek meg az óriási adatközpontok, amelyeket egyre gyakrabban neveznek MI-gyáraknak...

MA 17:02

Botrány a Microsoftnál, átverve érzik magukat a M365-előfizetők

🙁 Az ausztrál Verseny- és Fogyasztóvédelmi Bizottság (ACCC) jogi lépéseket tett a Microsoft ellen azzal a váddal, hogy a vállalat félrevezette a Microsoft 365 felhasználókat a Copilot előfizetési lehetőségeivel kapcsolatban...

MA 16:30

Az újabb Pixel 10-frissítések végre javítják a grafikus hibákat

A Pixel 10 széria grafikus teljesítménye már a megjelenése óta sokakban kérdéseket vetett fel...



MA 16:02

Az új Redmi telefon már külön mélynyomóval érkezik, végre fontos lett a hangminőség

🔊 A Xiaomi almárkája, a Redmi bejelentette a K90 Pro Maxot, egy olyan középkategóriás okostelefont, amely szakít az unalmas szabályokkal: a készülékben dedikált mélynyomó kapott helyet, ráadásul hardver terén is brutális az erő...

MA 15:59

Az Apple Maps már hirdetésekkel bombázza a felhasználókat

💥 Egészen mostanáig az Apple Maps azok egyik utolsó menedékének számított, akik online térképhasználat közben nem akartak reklámokba botlani...



MA 15:29

Az amerikai állam keresztbe tett az önvezető kamionoknak

Az önvezető teherautók fejlődését egy kevéssé ismert szövetségi szabály akadályozza az USA-ban...

MA 15:01

Az új NordVPN szűrővel letilthatod a felnőtt oldalakat mobilon

🔒 A NordVPN új biztonsági eszközzel erősít: már elérhető a felnőtt tartalmak blokkolása Androidon és iOS-en, ingyenesen...



MA 14:59

Óriási fizetésen múlik, marad-e Elon Musk a Teslánál

A Tesla egyre közelebb kerül a sorsdöntő szavazáshoz: eldől, megkapja-e Elon Musk vezérigazgató közel 360 billió forintos (1 billió USD) javadalmazási csomagját...