Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”


Legfrissebb posztok

Az Apple végre megkönnyítette a Spotify elhagyását

csütörtök 23:51

Az Apple végre megkönnyítette a Spotify elhagyását

🚀 Unod már a Spotify-t, de félsz, hogy elveszíted az évek alatt összeállított lejátszási listáidat? Az Apple frissítése pont erre talált most megoldást: végre át lehet vinni a rivális...

Egy frissen született bolygó, ami meglepte a csillagászokat

csütörtök 23:27

Egy frissen született bolygó, ami meglepte a csillagászokat

Nem mindennapi esemény rázta fel a csillagászat világát: egy nemzetközi kutatócsoport – köztük a Galway-i Egyetem munkatársai – váratlanul bukkant rá egy formálódó bolygóra egy fiatal csillag körül....

Biztonságban indítja a Mac-et az Apple Silicon, vagy sem?

csütörtök 23:02

Biztonságban indítja a Mac-et az Apple Silicon, vagy sem?

🔒 Az Apple Silicon-alapú Mac számítógépek rendkívül fejlett biztonsági rendszerrel érkeznek, de néha nehéz átlátni, mennyire van ténylegesen védve a gép, vagy akad-e valami gond a háttérben. Az alapvető...

Kezdőként mindenki hibázik a vadfotózásban, de lehet tanulni belőlük

csütörtök 22:27

Kezdőként mindenki hibázik a vadfotózásban, de lehet tanulni belőlük

🖩 A vadfotózás világa türelmet, gyors reagálást és nagyfokú tudatosságot igényel. Sokan azt gondolják, hogy csak a legújabb, méregdrága felszereléssel lehet igazán látványos képeket készíteni, pedig a jó eredményhez...

Az MI-cégek óriási bajban: elbuktak a gyerekbiztonságon

csütörtök 22:01

Az MI-cégek óriási bajban: elbuktak a gyerekbiztonságon

44 amerikai állam főügyésze közösen figyelmeztette a legnagyobb MI-cégeket: felelősségre vonhatják őket, ha a gyerekek védelme nem kerül előtérbe az általuk fejlesztett MI-alapú termékeknél. Levelükben külön kiemelték a...

Az afrikai sertéspestis elleni oltóanyag: ígéretes, de nem csodaszer

csütörtök 21:51

Az afrikai sertéspestis elleni oltóanyag: ígéretes, de nem csodaszer

Az afrikai sertéspestis (ASF) továbbra is súlyos fenyegetést jelent a világ sertésállományaira és a gazdák megélhetésére. Bár egy új, kísérleti oltóanyag ígéretes eredménnyel védett meg néhány vírustörzs ellen,...


csütörtök 21:25

Az 50 milliárd dolláros repülőgépüzlet, amitől leesik az állad

Dél-Korea legnagyobb légitársasága, a Korean Air minden eddiginél nagyobb összegért, 18 000 milliárd forintért (kb. 50 milliárd dollárért) vásárol új repülőgépeket és pótalkatrészeket amerikai gyártóktól. Új gépek özöne...

Az éjszaka, amikor a fekete hold elrejti a világot

csütörtök 21:01

Az éjszaka, amikor a fekete hold elrejti a világot

🌙 Augusztus 23-án hajnalban, egészen pontosan 2:06-kor egy ritka égi jelenség, a fekete hold tűnik fel – pontosabban inkább láthatatlan marad. Bár a neve baljósnak hangzik, nem kell világvégétől...


csütörtök 20:50

Az Apple Watch nem is olyan zöld?

Az Apple Németországban már nem hirdetheti okosóráit karbonsemleges termékként, miután egy bíróság félrevezetőnek ítélte ezt az állítást. Az amerikai cég eddig azzal érvelt, hogy a gyártáshoz tiszta energiát...