Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”


Legfrissebb posztok


MA 20:50

Az Apple Watch nem is olyan zöld?

Az Apple Németországban már nem hirdetheti okosóráit karbonsemleges termékként, miután egy bíróság félrevezetőnek ítélte ezt az állítást. Az amerikai cég eddig azzal érvelt, hogy a gyártáshoz tiszta energiát...

Az egér idegrendszerét ilyen részletesen még sosem láttad

MA 20:26

Az egér idegrendszerét ilyen részletesen még sosem láttad

Az egér teljes perifériás idegrendszerének (PNS) háromdimenziós, minden egyes idegrostját feltérképező képei most lenyűgözik a kutatókat, és új távlatokat nyitnak az idegek és a szervek közötti kapcsolatok megértésében....

Egy eltűnt világ nyomában, létezik-e Pandora az Alfa Centaurinál

MA 20:02

Egy eltűnt világ nyomában, létezik-e Pandora az Alfa Centaurinál

🌎 Mesterséges intelligenciák, űrhajók és lakható holdak – a sci-fi világa most szinte a szomszédba költözhet, ha igaznak bizonyulnak a legújabb űrtávcsöves megfigyelések. Egy lehetséges gázóriás bolygót, az S1-et...


MA 19:51

Az amerikai állam beperelte a Robloxot: gyerekek veszélyben

A Roblox, a világ egyik legnépszerűbb online játékplatformja ellen Louisiana állam főügyésze indított pert, mert szerintük a cég nem védi eléggé a gyerekeket az online ragadozóktól. A felhasználók...


MA 19:26

Az amerikai napenergia sosem látott rekordokat dönt

Az Egyesült Államokban 2024 első öt hónapjában az új áramtermelési kapacitás 91%-át a nap- és szélenergia adta. A napenergia 2023 szeptembere óta minden egyes hónapban vezeti az új...

Alumínium az oltásokban, tényleg van okunk aggódni az autizmus miatt?

MA 19:02

Alumínium az oltásokban, tényleg van okunk aggódni az autizmus miatt?

💡 Az Egyesült Államok egészségügyi minisztere, Robert F. Kennedy Jr., aki közismerten szkeptikus a vakcinákkal szemben, most egy dán kutatás visszavonását követeli – ami elég szokatlan lépés egy ilyen...

Az Epstein-akták sokkolóan kevés újdonságot hoztak

MA 18:51

Az Epstein-akták sokkolóan kevés újdonságot hoztak

😕 Több mint 33 000 oldalnyi, Jeffrey Epsteinhez kapcsolódó dokumentumot adott át a Kongresszusnak az Igazságügyi Minisztérium, ám ezeknek mindössze három százaléka tartalmaz új információkat. Az anyag 97 százaléka már...

Óriások harca, most kiderül, melyik mesterséges intelligencia fenyeget jobban

MA 18:26

Óriások harca, most kiderül, melyik mesterséges intelligencia fenyeget jobban

A mesterséges intelligencia fejlesztésében vezető szerepet betöltő OpenAI és Anthropic ritka lépésre szánta el magát: kölcsönösen engedélyezték egymásnak, hogy betekintsenek rivális modelljeik működésébe, sőt, közös biztonsági teszteléseket is...

Kínai kutatók a tenger mélyén fejlesztik a mesterséges intelligenciát

MA 17:52

Kínai kutatók a tenger mélyén fejlesztik a mesterséges intelligenciát

Külön figyelmet érdemel, hogy Kína új utat nyit az adatközpontok hűtésében: egyre több adatközpontot süllyeszt az óceánba, hogy így oldja meg a szerverek által generált hő elvezetését. Miközben...