Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 18:40

Leghaszontalanabb amerikai szlengek és idiómák

“Wallet biopsy” Szó szerint: pénztárca-biopszia 💸, amikor egy orvos vagy egészségügyi szolgáltató előbb ellenőrzi 🔬, mennyi pénzed / biztosításod van, és aztán dönti el, milyen vizsgálatot kapsz...

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

vasárnap 20:50

Az XRP új korszaka: a Grayscale ETF berobban a Wall Streetre

🔥 Különösen igaz ez akkor, ha valami, ami eddig csak a digitális valutapiacon volt ismert, lassan a hagyományos pénzügyekben is egyre nagyobb teret kap...

vasárnap 20:34

A garázsból a luxusbérlés csúcsára: álompartikból dollármilliók

Amikor 2022 áprilisában Tayo Lanlehin megszervezte kisfia első születésnapját, minden apró részletet úgy választott ki, hogy tökéletesen illeszkedjen az Első utazás a Nap körül (First Trip Around the Sun) tematikához...

vasárnap 20:19

Az év játéka: ahol a jóslatok milliókat érnek

Hatalmas összegek cserélnek gazdát azok között, akik megpróbálják megtippelni, melyik játék lesz Az év játéka díj nyertese...

vasárnap 20:01

Az ősi szobrászok rejtett hálózata: sorsfordító lelet a Húsvét-szigeten

🧙 Egy új, részletes 3D-s modell felfedte, hogy a híres Húsvét-szigeti kőszobrok (moai) sok különböző szobrászcsoport munkájának eredményei, amelyek egymástól függetlenül dolgoztak a Rano Raraku kőbányában...

vasárnap 19:50

A téves bibliatérkép, amely felforgatta a világot

Ez a jelenség jól illusztrálható azzal, hogy ötszáz éve egy szerencsétlen hiba folytán fordítva nyomtatták ki a Szentföld első bibliatérképét, ami váratlan térképészeti forradalomhoz vezetett...

vasárnap 19:17

Az új OnePlus minden eddiginél nagyobb akkumulátorral érkezik

🔋 A OnePlus hamarosan bemutatja a OnePlus 15R-t, amelyben minden eddiginél nagyobb, 8 300 mAh-s akkumulátor lesz...

vasárnap 19:02

Az Antarktisz vizeit százéves hőhullám fenyegeti?

Az Antarktiszt övező Déli-óceán hatalmas hőtartalékot halmozott fel az elmúlt évszázadok alatt...

vasárnap 18:50

A vezetékes telefon visszatért: 3 nap alatt 120 ezer dollár

Cat Goetze futurisztikus techvezető, mégis évek óta küzd, hogy csökkentse a saját képernyőidejét...

vasárnap 18:33

Az EA leszámolt a csalókkal a Battlefield 6-ban

Az EA szerint a Csatatér 6 új csalás elleni rendszere látványos sikert hozott, még akkor is, ha sok játékos tart a mélyebb szintű védelmi megoldásoktól...

vasárnap 18:17

Az OpenAI tényleg reklámokkal pakolná tele a ChatGPT-t?

A ChatGPT eddig reklámmentes és ingyenes volt, prémium előfizetés csak a plusz funkciókhoz kellett...

vasárnap 18:01

A net régi varázsa: a Slop Evader kiszűri az MI-szemetet

Az internetet egyre jobban elárasztják a generatív MI által gyártott szövegek, képek és videók...

vasárnap 17:34

Az apró ősállat, amely felforgatja a gyíkok történetét

🐍 Érdemes megvizsgálni, hogy egy 242 millió éves, mindössze tenyérnyi méretű fosszília Devon partjairól hogyan változtatja meg a gyíkok és kígyók fejlődéséről alkotott elképzeléseket...

vasárnap 17:18

Az okos techbefektetés, amit már 36 ezer forintért elkezdhetsz

Hihetetlen, de mégis igaz, hogy 36 ezer forintból (100 USD) már komoly, hosszú távú technológiai befektetést indíthatsz, ha a megfelelő alapot választod...

vasárnap 16:33

Az ünnepi rali jön, vagy újabb pofon vár a tőzsdén?

🎉 November mozgalmas és hektikus hónapja után a befektetők továbbra is bizonytalanul tekintenek december elé...

vasárnap 16:02

Az első feltérképezett szupernóva-kitörés sokkolta a tudósokat

💥 Április 10-én egy hatalmas csillag robbanásának első fényét észlelte az ATLAS nevű figyelőrendszer...

vasárnap 15:49

Az óceánok savasodása felgyorsult: nagyobb a baj, mint hittük

A St Andrews-i Egyetem (University of St Andrews) friss kutatása szerint a part menti tengerek savasodása drámaian felgyorsult, különösen azokon a területeken, ahol a mélyből feltörő tengervíz jelenik meg, vagyis a feláramlási zónákban (upwelling-zónákban)...

vasárnap 15:33

Az árvíz letarolta Srí Lanka fővárosát, közel 200 halott

Srí Lanka fővárosának egész negyedeit öntötte el az árvíz a hétvégén, miután egy erős ciklon súlyos esőzéseket és földcsuszamlásokat váltott ki szerte a szigeten...