Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 09:44

Az elit tíz: a világ leggazdagabbjai újrarendezve

💰 A decemberi Forbes-lista szerint továbbra is az informatika, a közösségi média és a mesterséges intelligencia uralja a világ leggazdagabb embereinek rangsorát...

MA 15:17

A Google új MI-alkalmazása már vásárlásra is csábít

🛒 A Google MI-alapú próbafülke-alkalmazása, a Doppl új felfedező hírfolyammal bővült, ahol bárki azonnal be is szerezheti a kiválasztott ruhákat...

MA 15:02

A mesterséges intelligencia már átírja a nyelvünket?

Egyre több moderátor és kutató aggódik amiatt, hogy az emberek beszéde feltűnően hasonlít az MI által generált nyelvezethez...

MA 14:50

Az ausztrál lucernát tizedelő levéltetvek rejtett genetikai titkai

🐛 A levéltetvek régóta keserítik meg a kiskerttulajdonosok és a gazdálkodók életét...

MA 14:35

Az MI miatt elszáll a RAM ára – te is megérzed

💸 Első pillantásra úgy tűnt, hogy a memóriapiac áremelkedése csupán a PC-játékosokat érinti, ám ez a hullám hamarosan végigsöpör a teljes technológiai iparon...

MA 14:18

A legújabb bútorok tényleg tisztábbak: fele annyi mérgező vegyszer

🛌 Ha a kanapéd vagy a foteled 1970 és 2014 között készült, jó eséllyel tele van olyan lánggátló vegyszerekkel, amelyek egyszerűen kiszabadulnak a porba, majd a belélegzett levegővel a szervezetbe jutnak...

MA 14:01

Az ukrán hekkerekre vadászik a lengyel rendőrség

A lengyel rendőrség három ukrán férfit tartóztatott le, akik fejlett hekkelési eszközökkel próbálhattak beavatkozni a helyi informatikai rendszerekbe...

MA 13:49

A döbbenetes ok, miért alig élnek óriásállatok a Földön

🤔 Bár az ember számára a só mindennapi fűszer, a vadon élő növényevők számára valódi luxuscikk...

MA 13:33

Az Ancestry lakatot tesz DNS-adatbázisára a nyomozók előtt

Több millió ember küldte már el a nyálmintáját online családfakutató oldalakra, hogy többet tudjon meg felmenőiről vagy hogy elveszett rokonokat találjon...

MA 13:17

Az új Letterboxd Videotéka megnyílt: itt az első kínálat

Hamarosan elindul a Letterboxd saját digitális videotékája, amelyben négy különleges film nyitja a digitális kölcsönzést...

MA 13:02

Az új MI a Chrome-ban: veszélyes játék, csak MI óvhat meg

Hihetetlen, de mégis igaz, hogy a Google szerint csak az MI képes kezelni a Chrome böngészőbe épített új MI-funkciók okozta biztonsági kockázatokat...

MA 12:51

A szilárd és a folyadék rejtett határát leplezték le az olvadékfémek

⚡ Apró fémcseppek viselkedése alaposan felkavarta a tudósok elképzeléseit az anyagok halmazállapotáról: bizonyossá vált, hogy a folyadékban sem minden atom van mozgásban, néhány meglepő módon fix helyen marad, függetlenül a hőmérséklettől...

MA 12:35

A Pokémon GO-ba végre jön a távoli csere

Hosszú évek várakozása után végre lehetővé válik a távoli csere a Pokémon GO-ban...

MA 12:17

A betlehemi csillag valójában egy bolygó volt?

⭐ A háromkirályok története mindig is misztikummal övezte a karácsonyt: vajon a Betlehemi csillag tényleg létezett az égen, vagy csupán bibliai szimbólum volt?..

MA 12:01

Jön az újabb hőrekord: 2025 a második legforróbb év?

2025 várhatóan minden idők második vagy harmadik legmelegebb éve lesz, közvetlenül 2023 mögött...

MA 11:50

Az otthoni miniszuperszámítógép: lesz a régi laptopból erőmű?

💻 Régi Framework alaplapokból is lehet újat alkotni: a FrameCluster egy Kickstarter-projekt, amelynek célja, hogy a használaton kívüli laptopalaplapokat átlátható, moduláris rack rendszerbe rendezze...

MA 11:33

Az online tartalomkészítők háborút hirdetnek az MI-botok ellen

Az online kiadók egymás után hirdetnek hadat a MI-alapú adatgyűjtő botok ellen, hogy megvédjék tartalmaikat az engedély nélküli felhasználástól – miközben a szervereiket is tehermentesítsék a nem emberi forgalomtól...

MA 11:19

A Fairphone új fejhallgatója zöld, menő és drága – imádnivaló joystickkal

Érdemes megvizsgálni, hogy mennyire sikerült a Fairphone-nak új szintre emelnie ökofejlesztéseit a Fairbuds XL (2025) fejhallgatóval, amely nemcsak környezettudatos anyaghasználatával tűnik ki, hanem egy olyan funkcióval is, amelyet a nagy nevek – mint a Sony vagy a Bose – is átvehetnének...

MA 11:02

A 50 milliós Pokémon-kártya, amiben senki sem hitt

Egy szinte értéktelennek tartott Pokémon-kártya, egy első kiadású Kabuto-kártya most több mint 18 millió forintért (51 100 USD, kb...