Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 18:40

Leghaszontalanabb amerikai szlengek és idiómák

“Wallet biopsy” Szó szerint: pénztárca-biopszia 💸, amikor egy orvos vagy egészségügyi szolgáltató előbb ellenőrzi 🔬, mennyi pénzed / biztosításod van, és aztán dönti el, milyen vizsgálatot kapsz...

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

MA 09:57

A Pikipek-láz visszatér: mindent a Pokémon GO Community Day-ről

🐢 November 30-án, vasárnap 14 és 17 óra között jön a Pikipek Community Day a Pokémon GO-ban, amikor szó szerint ellepnek minket a Pikipekek – és a szerencsésebbek fényes (shiny) változatot is kifoghatnak...

MA 09:21

Az olasz MI-pajzs: láthatatlan kupola óvja a városokat

Az olasz Leonardo védelmi vállalat bemutatta legújabb fejlesztését, egy MI-vezérelt védelmi kupolát, amely a városok és kulcsfontosságú infrastruktúrák védelmét szolgálja...

MA 09:15

A 401(k) nélkül is van élet: így gyűjts okosan nyugdíjra

💰 A nyugdíjcélú megtakarítások elengedhetetlenek, ha gondtalan időskort szeretnél. A legtöbben automatikusan 401(k)-t használnak, ha a munkahelyükön elérhető, hiszen ez bérlevonással gyűlik, így észrevétlenül nő a megtakarítás, ráadásul sok cég extra hozzájárulást is ad...

MA 09:08

A Batman-hatás: ahol megjelenik, megnyílnak a pénztárcák

Olasz kutatók meglepő eredményre jutottak: ha valaki Batman-jelmezben bukkan fel egy milánói metrókocsiban, az utasok kétszer olyan gyakran adják át a helyüket egy várandós nőnek, mint amikor Batman nincs jelen...

MA 09:01

A Playdate-en végre játékos hangüzeneteket küldhetsz

Megjelent egy aranyos hangüzenet-küldő alkalmazás a Playdate kézikonzolra, amely kifejezetten akkor jön jól, ha a baráti vagy a családi körödben többen is rendelkeznek ezzel a kütyüvel...

MA 08:50

Az igazi Linux-forradalom: sokkal többen használják, mint gondolnád

A legújabb statisztikák szerint a Linux csupán a számítógépek 3,49%-án fut, de ha jobban megnézzük, az adatokban az „ismeretlen” kategória további 4,21%-ot tesz ki...

MA 08:43

Az ember és a mesterséges intelligencia: szövetség vagy zűrzavar?

🤖 Az MI forradalma teljesen átírja a munkavégzés szabályait. Az évek során az MI-k megtanultak olvasni, írni, dalokat szerezni, sőt helyettünk vásárolni is...

MA 08:29

Az évszázad szenzációja jöhet: tényleg megvan a sötét anyag?

💫 Vizsgálják, hogy sikerült-e végre kézzelfogható nyomára bukkanni a világegyetem egyik legnagyobb rejtélyének, a sötét anyagnak...

MA 08:23

A bónuszok brutális különbsége mélyíti a nemek közti bérszakadékot

Az ausztrál munkaerőpiacon a férfiak átlagosan évi 3,1 millió forinttal (9 753 AUD, azaz kb...

MA 08:15

Az ökológiai siker titka: együtt vagy sehogy

🤝 Egy friss kutatás szerint a környezeti helyreállítás valódi eredményeket csak akkor lehet elérni, ha az ökológiai tudományt sikerül összekapcsolni azokkal a társadalmi és gazdasági folyamatokkal, amelyek a változást irányítják...

MA 08:09

A tökéletes hely kevés: az élethez lépni kell

🚶 Ebből következően érdemes megérteni, miért nem elég, ha egy bolygó a megfelelő távolságra kering csillagától: önmagában ez nem garantálja az élet kialakulását...

MA 08:01

A titokzatos bérgyilkos visszatér, de a Silksong megjelenése titok

A Team Cherry fejlesztői újabb tartalmakon dolgoznak a türelmetlenül várt Hollow Knight: Silksonghoz, de a rajongók továbbra is csak találgathatják, mikor érkezik a frissítés...

MA 07:43

Az emberi vér rejtett üzeneteit végre megfejtették

Az emberi szervezetben minden másodpercben trilliónyi parányi csomag utazik a véráramban, információt szállítva a sejtek között...

MA 07:36

Az új tőkenyereségadó felborítja az erőviszonyokat a startupperek között

Az utóbbi időben egyre több szó esik a vagyonnövekedés és a meg nem valósult tőkenyereség adóztatásáról, ami alapjaiban rengetheti meg a startupvilágot...

APP
MA 07:12

APPok, Amik Ingyenesek MA, 11/30

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     地下城迷影 (iPhone/iPad)A „Dungeon Mystery” egy igényes pixelgrafikájú, logikai és szerepjáték-elemeket ötvöző párosítós játék, ahol főként tárgyak eltüntetésével, ügyes kombinációkkal győzhetjük le a változatos szörnyeket...

MA 07:08

Az MI átírja a Black Friday játékszabályait

Az idei Black Friday új csúcsot hozott az online vásárlásban: az Egyesült Államokban 4 100 milliárd forintnak megfelelő, 11,8 milliárd dollárt költöttek a vevők a webáruházakban – ez 9,1%-kal több, mint tavaly...

MA 07:02

Az újabb óriási online lenyúlás: 262 millió dollárnak nyoma veszett idén

💸 Az FBI friss jelentése szerint már több mint 262 millió dollárnak, azaz közel 97 milliárd forintnak megfelelő összeget loptak el hackerek 2025-ben az Egyesült Államokban különböző számlafeltöréses csalásokkal...