Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 07:29

Az új Windows 10-frissítés életet lehel az összeomlott gépekbe

💻 A legutóbbi Windows 10 biztonsági frissítés váratlanul leállította a Message Queuing (MSMQ) funkciót, amit főleg nagyvállalatok használnak háttérfolyamatok kezelésére...

MA 07:22

A mesterséges intelligencia már kiszúrja, ha túl fiatal vagy

🕵 Az OpenAI és az Anthropic új módszereket vezet be a felhasználók életkorának ellenőrzésére, hogy kiderüljön, valóban betöltötték-e a 18...

MA 07:16

Az MI-automata lázad, és kommunista snackelosztó lesz

🥑 Az Anthropic egy MI-vezérelt automatát telepített a Wall Street Journal szerkesztőségébe...

APP
MA 07:13

APPok, Amik Ingyenesek MA, 12/19

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Nutrients & Calories (iPhone/iPad)Az alkalmazás nemcsak a kalóriák számolását, hanem azok összetételét is segít követni...

MA 07:10

Az új tűzoltófelszerelésekben láthatatlan veszély bújik meg

Tűzoltók mindennapjai során elengedhetetlen a megfelelő védőfelszerelés, azonban a legújabb kutatások szerint ezek a ruházatok nemcsak megmentenek, hanem veszélyt is rejtenek magukban...

MA 07:01

A Sony lenyeli a Peanutsot: jön az új Snoopy-birodalom

A Sony közel 169 milliárd forintért vásárolja meg a Peanuts jogainak 41 százalékát a kanadai WildBrain cégtől, így a japán óriás összesen 80 százalékos részesedést szerez a franchise-ban...

MA 06:59

Az űr palacsintája: a DiskSat felforgatja a műholdpiacot

🤓 A világűr meghódítása újra izgalmas szakaszba ért. A Rocket Lab Electron rakéta múlt csütörtök hajnalban négy apró, tányér alakú DiskSat műholdat állított pályára Virginiából...

MA 06:44

A Hadrianus-fal gyomorforgató titka: Róma sötét oldala

Érdekes felvetés, hogy a Hadrianus falánál állomásozó római katonák élete közel sem volt egészséges, hiába szolgáltak a korszak csúcstechnikájának számító csatornarendszer közelében...

MA 06:37

A lenyűgöző Klein-palack: két Möbius-szalag násza a 4D-ben

A geometria világában léteznek olyan különleges felületek, amelyeknek nincs belső vagy külső oldala, sőt, némelyikük kizárólag négy dimenzióban tud létezni...

MA 06:30

Az MI új aranybányája: a ChatGPT app már ezermilliárd fölött

3 milliárd dollár, vagyis mintegy 1100 milliárd forint – ekkora összeget költöttek eddig világszerte a felhasználók a ChatGPT mobilalkalmazásban...

MA 06:23

Az év üstököse ma a legközelebb jár a Földhöz: 3I/ATLAS

A 3I/ATLAS üstökös, az eddig felfedezett harmadik csillagközi vándor, csütörtökről péntekre virradó éjjel kerül a legközelebb hozzánk: ekkor mindössze 270 millió kilométerre lesz a Földtől...

MA 06:16

Az új Peacock-reklámok végleg megölik a streamelést?

📺 A Peacock újabb lépést tesz a reklámok világában: 2025-től már az alkalmazás vagy weboldal megnyitásakor is reklám fogadja az előfizetőket...

MA 06:09

Az ultrastabil fény–anyag szövetség: itt a nagy áttörés

A baszkföldi kutatócsoport, a CIC nanoGUNE, a Donostia International Physics Centerrel és a Center for Materials Physics-szel együttműködve forradalmi felfedezést tett: elsőként sikerült kísérletileg megfigyelni és elméletileg igazolni az úgynevezett flat-band, vagyis síksávú, ultraerős csatolást az optikai fononok és a felszíni plazmon-polaritonok között...

MA 06:05

Történelmi események a mai napon (December 19.)

Erre a napra jutott a Jamestown felé induló első angol gyarmatosító hajóraj, a hongkongi szuverenitásról szóló kínai–brit megállapodás aláírása, és Bill Clinton amerikai elnök alkotmányos felelősségre vonása is...

MA 06:02

A Lovable az MI-kódolás új sztárja: ömlik a pénz

A svéd, Lovable nevű „vibe coding” startup újabb hatalmas befektetést húzott be: 330 millió dollár (kb...

csütörtök 20:50

A Kia és a Hyundai újabb blamája: vagyonokba kerülnek a lopások

🚗 A Kia és a Hyundai ingyenes javítási programba kezd, hogy visszaszorítsa a „Kia Boyz” néven elhíresült autólopásokat, amelyek miatt világszerte több millió autótulajdonos került veszélybe...

csütörtök 20:34

Az NIS2: Szorul a hurok a jelszavak és az MFA körül

🔒 Kikre vonatkozik az NIS2? Az uniós NIS2 irányelv 2023 januárjában váltotta fel az eredeti NIS-t, a tagállamoknak pedig 2024 októberéig kellett beépíteniük saját jogrendjükbe...

csütörtök 20:18

Az amerikai Nyugat tűzoltási gyakorlata időzített bombává vált

🔥 Érdemes megvizsgálni, hogy az Egyesült Államok nyugati részén évtizedeken át tartó tűzoltás mára komoly problémát okozott...

csütörtök 20:01

Az Apple megnyitja Japánban az App Store-t – kényszerből

Az Apple kénytelen megnyitni az App Store-t a verseny számára Japánban, mivel a most életbe lépett Mobil szoftver versenytörvénye (Mobile Software Competition Act, MSCA) így rendelkezik...