2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 11:01

Az ibuprofen lehet a rák elleni titkos fegyver?

💉 Jellemző példa: az ibuprofen, amelyet szinte minden háztartásban használnak fejfájás, izomfájdalmak vagy menstruációs görcsök esetén, most új oldaláról mutatkozik be: egyre több kutatás vizsgálja, vajon ez a hétköznapi fájdalomcsillapító tényleg csökkentheti-e bizonyos rákfajták kockázatát...

MA 10:58

Az MI betör a független zenébe: indul az Udio–Merlin szövetség

🎵 Az MI-alapú zenei platform, az Udio új megállapodást kötött a Merlin céggel, amely több ezer független kiadónak és forgalmazónak biztosít digitális jogkezelést világszerte...

MA 10:49

Az orosz hekkerek újabb rohama éri a brit kiberbiztonságot

🕵 Az Egyesült Királyság Nemzeti Kiberbiztonsági Központja (NCSC) ismét arra figyelmeztet, hogy oroszbarát hekkercsoportok folyamatosan támadják a szigetország létfontosságú infrastruktúráját és önkormányzatait...

MA 10:41

Indul a valaha volt leggyorsabb emberes űrküldetés

Az elmúlt ötven év legjelentősebb emberes űrmissziója újabb mérföldkőhöz érkezett, miután a NASA Artemis II rakétája a hétvégén eljutott a floridai Kennedy Űrközpont indítóállásához...

MA 10:33

A ChatGPT Go letarol: korlátlan GPT-5.2 csak 2990 forintért

🚀 A ChatGPT Go új frissítésének köszönhetően már tényleg megéri előfizetni: az OpenAI majdnem a duplájára emelte a használati korlátokat, ráadásul teljes hozzáférést ad a GPT-5...

MA 10:26

Az óriáshullámok hazája: Nazaré és a megdönthetetlen rekordok

2020 októberében a Landsat 8 műhold lélegzetelállító képet örökített meg Portugália nyugati partjainál: Nazaré közelében a 7 emeletnyi, vagyis 24 méteres hullámok tomboltak, erejükkel hatalmas víz alatti üledékfelhőket keltve...

MA 10:17

A mesterséges intelligencia forradalmasítja a magzati ultrahangot

A BioticsAI, amely 2023-ban megnyerte a Disrupt Csatatér (Disrupt Battlefield) versenyét, most FDA-engedélyt kapott mesterséges intelligenciával támogatott magzati ultrahang szoftverére...

MA 10:01

A bitcoin 33 millió alatt, az altcoinok tovább zuhannak

A kriptopiac kedden némileg stabilizálódott a hétfői, vámhírek miatt bekövetkezett megrázkódtatás után, de továbbra is óvatosság tapasztalható, főleg az altcoinok körében...

MA 09:49

A hamis reklámblokkoló összeomlasztja a böngészőt

⚠ Egy új, kifejezetten ártalmas reklámkampány terjed, amelyben egy hamis reklámblokkoló Chrome- és Edge-bővítményt, a NexShieldet terjesztik...

MA 09:41

Az alvó bitcoinbálna 30 milliárd forintot mozgat: felébred a piac?

Több mint 12 évnyi csend után egy régóta tétlen bitcoin-tárca tulajdonosa megmozdult, és 909 bitcoint – mai értéken több mint 30 milliárd forintot – utalt át egy új címre...

MA 09:34

Az emberiség valaha látott legélesebb pillantása a fekete lyuk peremére

👀 A James Webb űrteleszkóp a valaha készült legélesebb felvételt rögzítette egy fekete lyuk környékéről, mindössze 13 millió fényévre lévő Circinus-galaxis szívében...

MA 09:17

Az új szilikon sütőformák veszélyt jelenthetnek a májadra

A szilikon sütőformák népszerűsége nem véletlen: hajlékonyak és jól bírják a meleget...

MA 09:09

Az elszabadult MI-ügynökök: a biztonság nagy téten forog

⚠️ Mit tehet egy alkalmazott, ha a céges MI-ügynök hirtelen zsarolni kezdi?..

MA 09:01

Az első mini Sphere Marylandbe jön – indul a megújulás

🎫 A Las Vegasban bemutatott látványos Sphere interaktív szórakozóhely mintájára most Maryland is saját gömböt kaphat...

MA 08:58

Az első emberes holdküldetés 50 év után: új korszak, régi kihívások

A floridai Kennedy Űrközpontban hétvégén megkezdődött az emberes Hold-misszió, az Artemis II rakétájának indítóállásra gurítása...

MA 08:42

Az Asus elengedi a mobilokat, mindent az MI-re tesz

🤖 Érdemes megvizsgálni, miért döntött az Asus úgy, hogy határozatlan időre felfüggeszti okostelefonos üzletágát...

MA 08:33

Az agy titkos kapcsolója: új áttörés a mentális zavarok ellen?

A Johns Hopkins Egyetem kutatói váratlan felfedezésre jutottak az agy működésében: eddig passzívnak hitt fehérjék, az úgynevezett GluD-k (delta-típusú ionotróp glutamát receptorok) valójában aktív szereplők az idegsejtek közötti kommunikációban és kapcsolatok kialakításában...

MA 08:26

Íme a 27 éve mindent túlélő ragadozó féreg

Kevesen gondolnák, hogy a tengerekben élő zsinórférgek igazi matuzsálemek lehetnek. Az amerikai William & Mary Egyetem tengerbiológus oktatója, Jon Allen évek óta minden tanévet azzal kezd, hogy óvatosan kiválogatja a ragadozó tengeri csillagokat és anemónákat az akváriumból, majd előkeresi a közel egy méter hosszú zsinórférget, akit egyszerűen csak A Legidősebb Baseodiscus (Baseodiscus the Eldest) néven...

MA 08:18

A cápatámadások új hulláma rettegésben tartja Ausztrália partjait

🔻 Egy 39 éves szörföst mart mellkason egy cápa az ausztráliai Új-Dél-Wales északi partján, ezzel 48 órán belül már a negyedik cápatámadás történt a térségben...