2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 20:37

Az INC zsarolóvírus fiaskója: 12 amerikai cég adatai visszakerültek

🔑 Egy súlyos biztonsági hiba miatt sikerült visszanyerni azokat a titkosított adatokat, amelyeket az INC zsarolóvírus-csoport lopott el egy tucat amerikai szervezettől...

MA 19:57

Bízhatunk az MI-ben? Így építhető fel a bizalom

A mesterséges intelligencia forradalma nemcsak új technológiákat hoz el, hanem új kihívásokat is felvet a bizalom terén...

MA 19:38

Az elöregedő állatkerti állomány veszélybe sodorja a fajmegőrzést

🐞 Érdekes felvetés, hogy az európai és észak-amerikai állatkertek emlősállományai egyre inkább elöregednek, ami komoly veszélyt jelent a hosszú távú fajmegőrzési törekvések szempontjából...

MA 19:20

A jóslat beteljesült: megszületett az első 2D topologikus kristályszigetelő

🧠 A finn Jyväskyläi Egyetem és az Aalto Egyetem kutatóinak sikerült megalkotniuk az első kétdimenziós topologikus kristályszigetelőt, egy olyan kvantumanyagot, amelyet több mint tíz éve jósoltak meg, de eddig nem tudtak létrehozni anyagtudományi akadályok miatt...

MA 19:01

Az örök fiatalság kulcsa: genetikai szupererő az éles időskori elméért

💬 Ez a jelenség jól illusztrálható azzal, hogy néhány nyolcvan év feletti ember meglepően fiatalos szellemi képességekkel bír, miközben kortársaiknál gyakoribb a memóriazavar és a demencia...

MA 18:54

Az Nvidia állítólag kalózkönyvtárból tanította az MI-jét

Egy frissített csoportos kereset szerint az Nvidia adatstratégiai csapatának egyik tagja közvetlenül megkereste az Anna’s Archive nevű oldal üzemeltetőit, hogy gyors hozzáférést szerezzen az általuk tárolt, több millió kalózkönyvhöz...

MA 18:38

A döcögő Windows 11: Jegyzettömb-trükkök helyett végre javítás?

💻 Érdemes megvizsgálni, hogy a Microsoft ismét új funkciókkal bővíti a klasszikus Jegyzettömböt a Windows 11-ben – köztük MI-alapú fejlesztésekkel és új formázási lehetőségekkel...

MA 18:19

Az Under Armournál 72 millió ügyfél adatai szivárogtak ki

🔐 Az Under Armour, a ruházati és fitneszadatokkal foglalkozó vállalat vizsgálja azt a súlyos adatlopási incidenst, amelyben 72 millió ügyfél adatait töltötték fel egy hackerfórumra...

MA 18:02

Az új Snapchat-szabályok lebuktatják a titkos tinilétet?

A Snapchat újításokat vezetett be, hogy a szülők még jobban nyomon követhessék, mennyi időt tölt a gyermekük a platformon, és milyen barátokat szerez...

MA 17:56

Egy nap, 29 új sérülékenység: az autóipar rémálma

Az idei Pwn2Own Automotive második napján Tokióban a biztonsági szakértők 29 korábban ismeretlen, úgynevezett nulladik napi sérülékenységet használtak ki autóipari rendszerekben, összesen 154 millió forint (439 250 USD) nyereményt zsebelve be...

MA 17:38

A Tesla diadala önvezető robotokkal sem jön gyorsan

Elon Musk ismét lassabb tempót jósol a Tesla legizgalmasabb fejlesztéseinél: a Cybercab robotaxi és az Optimus humanoid robot bevezetése jóval vontatottabb lehet, mint amit korábban ígért...

MA 17:19

Az államok is rárepülnének a tokenizálás aranybányájára

💸 Binance-alapító Changpeng Zhao jelenleg tucatnyi kormánnyal tárgyal arról, hogyan lehetne állami vagyont – például infrastruktúrát, ingatlant vagy nyersanyagokat – blokklánc-alapú tokenizációval eladni, és ezzel új bevételi forráshoz jutni...

MA 17:01

A nyomtatód árulkodik: az FBI titkos akciója

2026 januárjában letartóztatták Aurelio Luis Perez-Lugones IT-szakértőt, aki egy névtelen kormányzati beszállítónál dolgozott...

MA 16:55

Az új Marshall Heddon rendet tesz a hangrendszer-káoszban

🔊 Marshall új korszakot ígér a Bluetooth-hangfalaknak: megjelent a Heddon nevű, 105 ezer forintos (~$300) többhelyiséges zenehub...

MA 16:38

Az új kvantumanyag-forradalom: az anyag önmaga mérnöke lett

A kvantumanyagok világában új utak nyíltak: kutatók rájöttek, hogyan lehet anyagokat átmenetileg átalakítani anélkül, hogy azokat extrém lézeres besugárzásnak tennék ki...

MA 16:19

A levegőben úszó mikroműanyag-felhő: a légkör fullasztó terhe

Kutatók először becsülték meg, hány mikroműanyag szennyezi a Föld légkörét – az eredmény megdöbbentő...

MA 16:02

A világ legősibb barlangrajza 68 ezer éves titkokat őriz

🔥 Indonézia szigetvilágában, Sulawesi szigetén elképesztően régi, legalább 67 800 éves barlangrajzokat fedeztek fel kutatók, amelyek kéznyomatokat ábrázolnak...

MA 15:56

Az elfeledett molekula, amely áttörést hozhat a gombafertőzések ellen

💊 Lényeges, hogy a súlyos gombafertőzések évről évre több millió áldozatot követelnek világszerte, miközben az elérhető kezelési lehetőségek alig változnak...

MA 15:20

Az Apple megússza összehajtható iPhone nélkül?

Erre utal többek között az, hogy miközben az iPhone 17 már megjelent – és valóban tetszetős a vibráló kozmikus narancssárga színével –, sokan csalódottan vették tudomásul, hogy az évek óta pletykált összecsukható iPhone továbbra sem debütált...