2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 07:37

Az MI-ügynökök veszik át a hatalmat a Robinhoodnál?

🤖 A Robinhood úgy döntött, hogy továbbfejleszti kriptokereskedési szolgáltatását, és hamarosan az amerikai felhasználók is használhatják az új, mesterséges intelligenciával vezérelt kereskedési ügynököket...

MA 07:25

A DeepSeek 75%-os árcsökkentése sem győzi le a 100×-os gondot

Az MI-fejlesztés világában igazi örömhírként hatott volna, hogy a DeepSeek a V4-Pro modell árát 75%-kal csökkentette...

MA 07:13

Csak egy nyert: Razr Fold szemben a Pixel 10 Pro Folddal

A hajlítható mobilok piaca évről évre látványosabb megoldásokat tartogat, de kevesen gondolták volna, hogy a Motorola Razr Fold ennyire eltalálja a felhasználók igényeit...

MA 07:01

Az Alzheimer-kór tau fehérjéjének meglepő, rejtett szerepe az emlékezetben

Kiderült, hogy a tau nevű fehérje, melyet eddig főként az Alzheimer-kórral hoztak kapcsolatba, valójában kulcsszerepet tölt be a tartós emléknyomok kialakulásában...

MA 06:49

A Google Pixel 11 Pro Fold kiszivárgott: elegáns Pine szín, karcsúbb kamera

Közeleg az augusztusi New York-i Made by Google esemény, és már napvilágra kerültek a legfrissebb képek a Pixel 11 Pro Foldról...

MA 06:05

Történelmi események a mai napon (Július 13.)

Kirobbanó nap a történelemben: Jeruzsálem ostromának vége és Salamon templomának pusztulása, Jean-Paul Marat meggyilkolása, a Watergate-felvételek létezésének leleplezése és New York ikonikus áramszünete mind ehhez a dátumhoz kötődik...

MA 06:01

A tökéletes Wi‑Fi titka: otthonodhoz igazítsd az antennákat

Sokan hajlamosak vagyunk csak bekapcsolni a routert, belökni egy sarokba, aztán akkor foglalkozni vele, amikor már ledob a netről...

vasárnap 18:32

Az igazság: tévedett-e Einstein – és miben?

🤔 Ebből következően érdemes megérteni, hogy még a világtörténelem legnagyobb zsenije sem tévedhetetlen...

vasárnap 18:02

Az MI-kereslet szinte végtelen: a vállalatok értékmaximalizálásra állnak át

Az MI iránti kereslet továbbra is töretlen és szinte határtalan, ahogy a technológiai szektor szereplői mindent megtesznek, hogy lépést tartsanak az elképesztő tempójú fejlesztésekkel...

vasárnap 17:01

A Ripple majdnem lehúzta a rolót, az XRP ment volna részvényeseknek

Kezdetben Brad Garlinghouse, a Ripple vezérigazgatója, és a társalapító, Chris Larsen komolyan fontolóra vették, hogy bezárják a céget, amikor 2020-ban az amerikai értékpapír-felügyelet beperelte őket...

vasárnap 16:32

A Marshall Stanmore IV dübörgő basszussal és erősítő-ihlette dizájnnal hódít

A Marshall Stanmore IV merész külsővel és megdöbbentően erőteljes hangzással érkezik, és első pillantásra nyilvánvaló, hogy nemcsak a füleket, de a szemeket is rabul ejti...

vasárnap 15:01

A kullancscsípés miatt terjed a halálos húsallergia – itthon is?

Érdemes megvizsgálni, hogy egyre több embert érint egy szokatlan, sőt, életveszélyes allergia, amelyet egyetlen kullancscsípés vált ki...

vasárnap 12:01

Az ausztrál kormány riaszt: globális hadjárat a sebezhető CMS-ek ellen

⚠ Kezdetben az ausztrál vállalkozások még nem is sejtették, hogy veszély fenyegeti weboldalaikat...

vasárnap 11:31

A megrendelők rákapnak: az apró MI-modellek hódítanak

A vállalati MI fejlődésében új korszak kezdődik: míg a múltban mindenhatónak hitt, hatalmas modellek uralták a terepet, ma már egyre többen ismerik fel, hogy kisebb, egyedi feladatra tervezett rendszerek hatékonyabban és olcsóbban nyújtanak pontmegoldásokat...

vasárnap 10:37

Az idő megszületik, hízik a sarki jég, előkerül egy ősi sír

🌌 A héten a tudomány világa ismét meglepő felfedezéseket hozott, amelyek közül az egyik legizgalmasabb egy miniatűr univerzumban „megszülető” idő volt...

vasárnap 10:25

A brit boltok arcfelismerése azonnal riasztja a rendőrséget?

A brit üzletek forradalmi változás előtt állnak: hamarosan a rendőrség valós időben kap értesítést, ha súlyos bűncselekmények elkövetője lép be egy boltba...

vasárnap 10:01

Az öt Android Auto-beállítás, amit új autóm megvétele előtt tudnom kellett volna

🚗 Érdekes felvetés, hogy mennyit változott az autózás élménye a technológiai fejlődésnek köszönhetően, különösen akkor, ha valaki két évtizedet ugrik előre: egy 2003-as PT Cruiser helyett egy 2022-es Hyundai Tucson volánja mögé ülve...

vasárnap 09:37

A DuckDuckGo új, ingyenes YouTube-blokkolója eltünteti a reklámokat – így működik

🔒 Felmerül a kérdés, hogy mikor lesz vége a videónézést folyton megszakító reklámoknak...

vasárnap 09:24

A válságos álláspiacon ne bízd karriered csak az MI-re

A munkaerőpiac egyre keményebb, sokan már a mindennapokban is különböző módokon vetik be az MI-t – gyakran karriertippeket is kérnek tőle...

APP
vasárnap 09:11

APPok, Amik Ingyenesek MA, 7/12

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Sharp: Skin Scan Routine (iPhone/iPad)A SHARP egy bőranalízis és rutin alkalmazás férfiaknak, akik jobban bíznak a mérésekben, mint a találgatásban...

vasárnap 09:01

A Yale kutatói megfejthették a Parkinson-kór terjedésének módját

A Parkinson-kór egyik legalattomosabb tulajdonsága, hogy hosszan, alattomosan terjed az agyban, miközben sorra pusztítja az idegsejteket...

vasárnap 08:49

A kísérleti régészek ősi módszerekkel mumifikáltak egy modernkori Ramszeszt

Ősi civilizációk emberei elképesztő találékonysággal őrizték meg halottaikat, de talán az egyiptomi múmiák ismertek a leginkább...

vasárnap 08:37

Az OpenAI átszervez – távozik a biztonsági részleg vezetője

🚨 Egy lényeges fejlemény, hogy az OpenAI nagy átszervezésbe kezdett, melynek során távozik a vállalat biztonsági rendszerekért felelős vezetője, Johannes Heidecke...

vasárnap 08:25

Az első Jupiter-méretű bolygó, amely túlélte csillaga halálát

Érdekes felvetés, hogy létezhet olyan bolygó, amely képes volt átvészelni anyacsillaga halálát...

vasárnap 07:48

A Philips ingyen cseréli a frissítés miatt hazavágott okoshubokat

Száz felhasználó is meglepődve tapasztalta, hogy a Philips Hue Bridge Pro eszköze egyik pillanatról a másikra működésképtelenné vált egy júniusi szoftverfrissítés után...

vasárnap 07:37

Az MI-kódolás mellékhatása: hamis csomagok fertőzik a szoftverláncot

💉 A szoftverfejlesztés világa soha nem volt még ennyire közvetlen célpontja a támadóknak, köszönhetően a mesterséges intelligencia térnyerésének...

vasárnap 07:13

A 83 éves belga férfi kínzó viszketése ritka szifiliszre vallott

🤔 Érdekes eset, hogy egy 83 éves férfi kórházi útja végül meglepő diagnózissal zárult...

vasárnap 07:01

Az esőerdők szén-dioxid-elnyelése El Niño alatt leáll – idén jöhet a mélypont

Meg kell vizsgálni, hogy az amazóniai és más trópusi esőerdők mennyire képesek továbbra is elnyelni és tárolni a légköri szén-dioxidot napjainkban, amikor évről évre egyre gyakoribb és intenzívebb éghajlati szélsőségekkel, például az El Niño-jelenséggel kell szembenézniük...

vasárnap 06:48

A bél rendbetételével fordítja vissza a súlyos zsírmájat egy kísérleti szer

Egy forradalmi fejlesztésű gyógyszer, a DT-109 vegyület az állatkísérletekben teljesen visszafordította a súlyos zsírmájat azáltal, hogy helyreállította a bélrendszer egészségét...