2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 18:32

Az igazság: tévedett-e Einstein – és miben?

🤔 Ebből következően érdemes megérteni, hogy még a világtörténelem legnagyobb zsenije sem tévedhetetlen...

MA 18:02

Az MI-kereslet szinte végtelen: a vállalatok értékmaximalizálásra állnak át

Az MI iránti kereslet továbbra is töretlen és szinte határtalan, ahogy a technológiai szektor szereplői mindent megtesznek, hogy lépést tartsanak az elképesztő tempójú fejlesztésekkel...

MA 17:01

A Ripple majdnem lehúzta a rolót, az XRP ment volna részvényeseknek

Kezdetben Brad Garlinghouse, a Ripple vezérigazgatója, és a társalapító, Chris Larsen komolyan fontolóra vették, hogy bezárják a céget, amikor 2020-ban az amerikai értékpapír-felügyelet beperelte őket...

MA 16:32

A Marshall Stanmore IV dübörgő basszussal és erősítő-ihlette dizájnnal hódít

A Marshall Stanmore IV merész külsővel és megdöbbentően erőteljes hangzással érkezik, és első pillantásra nyilvánvaló, hogy nemcsak a füleket, de a szemeket is rabul ejti...

MA 15:01

A kullancscsípés miatt terjed a halálos húsallergia – itthon is?

Érdemes megvizsgálni, hogy egyre több embert érint egy szokatlan, sőt, életveszélyes allergia, amelyet egyetlen kullancscsípés vált ki...

MA 12:01

Az ausztrál kormány riaszt: globális hadjárat a sebezhető CMS-ek ellen

⚠ Kezdetben az ausztrál vállalkozások még nem is sejtették, hogy veszély fenyegeti weboldalaikat...

MA 11:31

A megrendelők rákapnak: az apró MI-modellek hódítanak

A vállalati MI fejlődésében új korszak kezdődik: míg a múltban mindenhatónak hitt, hatalmas modellek uralták a terepet, ma már egyre többen ismerik fel, hogy kisebb, egyedi feladatra tervezett rendszerek hatékonyabban és olcsóbban nyújtanak pontmegoldásokat...

MA 10:37

Az idő megszületik, hízik a sarki jég, előkerül egy ősi sír

🌌 A héten a tudomány világa ismét meglepő felfedezéseket hozott, amelyek közül az egyik legizgalmasabb egy miniatűr univerzumban „megszülető” idő volt...

MA 10:25

A brit boltok arcfelismerése azonnal riasztja a rendőrséget?

A brit üzletek forradalmi változás előtt állnak: hamarosan a rendőrség valós időben kap értesítést, ha súlyos bűncselekmények elkövetője lép be egy boltba...

MA 10:01

Az öt Android Auto-beállítás, amit új autóm megvétele előtt tudnom kellett volna

🚗 Érdekes felvetés, hogy mennyit változott az autózás élménye a technológiai fejlődésnek köszönhetően, különösen akkor, ha valaki két évtizedet ugrik előre: egy 2003-as PT Cruiser helyett egy 2022-es Hyundai Tucson volánja mögé ülve...

MA 09:37

A DuckDuckGo új, ingyenes YouTube-blokkolója eltünteti a reklámokat – így működik

🔒 Felmerül a kérdés, hogy mikor lesz vége a videónézést folyton megszakító reklámoknak...

MA 09:24

A válságos álláspiacon ne bízd karriered csak az MI-re

A munkaerőpiac egyre keményebb, sokan már a mindennapokban is különböző módokon vetik be az MI-t – gyakran karriertippeket is kérnek tőle...

APP
MA 09:11

APPok, Amik Ingyenesek MA, 7/12

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Sharp: Skin Scan Routine (iPhone/iPad)A SHARP egy bőranalízis és rutin alkalmazás férfiaknak, akik jobban bíznak a mérésekben, mint a találgatásban...

MA 09:01

A Yale kutatói megfejthették a Parkinson-kór terjedésének módját

A Parkinson-kór egyik legalattomosabb tulajdonsága, hogy hosszan, alattomosan terjed az agyban, miközben sorra pusztítja az idegsejteket...

MA 08:49

A kísérleti régészek ősi módszerekkel mumifikáltak egy modernkori Ramszeszt

Ősi civilizációk emberei elképesztő találékonysággal őrizték meg halottaikat, de talán az egyiptomi múmiák ismertek a leginkább...

MA 08:37

Az OpenAI átszervez – távozik a biztonsági részleg vezetője

🚨 Egy lényeges fejlemény, hogy az OpenAI nagy átszervezésbe kezdett, melynek során távozik a vállalat biztonsági rendszerekért felelős vezetője, Johannes Heidecke...

MA 08:25

Az első Jupiter-méretű bolygó, amely túlélte csillaga halálát

Érdekes felvetés, hogy létezhet olyan bolygó, amely képes volt átvészelni anyacsillaga halálát...

MA 07:48

A Philips ingyen cseréli a frissítés miatt hazavágott okoshubokat

Száz felhasználó is meglepődve tapasztalta, hogy a Philips Hue Bridge Pro eszköze egyik pillanatról a másikra működésképtelenné vált egy júniusi szoftverfrissítés után...

MA 07:37

Az MI-kódolás mellékhatása: hamis csomagok fertőzik a szoftverláncot

💉 A szoftverfejlesztés világa soha nem volt még ennyire közvetlen célpontja a támadóknak, köszönhetően a mesterséges intelligencia térnyerésének...

MA 07:13

A 83 éves belga férfi kínzó viszketése ritka szifiliszre vallott

🤔 Érdekes eset, hogy egy 83 éves férfi kórházi útja végül meglepő diagnózissal zárult...

MA 07:01

Az esőerdők szén-dioxid-elnyelése El Niño alatt leáll – idén jöhet a mélypont

Meg kell vizsgálni, hogy az amazóniai és más trópusi esőerdők mennyire képesek továbbra is elnyelni és tárolni a légköri szén-dioxidot napjainkban, amikor évről évre egyre gyakoribb és intenzívebb éghajlati szélsőségekkel, például az El Niño-jelenséggel kell szembenézniük...

MA 06:48

A bél rendbetételével fordítja vissza a súlyos zsírmájat egy kísérleti szer

Egy forradalmi fejlesztésű gyógyszer, a DT-109 vegyület az állatkísérletekben teljesen visszafordította a súlyos zsírmájat azáltal, hogy helyreállította a bélrendszer egészségét...

MA 06:24

Tízmillió kubai áram nélkül – másodszor ezen a héten

Kuba pénteken újabb országos áramszünettel nézett szembe, alig pár nappal az előző, szintén teljes leállás után...

MA 06:05

Történelmi események a mai napon (Július 12.)

Mi történt ezen a napon a történelemben? Feszült ostromok, sorsfordító csaták és függetlenségi nyilatkozatok alakították ezt a napot: Jeruzsálem falainak áttörése és a Második Templom pusztulása, a Bastille ostromához vezető szikra, a Boyne és Aughrim döntő ütközetei, valamint a Libanon–Izrael háború kezdete mind ide tartozik...

MA 06:02

A kínai áttörés: első újrafelhasználható rakétájuk új módszerrel tért vissza

🚀 Kína történetének egyik legnagyobb űripari eseményét ünnepelte, amikor először sikerült visszanyerni egy újrafelhasználható, orbitális hordozórakéta első fokozatát a Dél-kínai-tengeren...

szombat 18:31

Az agyfúrás helyett itt a viselhető agytech jövője

Érdemes megvizsgálni, hogy az emberi elme és a technológia közötti közvetlen kapcsolat mennyire válhat mindennapossá a következő években...

szombat 18:01

Az MI-ügynökök pereit intézi az első digitális bíróság

💻 A mesterséges intelligenciával működő ügynökök egyre gyakrabban üzletelnek és kötnek megállapodásokat emberi beavatkozás nélkül, ám ezek a gépi tranzakciók is ugyanúgy vitákhoz vezethetnek, ahogyan akkor is, amikor emberek állnak egymással szemben...

szombat 17:01

Az üzleti MI-ügynökök magabiztosan tévednek – hiányzik a kontextus

Ami kezdetben ártalmatlannak tűnt, mára súlyos problémává nőtte ki magát: az üzleti MI-ügynökök magabiztosan hibás válaszokat adnak, mindezt úgy, hogy senki nem veszi észre, amíg valaki vissza nem követi az adatot egy elavult metrikáig vagy egy olyan dokumentumig, amelyet a lekérő rendszer soha nem töltött be...

szombat 15:31

Az MI-láz ára: a GPU-k 86%-a félgőzzel pörög

💸 A nagyvállalatok világa az MI-építkezés lázában ég, miközben kiderül: elsiették a fejlesztést, a vezérlési és kontrollrétegek csak utólag épülnek...