2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 07:57

Az áttörés még várat magára: a Bitcoin újra beszakadt

A Bitcoin árfolyama csütörtök délelőtt hirtelen esett vissza, miután sorozatosan kudarcot vallott a 27,5–28 millió forintos (75 000–76 000 USD) árfolyamszint áttörésében...

MA 07:43

Az IBM-et 6 milliárdos DEI-botrány rázza meg

Erre utal többek között az, hogy az IBM 6 milliárd forint (17 millió dollár) összegben kötött megállapodást egy, a sokszínűség, esélyegyenlőség és befogadás (DEI) programjai miatt indult vizsgálat ügyében...

MA 07:36

Az elhízást tényleg legyőzheti egy természetes hormon?

🥗 Ami először apróságnak tűnt, most áttörésnek számít a tudósok szerint: egy természetes hormon, az FGF21 képes visszafordítani az elhízást egerekben...

MA 07:29

A Robloxot milliárdos bírság sújtja, szigorodik a gyerekvédelem

Az egyik legnépszerűbb online játékplatform, a Roblox összesen több mint 4,4 milliárd forintot (12 millió USD) fizet, és új biztonsági intézkedéseket vezet be, miután Nevadában per elé került a gyermekvédelem hiányosságai miatt...

MA 07:15

Az MI szolgálatában álló hekkerek kifosztották Mexikót

Felmerül a kérdés, meddig vagyunk biztonságban a digitális világban: Mexikó történetének egyik legsúlyosabb kiberbiztonsági támadását egy maroknyi hacker hajtotta végre mesterséges intelligencia segítségével...

MA 07:08

Az Opera turbózza a böngészést: AI-chatbotok egy kattintásra

Élvezetes újítás érkezett az Opera böngészőhöz, aminek garantáltan örülni fognak azok, akik imádják a mesterséges intelligenciával felturbózott netezést...

MA 07:01

Az iPhone–Visa rémálom: 4 millió forint tűnt el pillanatok alatt

💸 Egy trükkös módszerrel teljesen zárolt iPhone-ról sikerült 4 millió forintot ellopni, ráadásul anélkül, hogy a tulajdonos bármi gyanúsat észrevett volna...

MA 06:57

Az ivóvíz új réme: veszélyben a víztisztítók

Egy most felfedezett kártevő, a ZionSiphon kifejezetten az ipari vezérlőrendszerek ellen készült, és víztisztító- és sótalanító üzemek működését fenyegeti...

MA 06:51

Az első holdbázis közelebb van, mint gondolnád

🌚 Amikor az Artemis II legénysége megközelítette a Holdat, könnyen rácsodálkoztak arra, milyen hihetetlen érzés egy karnyújtásnyira lenni tőle...

MA 06:43

Az új Thunderbolt MI‑kliens felforgatja a helyi infrastruktúrát

⚡ A Mozilla legújabb fejlesztéseként bemutatta a Thunderbolt MI-klienst, amely lehetővé teszi, hogy magánszemélyek és vállalkozások saját, helyben futó MI-infrastruktúrát építsenek ki, teljesen függetlenül felhőalapú külső szolgáltatóktól...

MA 06:36

Az OpenAI berobban: jön a biológiára hangolt MI

Az OpenAI bemutatta legújabb nyelvi modelljét, a GPT-Rosalindot, amelyet kifejezetten biológiai kutatásra fejlesztettek...

MA 06:29

Az Intel végre új életet lehel az alap Core processzorokba

💻 Az Intel hosszú idő után frissíti a nem-Ultra Core processzorokat, amelyekre eddig a korosodó Raptor Lake architektúrára épülő meglévő Core-szériák voltak jellemzők...

MA 06:22

Elkészült az univerzum eddigi legnagyobb, legélesebb 3D-s térképe

💫 Áttörő eredményt értek el a csillagászok: elkészült a valaha készült legnagyobb felbontású 3D-s térkép az univerzumról...

MA 06:15

A mesterséges intelligencia lehet az amerikai kriptófelügyelet megmentője?

Az amerikai Commodity Futures Trading Commission (CFTC) élén Mike Selig egyre növekvő felügyeleti feladatokkal néz szembe, miközben az ügynökség létszáma az utóbbi években jelentősen csökkent...

MA 06:09

A tokenizáció forradalma: kézzelfogható eszközök, valódi lehetőségek?

💰 Az elmúlt másfél évben a tokenizáció robbanásszerű fejlődésen ment keresztül: eddig csak koncepció volt, de ma már a portfólióépítés legitim eleme lett...

MA 06:05

Történelmi események a mai napon (Április 17.)

Kiemelkedő nap a történelemben: szerződés, lázadás, köztársaság és űrdrámából csoda. A legemlékezetesebb pillanatok között ott van a Republic of Ireland kikiáltása, a The Canterbury Tales (Canterbury mesék) első udvari előadása és az Apollo 13 biztonságos hazatérése...

MA 06:01

Az okos robotmadarak új életet lehelnek a Grand Teton madárvilágába

A Grand Teton Nemzeti Parkban elképesztő módon léptek fel a fogyatkozó fürjtyúk-populáció megmentéséért: nemcsak hagyományos madárcsali figurákat használnak, hanem rendkívül ötletes, robotizált példányokat is...

csütörtök 21:46

Az MI-ügynökök új rémálma: foltozás után is szivárognak a bizalmas adatok

🚩 A legfrissebb kutatások rávilágítanak arra, mennyire sérülékenyek maradtak a vállalati MI-ügynökök, hiába foltozták be a friss biztonsági réseket...

csütörtök 21:13

Az igazi kvantumgyerek: kilencéves csodagyerek podcastel a jövőről

Érdekes, hogy a kilencéves Kai Moskvitch hobbiból podcastet indított, amelyben azt kutatja, miként változtatja meg a mindennapjainkat a kvantumtechnológia...

csütörtök 21:02

Az Anna’s Archive 115 milliárdos kártérítést fizet a Spotifynak és kiadóknak

💸 Az Anna’s Archive nevű nyílt könyvtárat és keresőmotort 115 milliárd forint (322 millió dollár) kártérítés megfizetésére kötelezték, miután állítólag letöltötte és elmentette a Spotify teljes zenegyűjteményét...

csütörtök 20:56

Az EU tiniappja tényleg megoldja az életkor-ellenőrzést adatpara nélkül?

Közeleg az az idő, amikor az uniós tinik nemcsak szívüket, hanem életkorukat is egy appban hordozzák: az új digitális igazolványalkalmazás lehetővé teszi, hogy bárki igazolja a korhatáros tartalmakhoz való hozzáférési jogosultságát, miközben személyes adatai titokban maradnak...

csütörtök 20:45

Az Alzheimer-gyógyszerek szinte semmit sem érnek?

🤔 Fontos kérdés, hogy az utóbbi években áttörésként ünnepelt Alzheimer-kór elleni gyógyszerek mennyire képesek valóban lassítani vagy megelőzni a betegség előrehaladását...

csütörtök 20:12

A Google amerikai adatátadása botrányt kavart Svájcban

🚧 Felmerül a kérdés, mennyire bízhatunk az online óriáscégek adatkezelésében, ha azonnal teljesítik az állami szervek kéréseit...

csütörtök 20:02

Az MI már a Google Fotóidból is képeket generál

🤖 Például ha régóta vágytál rá, hogy MI-modellek a saját preferenciáid, emlékeid vagy Google Fotóid alapján alkossanak képeket, ez most valóra válhat...

csütörtök 19:46

A bolondok aranyában lítiumkincs rejtőzik

A modern világ egyik kulcsfontosságú alapanyaga, a lítium meglepő helyen bukkant fel: ősi palák és ipari hulladékok tartalmazhatják ezt az értékes fémet...

csütörtök 19:34

A Google új fegyvere: a Gemini MI levadássza a csaló hirdetéseket

A Google tavaly 8,3 milliárd rosszindulatú hirdetést állított le, és közel 25 millió hirdetői fiókot függesztett fel – köztük 602 ezret csalással összefüggésben...

csütörtök 19:23

Az MI-láz fűti a kvantumrészvények új őrületét

💸 Érdekes fejlemény, hogy a kvantumszámítógépes vállalatok részvényei szárnyalni kezdtek, amint az Nvidia bemutatta új, nyílt forráskódú MI-modelljeit, amelyek a kvantumtechnológia gyorsítását célozzák...

csütörtök 19:12

A tenger mélyén lappangó metán felpörgetheti a klímaválságot

💧 Érdemes megérteni, hogy a világ óceánjai eddig rejtett szerepet játszhattak a klímaváltozás felgyorsításában...

csütörtök 18:57

Az elsőként felfedezett fekete lyuk táncoló sugárnyalábokat lövell az űrbe

A Földtől mindössze 7000 fényévre található Cygnus X-1 az elsőként felfedezett és megerősített fekete lyuk, amely most is komoly meglepetésekkel szolgál...