2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 13:34

Az első New Glenn sikeresen landolt, az űrséta viszont csúszik

🚀 Senki sem várta volna, hogy a Blue Origin első kereskedelmi küldetése ilyen felemásan alakul: miközben a New Glenn rakéta újrahasznosított első fokozata tökéletesen leszállt a visszatérő hajóra, a fő feladat – a kommunikációs műhold pályára állítása – kudarcba fulladt...

MA 13:23

Az AirPods kamerás verziója nagy bajban: falba ütközött a fejlesztés

Érdekes felvetés, hogy a jövőben akár kamerával felszerelt fülhallgatókat is viselhetünk, ám a legújabb kutatások szerint a technológia közel sem áll még készen ennek megvalósítására...

MA 12:35

Két perc és kész: feltörik az EU korhatár‑ellenőrző appját

🔒 Az Európai Unió nemrég bemutatta saját online életkor‑ellenőrző mobilalkalmazását, amellyel a tervek szerint a gyermekeket akarják védeni a közösségi médiától és a felnőtt tartalmaktól...

MA 12:24

Az MI-cégek mossák kezeiket – veszélyben a felhasználók?

👋 A vállalati digitalizáció korában egyre több technológiai óriás buzdít arra, hogy a biztonsági kihívásokat is MI-re bízzák...

MA 12:03

Az űr újabb blamája: félrement a Blue Origin rakétája

🚀 Érdekes felvetés, hogy mi számít valódi áttörésnek az űriparban: az újrahasznosítható rakéták, vagy inkább a küldetések hibátlan teljesítése?..

MA 11:36

Az okos futárrobotok a vakok új segítői: biztonságosabb járdák

Fontos kérdés, hogyan tehetők városaink járdái mindenki számára biztonságossá, különösen a látássérült emberek számára...

MA 11:02

Az egészség titkos kulcsa a bélmozgás ritmusa

Jellemző példa, hogy a bélmozgás sebessége – vagyis az, hogy a szervezetünk milyen gyorsan szabadul meg a salakanyagoktól – jóval többet elárulhat az egészségünkről, mint gondolnánk...

MA 10:43

A pekingi robotfélmaraton új rekordokat dönt, senki sem esik el a rajtnál

Idén Peking ismét megrendezte a humanoid robotok félmaratonját, és most valóban sikerült elkerülni a tavalyi, közröhej tárgyát képező malőröket...

MA 10:28

Az igazi vagy? A Zoom már megmondja, ember ül-e a gépnél

A Zoom mostantól egészen új szintre emeli a biztonságot: partnerséget kötött Sam Altman íriszszkennelésre épülő startupjával (korábban Worldcoin néven futott), aminek köszönhetően élőben is ellenőrizhető lesz, hogy valódi ember ül-e a cégtalálkozón, vagy valami sunyi AI-avatár próbál belépni...

MA 10:22

A Samsung legújabb frissítése forradalmasítja a fotószerkesztést

📷 A Samsung jelentős frissítést adott ki a Galaxy Enhance-X alkalmazáshoz, amely teljesen új külsőt és rengeteg friss szerkesztési funkciót hozott magával...

MA 10:11

Botrány: Az Anthropic állítólag kémprogramot telepít a Claude Desktop mellé

😱 A Claude Desktop telepítésekor az Anthropic engedély nélkül rejt el egy natív kémprogram-hidat a gépeden, amely minden Chromium-alapú böngészőt érinthet...

MA 10:01

A Nobel-díjas fizikus baljós jóslata: 50 évünk sincs hátra

David Gross, a világhírű Nobel-díjas fizikus szerint az emberiség túlélése drámaian bizonytalanná vált: jó eséllyel már csak néhány évtized van hátra civilizációnk számára...

MA 09:57

Az új KelpDAO-botrány: 110 milliárd forint tűnt el, megrendült a DeFi.

A hétvégén minden eddiginél nagyobb összeomlás rázta meg a kriptoszektort: egy ügyesen kivitelezett támadással 292 millió dollár (kb...

MA 09:37

Az amerikai streptococcusos torokgyulladás eredetét egy 700 éves múmia fedi fel

🔭 Első pillantásra úgy tűnt, hogy csak egy újabb bolíviai múmiát vizsgáltak a kutatók, ám a lelet meghökkentő felfedezést hozott...

MA 09:29

A DeFi-katasztrófa: 4800 milliárd forint olvadt el két nap alatt

💸 A decentralizált pénzügyi szektorban hatalmas mértékű tőkekivonás indult el a hétvégén történt KelpDAO-támadást követően...

MA 09:15

Az NIST ezentúl csak a legveszélyesebb hibákat pontozza

A Nemzeti Szabványügyi és Technológiai Intézet úgy döntött, felhagy az alacsonyabb prioritású sérülékenységek súlyossági pontszámainak megállapításával...

APP
MA 09:12

APPok, Amik Ingyenesek MA, 4/20

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Monthly Dystopia (iPhone/iPad)A Monthly Dystopia egy túlélő játék, amelyet George Orwell 1984 című műve inspirált...

MA 08:57

Az AOC filléres hordozható monitora: mit tud 20 ezerért?

Első pillantásra úgy tűnt, hogy az AOC 16T20 egész egyszerűen a legegyszerűbb, amivel találkozhatunk ebben a kategóriában...

MA 08:43

Az AI új csapdája: úgy ránt be, mint az adathalászat

🖰 Az AI-k világában már nem csak emberek lehetnek átverés áldozatai: a mesterséges intelligenciák is csúnyán pofára eshetnek, ha valaki elég ügyesen csavarja a kérdéseket...

MA 08:29

Az egyedüllét nem okoz demenciát, de kikezdi a memóriát

💡 Az egyedüllét érzése mindannyiunkkal megesik, és ugyan természetes emberi érzelem, mégis képes alattomosan befolyásolni gondolkodásunkat, memóriánkat...

MA 08:03

A legnagyobb DeFi-hack: milliárdok tűntek el pillanatok alatt

💸 A decentralizált pénzügyi szektorban (DeFi) komoly felfordulást okozott az év eddigi legnagyobb hackje, amely során közel 108 milliárd forintnak megfelelő értékű kriptovalutát tulajdonítottak el...

MA 07:57

Az új Vercel-botrány: hackerek pénzzé teszik a lopott adatokat

Érdemes megérteni, hogy a népszerű felhőalapú fejlesztői platformot, a Vercelt jelentős biztonsági incidens érte, melynek során egyes ügyfelek adatai veszélybe kerültek...

MA 07:50

Az utolsó kilométerek: a Voyager–1 az ereje végén jár

Tipikus eset, amikor egy világraszóló felfedezőút lassan lezárul. A Voyager 1, amely 49 éve szeli az űrt, mostanra elérte élettartama határát: energiaforrása, a plutóniumalapú termoelektromos generátor évről évre körülbelül 4 wattal kevesebb teljesítményt ad le, és már nincs napelem, sem újratölthető akkumulátor, amely segítene...

MA 07:36

A Blue Origin beégett: az első újrahasznosított rakéta műholdat veszít

A Blue Origin legújabb, harmadszor repülő New Glenn rakétája megint nagyot szólt, de valahogy mégiscsak a partvonalról nézheti a diadalt: a második fokozat műszaki hibája miatt a fedélzeten lévő BlueBird 7 műhold menthetetlen pályán rekedt, vagyis el is búcsúzhatunk tőle – a biztosító viszont fizetni fog, ami azért enyhíti a csapást...

MA 07:24

Az elemek korszaka véget érhet a talajból nyert árammal?

A Northwestern Egyetem kutatói áttörést értek el a fenntartható energiaellátásban: olyan tüzelőanyagcellát fejlesztettek ki, amelynek működését a talajban élő mikroorganizmusok biztosítják...

MA 07:15

Az Apple-értesítésekkel támadnak a csalók: új adathalász trükk

🚨 Az elmúlt napokban többen kaptak olyan e-maileket, amelyek Apple-fiók módosításáról szóló hivatalos értesítésnek tűnnek, valójában azonban adathalász csalási kísérletek...

MA 07:01

Az Apple-rajongók türelmét próbára teszi a csúszó Mac Studio és MacBook Pro

Akik már tűkön ülnek az új Mac Studio vagy MacBook Pro kiadására várva, kénytelenek még pár hónapot várni...

MA 06:50

A OnePlus új mobilja tényleg kézikonzollá válik

Érdemes megvizsgálni, hogy a OnePlus hamarosan bemutatkozó Ace 6 Ultra készüléke nem egyszerűen egy csúcsmobil lesz, hanem kifejezetten játékosoknak tervezett kézi játékkonzollá is alakítható...

MA 06:43

A csodafegyverét, a Mythost már beveti az NSA – mindenki csak néz

👀 Érdekes fordulat, hogy az amerikai Nemzetbiztonsági Ügynökség (NSA) pillanatok alatt rácsapott az Anthropic új mesterségesintelligencia-modelljére, a Mythos Preview-ra, annak ellenére, hogy nem is olyan régen még nyílt háború dúlt a cég és a Pentagon között...