2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 08:25

A Super Bowl MI-csatája: ki játszik tisztán a reklámokban?

🚩 A Super Bowl vasárnapján az OpenAI és az Anthropic, két MI-fejlesztő cég ellentéte került a figyelem középpontjába...

MA 08:17

A kisbolygó, amely látványos krátert vághat a Holdba

🚀 Egy csaknem 60 méteres aszteroida 4 százalékos eséllyel csapódhat a Holdba 2032-ben – a jelenség pedig szabad szemmel is látható lesz a Földről...

MA 08:02

Az amerikai hadsereg robotokkal verné vissza a biofegyvereket

🤖 Az Egyesült Államok hadserege robotrendszereket keres, amelyek képesek elvégezni a veszélyes vegyi és biológiai fegyverek utáni nagytakarítást...

MA 07:58

Az Apple 2026-ban berobban: sztárok, sorozatok, meglepetések

🎉 Az Apple TV+ továbbra is irigylésre méltó helyzetben van a streaming piacon...

MA 07:49

Az új Sony-rekord mögött: szárnyal a profit, bajban a PlayStation

A Sony ismét erőteljes negyedéves eredményeket mutatott fel: az október–decemberi időszakban az üzemi nyereség elérte az 515 milliárd jent (kb...

MA 07:41

Az autizmus itthon egészen más, mint hittük

A legfrissebb svéd kutatás teljesen új megvilágításba helyezi azt a régóta tartott feltételezést, hogy az autizmus elsősorban a fiúkat érinti...

MA 07:33

A pelenka olcsó anyaga új korszakot nyit a mikroszkópiában

A modern mikroszkópia egyik legmeglepőbb áttörése iskolai vegyszerként indult. Míg a legtöbb kutató klasszikus mikroszkópokat használ, amelyek üveglencsékkel nagyítják fel a mintákat, sok részlet még így is rejtve marad...

MA 07:26

Az S&P 500 újra esik: a techpapírok rántják le a piacot

Az S&P 500 az elmúlt hat napból ötödször zárt veszteséggel, ezúttal 0,5%-ot esett, miközben a Dow Jones 0,5%-kal, azaz 260 ponttal emelkedett, a Nasdaq pedig 1,5%-os visszaesést mutatott...

MA 07:17

A fél évtizedes GitLab-sebezhetőség továbbra is fenyeget

Az amerikai kiberbiztonsági hivatal (CISA) felszólította az állami szerveket, hogy három héten belül frissítsék rendszereiket egy öt éve ismert GitLab-sebezhetőség miatt, amelyet jelenleg aktívan kihasználnak támadásokban...

APP
MA 07:11

APPok, Amik Ingyenesek MA, 2/5

Fizetős iOS appok és játékok, amik ingyenesek a mai napon...

MA 07:10

A semmiből bukkannak elő az univerzum furcsa részecskéi

A kvantumfizika különös világa tele van meghökkentő jelenségekkel: véletlenszerű korrelációkkal, bizonytalanságokkal és talán a legfurcsábbal, amikor részecskék a semmiből, látszólag ok nélkül jelennek meg...

MA 07:02

Az ikonikus Canon G7 X Mark III visszatér: itt a jubileumi kiadás

📷 A Canon 30 éve indította el PowerShot sorozatát, amivel a digitális kompakt fényképezők korszakát is megnyitotta...

MA 06:57

Az EU már az orosz kémműholdak célkeresztjében

Európai biztonsági szakértők megerősítették, hogy két orosz űreszköz az elmúlt években legalább egy tucat, kulcsfontosságú európai műholdat figyelt meg...

MA 06:50

Az Alphabet milliárdokat pumpál MI-infrastruktúrába

Fontos kérdés, hogy meddig tart az MI-őrület, és mi az ára...

MA 06:41

Azonnal visszahívják az életveszélyes FreeStyle Libre 3 szenzorokat

Az Abbott egészségügyi technológiai cég visszahívta a FreeStyle Libre 3 és FreeStyle Libre 3 Plus folyamatos vércukorszintmérő szenzorokat, mert ezek hamisan alacsony glükózértéket mutatnak...

MA 06:33

A Jupiter jeges holdjáról élet nyomai szivárognak a világűrbe

💧 A Jupiter jeges holdján, az Európa felszínén most először mutatták ki a létfontosságú ammónia jelenlétét, ami jelentős áttörés lehet a földönkívüli élet keresésében...

MA 06:17

Az XRP mélyrepülésben, vészesen közel az 1 dollárhoz

💸 Az XRP ára 1,44 dollárra (kb. 540 forint) esett vissza, ami 2024 novembere óta a legalacsonyabb szint...

MA 06:05

Történelmi események a mai napon (Február 5.)

Kiemelt fordulópontok egy napon: An Lushan császárrá avatja magát és megalapítja Yant, Mexico elfogadja a mai alkotmányát, az Apollo 14 pedig a Holdra ér...

MA 06:01

Az Adobe visszakozott: mégsem szüntetik meg az Animate-et

💪 Az Adobe váratlanul megváltoztatta döntését, és mégsem szünteti meg népszerű 2D animációs szoftverét, az Adobe Animate-et...

szerda 20:55

Az AMD zuhan a tőzsdén, miközben az MI-kereslet rakétázik

A chipgyártó AMD vezérigazgatója, Lisa Su szerint az MI iránti kereslet olyan tempóban gyorsul, amilyenre még ő sem számított...

szerda 20:38

Az MIT ultrahangos áttörése közelebb visz a tudat rejtélyéhez

Az emberi tudat eredetét máig rejtély övezi: a kutatók még mindig nem értik pontosan, miként képes az agy fizikai működése gondolatokat, érzelmeket és öntudatot teremteni...

szerda 20:21

Az MI kiszorította a juniorokat – most fizetjük meg az árát

A 33 éves Isaac négy éve dolgozik középszinten fejlesztőmérnökként egy nagy techcégnél, ahol komoly változásokat érzékelt a belépőszintű munkaerő körül...

szerda 20:01

Az egyiptomi hatóságok betiltják a Robloxot – búcsú a kedvencnek?

Az egyiptomi médiahatóság úgy döntött, hogy teljesen blokkolja az egyik legnépszerűbb, gyermekeknek szánt videojátékot, a Robloxot...

szerda 19:55

A Behemót visszatért: az óriáscsillag mégsem robban fel

Külön említést érdemel, hogy a WOH G64, vagy ahogy sokan hívják, a „behemót csillag”, mégsem haldoklik, ahogy azt korábban gondolták...

szerda 19:38

A Prime-tagoknak most ingyen jár az Amazon Alexa+ MI-asszisztense

💭 Az Alexa+ mostantól minden amerikai felhasználó számára elérhető, a Prime-előfizetők számára pedig teljesen ingyenes...

szerda 19:20

Az MI a trópusok megmentője? A nitrogén újraéleszti az esőerdőket

🌲 Az emberi tevékenység miatt az elmúlt évtizedekben rengeteg trópusi erdő tűnt el, helyüket legelők váltották fel...

szerda 19:01

A mesterséges intelligencia kudarcainak rejtett oka: a szétszabdalt rendszerek átka

⚠ Nehéz elhinni, de az MI körüli kezdeti lelkesedés mára gyakran csalódottságba fordult a vállalatoknál...

szerda 18:55

Az agy rejtett hálózata új megvilágításba helyezi a Parkinson-kórt

Érdemes megérteni, hogy a Parkinson-kórt eddig elsősorban mozgászavarnak tartották, pedig a betegség hátterében jóval összetettebb idegi hálózat rejtőzhet...

szerda 18:20

Az Ozempic és a Wegovy rejtett táplálkozási csapdája

Felmerül a kérdés, hogy mennyire biztonságos valójában a gyors fogyás az új generációs fogyasztószerekkel, mint az Ozempic és a Wegovy...