Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

péntek 20:49

Az MI veszélyes biztonsági vihart kavart a felhőben

⚡ Az MI villámgyors elterjedése fenekestül felforgatja a felhőalapú biztonságot. Egy friss jelentés szerint egyre több cég használ MI-alkalmazásokat, szemmel láthatóan gyorsabban, mint ahogy az informatikai vezetők képesek biztonságosan követni...

péntek 20:17

Az interneten 25 ezernél több sebezhető FortiCloud-eszköz vár támadókra

Több mint 25 ezer Fortinet-eszközt találtak online bekapcsolt FortiCloud SSO-val, amelyek súlyos hitelesítési hibának vannak kitéve...

péntek 20:01

Az Apple mostantól saját maga hajtja be pénzét a fejlesztőkön

Az Apple új fejlesztői szerződése felkavarja az állóvizet: a vállalat mostantól engedélyt kapott arra, hogy különböző díjakat vagy jutalékokat – például az alkalmazáson belüli vásárlások jutalékait – akár automatikusan levonjon a fejlesztők bevételeiből...

péntek 19:50

A kínai „szuperinternet” felforgathatja a globális digitális erőviszonyokat

A kínai hatóságok hivatalosan is elindították a China Environment for Network Innovation (CENI) nevű kísérleti hálózatot, amely hatalmas ugrást hozhat a globális hálózati kutatásokban...

péntek 19:35

Az MI turbózza a kibervédelmet: összefog a Criminal IP és Palo Alto

🛠 Az átfogó fenyegetéselemzés és az automatizált incidenskezelés mostantól egyesül a Palo Alto Networks Cortex XSOAR és a Criminal IP együttműködésének köszönhetően...

péntek 19:18

Az Optus tűzfalfrissítése halálos árat követelt Ausztráliában

⚠ Szeptember 18-án az Optus, Ausztrália egyik vezető távközlési cége 14 órán keresztül képtelen volt számos ügyfele segélyhívását eljuttatni a 000-számra, amely az USA-ban a 911-nek, Európában pedig a 112-esnek felel meg...

péntek 19:02

A nyugati futóáramlás szeszélyei forgatják fel éghajlatunkat

Az utóbbi években egyre szélsőségesebb lett az időjárás világszerte: a közepes szélességi körökön, különösen érzékeny térségekben mind gyakoribb az aszályok és árvizek gyors váltakozása...

péntek 18:33

Az önzetlenség tényleg fiatalít: évekkel fiatalabb lehet az agy

💪 Segíteni másokon hetente néhány órán át nemcsak jó érzés, hanem úgy tűnik, évekkel lassíthatja az agy öregedését...

péntek 18:17

Az UEFI-hiba alaplapok millióit veszélyezteti

Számos ASUS, Gigabyte, MSI és ASRock alaplap UEFI firmware-je új, kritikus biztonsági hibával küzd, amely lehetővé teszi a támadók számára, hogy fizikai hozzáféréssel, még a gép indulása előtt, megtámadják a rendszert...

péntek 17:49

Az amerikaiak kezébe kerül a TikTok irányítása

A TikTok megegyezett abban, hogy jelentős tulajdonrészt enged át amerikai befektetőknek amerikai üzletágában, véget vetve ezzel egy évek óta húzódó vitának, amelyben a kormányzat rendszeresen szorgalmazta a platform szétválasztását...

péntek 17:01

Az Ursidák éjszakája: csillaghullás a téli napfordulón

✨ Ha december 21–22. éjszakáján fent maradsz, érdemes kifeküdni az éjszakai ég alá, mert ekkor tetőzik az éves Ursidák meteorraj...

péntek 16:50

Az Instacart-botrány ára: 21 milliárdos visszatérítés

💳 Az Instacart, Észak-Amerika egyik legnagyobb online élelmiszer-kiszállító szolgáltatása, 21 milliárd forintot (60 millió amerikai dollárt) fizet vissza ügyfeleinek, miután a Szövetségi Kereskedelmi Bizottság (FTC) megállapította, hogy a cég megtévesztő előfizetési gyakorlatokat alkalmazott...

péntek 16:33

Az amerikai TikTok végre új gazdára talál

Az USA-ban használt TikTok hamarosan új kezekbe kerül: a kínai ByteDance eladja az üzlet jelentős részét, hogy megfeleljen az amerikai kormány elvárásainak...

péntek 16:17

A világűrben robbant fel egy Starlink műhold?

Egy Starlink-műhold váratlan meghibásodás miatt hirtelen magasságot vesztett, miközben törmelékfelhőt hagyott maga után a Föld körüli pályán...

péntek 16:01

A Starlink-műhold felrobbant, űrszemétté vált darabok keringenek

🛰 A SpaceX egyik Starlink-műholdja váratlanul felrobbant, ami nyomon követhető törmeléket hagyott maga után az űrben...

péntek 15:50

A japán szuperlézer fémet olvaszt, drónokat vadászik

🔥 Japán egy forradalmian új, nagy teljesítményű lézerfegyvert tesztel tengerészeti körülmények között, amely 100 kilowattos lézernyalábbal képes átvágni a fémet, és lelőni a drónokat akár repülés közben is...

péntek 15:34

A fák évgyűrűi feltárhatják a víztakarékosság jövőjét

Erre utal többek között az, hogy a fák évgyűrűi sokkal többről árulkodnak, mint gondolnánk: képesek betekintést nyújtani a bolygó múltjába, így akár Ohio elrejtett környezeti történetének hiányzó részeit is segíthetnek feltárni...

péntek 15:18

Az Android 16 emodzsiözönt hoz – íme a részletek

Android 16 már most elérhetővé teszi a 163 vadonatúj emodzsit azoknak, akik a legfrissebb QPR3 bétát használják...

péntek 15:02

Az orosz hekkerek már a dán ivóvizet is célba vették

Dániában az orosz államhoz köthető hackercsoportok hajtottak végre több pusztító kibertámadást, amelyek a kritikus infrastruktúrát célozták, különösen a vízellátó rendszert...