Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 20:50

Az esküvőszervezés forradalma: a menyasszonyok MI-től kérnek tanácsot

👰 Érdekes felvetés, hogy az MI – különösen a ChatGPT – már nemcsak az ismerkedésben vagy veszekedések lezárásában, hanem az esküvőszervezés legkülönbözőbb pontjain is helyet követel magának...

MA 20:34

A Google MI-je végre elintézi helyetted az utazást

✈ Egyre könnyebbé válik az utazástervezés, hála a Google legújabb MI-fejlesztéseinek. Akinek volt már része abban, hogy egy-egy nyaralás miatt tucatnyi böngészőfül között lavírozott, annak most egyszerűsödik az élete...

MA 20:17

A mindennapi zene fiatalon tartja az idősek agyát

🎵 Új kutatás szerint a 70 év feletti emberek, akik rendszeresen hallgatnak vagy játszanak zenét, sokkal kisebb eséllyel lesznek demensek vagy szenvednek kognitív leépüléstől...

MA 19:49

Az Amazonon már használt Fordokra is lecsaphatsz

Mostantól az Amazon Autos kínálatában használt Ford modellek is elérhetők. Egyelőre Los Angelesben, Seattle-ben és Dallasban érhető el a szolgáltatás, de hamarosan további városokban is megjelenik...

MA 19:02

Az új Windows-hiba miatt nem telepíthető a Microsoft 365

⚠ A Microsoft jelenleg egy olyan Windows-hiba elhárításán dolgozik, amely akadályozza a Microsoft 365 asztali alkalmazások telepítését...

MA 18:49

Az ősi vírusok odacsapnak az antibiotikumoknak

Egy apró, ősi vírus részletes térképe új utakat nyithat a szuperbaktériumok elleni harcban...

MA 18:33

Az adatlopási botrány, amely megrázta Pennsylvaniát

🔑 Augusztusban súlyos kibertámadás érte Pennsylvania állam főügyészének hivatalát: a rendszerbe betörő zsarolóvírus-banda több terabájtnyi személyes és egészségügyi adatot zsákmányolt...

MA 18:19

A DoorDash igazi botránya: bárki küldhetett hivatalos e-mailt

Fontos kérdés, hogy mennyire bízhatunk meg a nagy techcégekben, amikor személyes adatainkról vagy épp a vállalati kommunikáció biztonságáról van szó...

MA 18:02

Elillan az intézményi tőke a kriptóból – vége a bikának?

📈 Sorozatban harmadik hete zuhan a kriptobefektetési alapok vagyona: csak az elmúlt héten 2 milliárd dollár (kb...

MA 17:49

Az Emirates újabb Boeing-gigarendelése vihart kavart Dubajban

🛩 Az Emirates légitársaság 65 új Boeing 777-9 típusú repülőgépet rendelt 13 200 milliárd forintért (38 milliárd dollárért) a Dubai Airshow első napján...

MA 17:18

Az X bemutatta a Chatet: jönnek a titkosított üzenetek

💬 Az X leleplezte a Chat nevű új üzenetküldőt, amely leváltja az eddigi rendszert, mától pedig elérhető iOS-en és a weben, Androidra pedig hamarosan érkezik...

MA 16:56

Történelmi események a mai napon (November 17.)

Két mondatban: ezen a napon trónváltások, sorsfordító csaták és államalapítások alakították Európa és a világ történelmét...

MA 16:18

Az új MI-óriás: Bezos a valós világ technológiáját veszi célba

🚀 Jeff Bezos új MI-céget indít Project Prometheus néven, amely a mérnöki tudományokra és az űrkutatásra fókuszál...

MA 16:03

A Jaguar Land Rover-hack után 870 milliárdot bukott a Tata Motors

Az indiai Tata Motors jelenleg is küszködik a Jaguar Land Rovert ért kibertámadás következményeivel...

MA 15:51

Az MI felforgatja az iskolát: beszélgess, tanulj villámgyorsan!

📚 Az MI, különösen a generatív alkalmazások, mint a ChatGPT, alapjaiban változtatják meg az oktatás világát...

MA 15:18

A MI-vel felturbózott Windows 11 most mindenkit felbőszít – miért?

👨‍💻 Amit látunk, az túlmutat a megszokotton: a Windows 11 felhasználói folyamatosan egyre hangosabban fejezik ki elégedetlenségüket az operációs rendszer MI-vel kapcsolatos újításai miatt...

MA 15:03

A fosszilisenergia-létesítmények veszélybe sodorják az amerikaiak egészségét

Amerikában közel 47 millió ember él olyan közel valamilyen fosszilisenergia-infrastruktúrához, hogy mindennapjaik során jelentős egészségügyi kockázatoknak lehetnek kitéve...

MA 14:49

A milliárdos Jeff Bezos MI-re vált: új vállalat élén

Jeff Bezos új szerepben tér vissza: a Project Prometheus nevű MI-startup társigazgatója lesz...

MA 14:18

Az adatvédelem csődje: titkok, támadások, az elmaradt jelentés

Érdemes megvizsgálni, hogy az elmúlt hetekben hogyan sodródtak cégek és szervezetek súlyos adatbiztonsági botrányokba, miközben az állami szervek is késlekednek a nyilvánosság tájékoztatásával...