2025. 03. 04., 10:29

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

MA 08:15

A két kilométer mélyen rejtőző aranygömb meglepő titka

🪙 Több mint két kilométer mélységben találtak rá a titokzatos arany gömbre az Alaszkai-öbölben, ami éveken át lázban tartotta a tudósokat és a laikusokat egyaránt...

MA 08:01

Az automatizált iPaaS forradalmasítja az ellátási láncokat

⚡ Az ellátási láncokban a hagyományos integrációs modellek már nem bírják a terhelést...

MA 07:56

A MARA Alapítvány harcba száll a Bitcoin jövőjéért

💸 Megemlíthető, hogy Las Vegasban, a Bitcoin Conference rendezvényén Fred Thiel, a MARA Holdings vezérigazgatója bejelentette a MARA Foundation megalapítását, amelynek célja a Bitcoin-hálózat hosszú távú biztonságának és alkalmazkodóképességének garantálása...

MA 07:49

Az elfojtott stressz alattomosan kikezdi az emlékezetet

🤯 Az idősebb kínai amerikaiak körében végzett kutatás szerint azok a stresszfajták, amelyeket az emberek magukba fojtanak, jelentősen növelhetik a memóriazavar kialakulásának esélyét...

MA 07:43

Az egyetemisták kozmikus rádióval űzik a sötét anyagot

📺 Érdemes megérteni, hogy egyetemi hallgatók is képesek lehetnek valódi áttöréseket elérni a modern fizika legnagyobb rejtélyei között számon tartott sötét anyag keresésében – méghozzá óriási nemzetközi projektek, hatalmas pénzekkel támogatott laboratóriumai nélkül is...

MA 07:37

A megfizethető MI forradalma: a Xiaomi MiMo V2.5 tarol

🚀 A Xiaomi neve eddig leginkább okostelefonjaival és elektromos autóival fonódott össze, de most a kínai vállalat olyan nyílt forráskódú, nagy teljesítményű nyelvi MI-modellekkel rukkolt elő, amelyek hatékonyságukkal és árukkal is felforgatják a piacot...

MA 07:29

Az apró emlős, amely túlélte a dínóvészt – ma ő az úr

🐮 Mintegy 66 millió évvel ezelőtt egy katasztrofális esemény eltörölte a Föld élővilágának háromnegyedét, köztük a dinoszauruszokat is...

MA 07:22

Az MI áttörése: Jön az olcsóbb otthoni fűtés?

Érdekes felvetés, hogy a japán kutatók újfajta MI-eszköze néhány másodperc alatt képes ultrahatékony hőelektromos generátorokat tervezni...

MA 07:15

Az olajárugrás és a geopolitikai feszültség megtépázta a Bitcoint

💰 Érdemes megvizsgálni, hogy a Bitcoin ára hétfőn 76 600 dollárig esett vissza, miután az éjjeli, közel 80 000 dolláros magasságát nem tudta tartani...

MA 07:08

Az új Moomin-játék: A tél, amely átölel

❄ Történetünk a kedves, ismerős havas tájakkal kezdődik, ahol Moomintroll véletlenül felébred téli álmából – jóval korábban, mint a többiek...

MA 07:01

Az OpenAI nagy dobása: együtt a szuperintelligens MI-vel?

🚀 Különösen igaz ez akkor, ha szinte naponta jelenik meg újabb mérföldkő a mesterséges intelligencia (MI) fejlődésében...

MA 06:56

Az Aave mentőakciója: százmilliók a DeFi megmentésére kriptolopás után

🛡 Az elmúlt héten a decentralizált pénzügyi világban példátlan összefogás indult, miután egy hatalmas hackelés súlyos károkat okozott az Aave felhasználóinak...

MA 06:50

Musk kontra Altman: az MI-gigászok csatája a bíróságon

Elon Musk és Sam Altman, a MI világának két meghatározó alakja, hamarosan szemtől szemben állnak egymással egy rendkívül nagy tétre menő perben az oaklandi szövetségi bíróságon...

MA 06:43

Az élet jelei? Szenzációs szerves molekulákat talált a NASA Mars-járója

A Mars felszínén kutató Curiosity marsjáró olyan kőzetmintát talált, amelyben minden eddiginél több, az élet építőkövei közé sorolható szerves molekula rejtőzött...

MA 06:36

Az új Steam Controller végre itt: tényleg forradalmat hoz?

Május 5-én debütál Ausztráliában az új Steam Controller, 149 ausztrál dolláros (kb...

MA 06:29

Az MI-nagyok engednek: az OpenAI kilép a Microsoft árnyékából

Jellemző példa erre, hogy a Microsoft és az OpenAI hétfőn teljesen új alapokra helyezték korábbi kizárólagos együttműködésüket...

MA 06:23

Az Amazfit Active 3 Premium: minden, amire egy kezdő futó vágyik

🏃 Az Amazfit Active 3 Premium néhány dologban kiemelkedő: kellően tartós, elegáns, és számos, kezdő futók számára hasznos edzéstámogató funkcióval rendelkezik...

MA 06:16

Az MI vezérelte megfigyelési kapitalizmus fogságából senki sem menekülhet

Egy szokványos hétvégi reggelen úgy tűnik, semmi különös nem történik: elindulsz a barkácsboltba, autóba ülsz, vásárolsz valamit, majd hazatérsz...

MA 06:09

Az MI már önmagát fejleszti – áttörés az önoptimalizáló rendszerekben

🤖 Az MI-rendszerek fejlesztése eddig rengeteg kézi munkát igényelt: kutatók és mérnökök fáradságos körökben tesztelték hipotéziseiket, elemezték az eredményeket, és levonták a tanulságokat...

MA 06:05

Történelmi események a mai napon (Április 28.)

Kiemelkedő nap a történelemben: véget ér a japán megszállás, Muhammad Ali nemet mond a besorozásra, Charles de Gaulle lemond, a Pink Floyd pedig rekordot dönt a listákon...

MA 06:02

Az új Morrowind-mod végre élvezetessé varázsolja a harcot

⚡ Fontos kérdés, hogy lehet-e a Morrowind harcrendszeréből élvezetes játékélményt kihozni, hiszen 2002 óta kísért az a frusztráció, amikor az orrod előtt álló ellenfelet is simán elvéted...

hétfő 21:57

A meglepő magyarázat: nem az agyukon múlt a neandervölgyiek bukása

Sokan azzal magyarázták a neandervölgyiek mintegy 40 000 évvel ezelőtti eltűnését, hogy agyi képességeik elmaradtak a korai modern emberekétől, akik végül kiszorították őket Eurázsiából...

hétfő 21:44

Az új digitális aláírás kvantumbiztossá teszi a Solanát

🔒 A Solana fejlesztői előre kidolgozták, hogyan küzdjék le a jövő kvantumszámítógépeinek fenyegetését: két kulcsfontosságú fejlesztői csapat, az Anza és a Jump Crypto-hoz tartozó Firedancer ugyanarra a megoldásra jutottak...

hétfő 17:34

A csuklódon születik újjá a Game Boy Color

🕸 Felmerül a kérdés, kinek jutott már eszébe, milyen lenne, ha gyerekkori kedvenc játékkonzolját egyszerűen a csuklójára csatolhatná...

hétfő 17:12

Az újabb WoW-botrány: tényleg újra kéne kezdeni a játékot?

🎮 A Blizzard egykori elnöke, Mike Ybarra újra nagy port kavart, amikor egy nemrégiben kiadott, igencsak elhibázott World of Warcraft (WoW) frissítés után arról írt, hogy a játékot teljesen újra kellene indítani, különben folytatódik a lejtmenet...

hétfő 16:56

Az OpenAI új útra lép: hova tűnt a nagy vízió?

Felmerül a kérdés, hogy milyen jövőt álmodik magának az OpenAI, miután Sam Altman közzétette az „Alapelveink” című nyilatkozatát...

hétfő 16:45

Az Nvidia új AI-csodája: már az Intelre is fáj a foga

🤔 Az Nvidia és az Intel egyre szorosabbra fűzi a kapcsolatát: miután tavaly bejelentették, hogy közösen fejlesztenek új x86-os SoC-okat RTX GPU-chipletekkel, már úgy tűnik, hogy ezt is megfejelik még valamivel...

hétfő 16:34

A szemünk hihetetlen eredete egy ősi egyszemű lényig vezet

👀 Az emberi szem története rendkívül messzire, mintegy 600 millió évvel ezelőttre nyúlik vissza, ahol egy furcsa, egyszemű, féregszerű ős áll a középpontban...

hétfő 16:23

Az utolsók köztünk Online: egy elveszett legenda története

💀 Az Az utolsók köztünk Online (The Last of Us Online) törlése sok rajongónak csalódást okozott, hiszen szinte már kész volt, mégsem jelenhetett meg...