Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

hétfő 20:48

A Spotifyt is támadás érte: ellopták óriási zeneadatbázisát

A Spotify könyvtárát radikális, szerzői jogot sértő aktivisták teljes egészében letöltötték: összesen 256 millió sor zenei metaadatot és 86 millió audiofájlt szereztek meg, mintegy 300 TB terjedelemben...

hétfő 20:33

A táplálkozásunkon múlik, mennyire veszélyes a nanoműanyag

Az elmúlt években egyre nyilvánvalóbbá vált, hogy a műanyagok nem maradnak érintetlenek: apró, végül nanoszkopikus részecskékre esnek szét, amelyek már a csapvízben és szinte minden, műanyagba csomagolt ételben jelen vannak...

hétfő 20:17

Az álommeló korszaka lejárt: már nem menő a tech

💼 Az Apple tavaly novemberben váratlanul elbocsátásokat jelentett be, ami meglepte a dolgozókat, különösen azokat, akik évtizedek óta a cégnél dolgoztak...

hétfő 20:03

Az Ark EL íróasztal: stílusforradalom vagy giccsparádé?

A home office berendezésében mindenki szeretné megtalálni azt a bútordarabot, amely egyszerre mutatós és funkcionális, ugyanakkor elég strapabíró is, hogy bírja a mindennapi használatot...

hétfő 19:50

Az evolúció bajnokai: hogyan diadalmaskodtak az önfeláldozó hangyák?

A hangyák világa legalább annyira izgalmas, mint egy népszerű sci-fi, hiszen ezek az apró rovarok – amelyek akár néhány tucatnyi, de akár többmilliós kolóniákban is élhetnek – sikerüket nem az egyének erejének, hanem a számosságnak és a közösség hatékonyságának köszönhetik...

hétfő 19:34

A HPE súlyos sérülékenysége miatt azonnal frissítsen mindenki

⚠ A HPE OneView rendszerében felfedezett, maximális súlyosságú sebezhetőség súlyos gondokat okozhat a cégeknek, ha nem lépnek időben...

hétfő 19:16

Az Amazon-üzlet bukása pecsételte meg az iRobot sorsát

Colin Angle, az iRobot alapítója a cégét a nappalijából indította, és több mint 35 éven át építette, miközben 50 milliónál is több Roomba robotporszívót adott el világszerte...

hétfő 19:04

Az apák fittsége formálja a gyerekek jövőjét? A sperma-RNS a kulcs

Nem csak az anya, hanem az apa életmódja is – étrendje, testmozgása, stresszszintje, nikotinhasználata – képes hatni a születendő gyermekekre, méghozzá nem kizárólag genetikai úton...

hétfő 18:49

Az egyetem, ahol 3,5 millióan lettek adatlopás áldozatai

🔒 Majdnem 3,5 millió jelenlegi és volt hallgató, alkalmazott és beszállító adata szivárgott ki, miután a hírhedt Clop zsarolóvírus-csoport behatolt a Phoenix Egyetem (University of Phoenix) rendszerébe augusztusban...

hétfő 18:33

Az egészség titka: sejtjeink így zárják ki a szabadgyököket

🧠 A svédországi Lund Egyetem kutatói először rögzítették azt a pillanatot, amikor egy sejt képes lezárni a membránjában futó csatornákat, hogy megvédje magát a káros szabadgyököktől...

hétfő 18:17

Az olaszok lecsaptak az Apple-re: gigabírság az App Store miatt

Az olasz versenyhatóság közel 99 millió eurós, azaz mintegy 38 milliárd forintos bírságot szabott ki az Apple-re, mert visszaélt a piaci fölényével az App Store-ban...

hétfő 17:49

A Samsung beelőzi az összecsukható iPhone-t: érkezik az új kihívó

Az Apple hajlítható iPhone-ját még be sem jelentették, de a Samsung máris egy újabb versenytárs fejlesztésén dolgozik...

hétfő 17:18

Az iRobot Roomba megmenekült: minden marad a régiben

🚽 A Roomba porszívók tulajdonosai aggódva figyelték a fejleményeket, miután a gyártó iRobot csődeljárása során a kínai Picea kezébe került...

hétfő 17:02

Az ukrán hacker bukása: súlyos csapás a Nefilim zsarolóbandára

🔒 Egy 35 éves ukrán férfi, Artem Alekszandrovics Sztrizsak beismerte, hogy részt vett a Nefilim nevű zsarolóvírus-banda támadásaiban, amelyek főként nagy bevételű amerikai, norvég, francia, svájci, német és holland vállalatokat céloztak...

hétfő 16:49

Az Xbox válságban? Közeleg a forradalmi átalakulás

A Microsoftnál az utóbbi időben tömeges elbocsátások és stúdióbezárások rázták meg az Xbox-részleget, többen már le is írták a konzolt...

hétfő 16:34

Az új RAM-átverések tarolnak – így védekezz ellenük

Érdekes jelenség, hogy a dráguló rendszermemóriák miatt egyre gyakoribbak a RAM körüli csalások...

hétfő 16:17

Az NHS egyik kulcsbeszállítóját súlyos zsarolóvírus-támadás érte

💉 Anglia Nemzeti Egészségügyi Szolgálatának (NHS) egyik kulcsfontosságú technológiai beszállítója, a DXS International december közepén zsarolóvírus-támadást szenvedett el...

hétfő 16:03

A tengeri rózsa ősi titka: az állati sejttípusok eredete

🐬 Minden állat testében azonos a genetikai állomány, mégis rendkívül változatos sejttípusok és szövetek alakulnak ki...

hétfő 15:34

Az új ChatGPT-arcok: vállalati robot vagy zabolátlan haver?

🤖 A karácsony előtti fejlesztéshullám a ChatGPT-nél idén is folytatódik. Az OpenAI bevezette a vadonatúj személyiségbeállításokat, amelyeket a Characteristics menüpont alatt érhetsz el...