Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 18:40

Leghaszontalanabb amerikai szlengek és idiómák

“Wallet biopsy” Szó szerint: pénztárca-biopszia 💸, amikor egy orvos vagy egészségügyi szolgáltató előbb ellenőrzi 🔬, mennyi pénzed / biztosításod van, és aztán dönti el, milyen vizsgálatot kapsz...

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

MA 11:34

Az ázsiai tőzsdéket megrázta a váratlan kínai gyengülés

📈 Decembert vegyes hangulatban kezdték az ázsiai piacok, miután Kína feldolgozóipari teljesítménye váratlanul visszaesett...

MA 11:18

Az MI gondolkodik, vagy csak egy okos autós kütyü?

🤔 A gépek gondolkodásának kérdése hosszú ideje foglalkoztatja az emberiséget. Már Alan Turing 1950-ben eldöntendő kérdésként vetette fel: „Gondolkozhatnak-e a gépek?”..

MA 10:51

Az elhízás csendes motorja: a szójaolaj kockázatai

🥗 A szójaolaj az Egyesült Államok legnépszerűbb konyhai olaja, szinte minden feldolgozott élelmiszerben megtalálható...

MA 10:43

Az Amazon és a Google összeáll: indul a közös multicloud-hálózat

A két technológiai óriás, az Amazon és a Google bejelentették egy új, közösen fejlesztett multicloud hálózati szolgáltatás indulását, amely lehetővé teszi, hogy ügyfeleik percek alatt magán, nagy sebességű kapcsolatot hozhassanak létre az Amazon Web Services (AWS) és a Google Cloud platformjai között – amelynek kiépítését korábban hetekig tartó, bonyolult szervezés előzte meg...

MA 10:29

Az okostévés YouTube‑pótlék is fertőzött: mit tegyél most?

💡 A héten derült ki, hogy a SmartTube, a legnépszerűbb YouTube-alternatíva Android TV-re és Fire TV-re, hivatalos APK-fájljai kártevőt tartalmaznak...

MA 10:16

Az állam bekeményít: feketelistán a felhő, az M365 és a SaaS

🕵 Svájc adatvédelmi szakemberei komoly aggályokat fogalmaztak meg a nagy felhőszolgáltatókkal, különösen a SaaS (szoftver mint szolgáltatás) rendszerekkel kapcsolatban...

MA 09:23

A leépítések árnyékában: a nagyvállalatok titkos védőhálója

🔑 A gazdasági turbulenciák minden eddiginél nagyobb kihívások elé állítják a vállalatokat...

MA 09:08

Az MI forradalmasíthatja az űrmeghajtást

Az egyszerre hatékonyabb és biztonságosabb bolygóközi utazások érdekében az űrmérnökök új lendületet keresnek a meghajtási technológiák fejlesztésében...

MA 08:58

Mérgezik az Amazon adatközpontjai Oregon állam ivóvizét?

💧 Morrow megye, Oregon – több százezer liter víz tűnik el évente az Amazon hatalmas adatközpontjaiban, amelyek a környéken működő mezőgazdasági óriásüzemek közé épültek...

MA 08:50

Az oroszokat kizárták az ISS-ről, összeomlott a kilövőállás

November 27-én sikeresen startolt egy orosz rakéta a Nemzetközi Űrállomásra, ám a gondok nem sokkal később kezdődtek...

MA 08:44

Az ítéletnapi gleccser repedezik: közeleg a tengeri katasztrófa?

Két évtizeden át gyűjtött műholdas és GPS-adatok alapján a nyugat-antarktiszi Thwaites-gleccser (közismertebb nevén ítéletnapi gleccser) jégselfje aggasztó ütemben veszít stabilitásából...

MA 08:38

A mesterséges intelligencia már titokban értékeli az egyetemi kutatást?

Első pillantásra úgy tűnt, hogy a brit kutatási világ még óvatosan közelít a mesterséges intelligencia (MI) használatához, ám egy friss országos jelentés váratlanul rávilágított: a generatív MI már elterjedten segíti az egyetemeket kutatási teljesítményük értékelésében – még akkor is, ha erről kevés szó esik nyilvánosan...

MA 08:30

A nagy rejtély: miben tér el a gőte a szalamandrától?

Többek között erdei tavak környékén gyakran lehet találkozni hosszú farkú kétéltűekkel: szalamandrákkal, vagy akár gőtét is felfedezhetünk...

MA 08:23

Az alapítók háborúja: ezért dől be a legtöbb startup

A kezdő vállalkozások egyik legfőbb buktatója az alapítók közötti kapcsolatban keresendő...

MA 08:08

A cukros csapda: a fruktóz alattomosan szítja a gyulladást

A legújabb kutatások szerint már egész rövid ideig tartó, fruktózban gazdag italok fogyasztása is felerősítheti az immunrendszer gyulladásos reakcióját...

MA 07:52

Az elveszett amazóniai világ újra felbukkant Bolíviában

🌎 Bolívia Amazóniájának egyik legrejtettebb területén, az Exaltación hatalmas tektonikus tavai körül egy elveszett világ emelkedett újra felszínre...

MA 07:43

Az űripar új sztárja: 54 milliárdos tét egyetlen részvényre

A tulsai székhelyű Schusterman Interests mintegy 2,1 millió Karman Holdings-részvényt vásárolt, összesen 54 milliárd forint értékben (148 millió USD), miután a Karman árfolyama kevesebb mint egy év alatt több mint megháromszorozódott...