Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

Top
hétfő 16:50

Egyetemet végzett milliárdosok – ki mit végzett?

A közvéleményben gyakran keringenek olyan történetek, amelyek a felsőoktatásból kimaradó vállalkozókról szólnak...

MA 07:53

A ’90-es évek visszatérnek az Analogue 3D-vel – megéri?

🗓 Felmerül a kérdés, hogy tényleg csak a nosztalgia miatt vágyunk vissza a Nintendo 64 korszakába, vagy az Analogue 3D új konzolja ennél többet is kínálhat...

MA 07:43

A MI-részvények hullámvasútja: mit vegyünk, mit kerüljünk?

🎲 Megemlíthető, hogy az utóbbi időben jelentősen megingott a tőzsde az MI-hez kötődő vállalatok részvényeinek árazása miatt...

MA 07:31

Az új Windows 11: jobb Xbox-élmény, könnyebb visszaállítás, simább használat

🎮 Tipikus eset, amikor egy Windows Insider-frissítés nemcsak új funkciókat, hanem új irányokat is hoz – ilyen a most megjelent Windows 11 Insider Preview Build 26220...

MA 07:15

Az iráni főváros menekül: ökológiai katasztrófa űzi Teheránt

Teherán évtizedek óta vízhiánnyal és egyre súlyosbodó ökológiai válsággal küzd, mára azonban a helyzet elérte a kritikus pontot...

APP
MA 07:12

APPok, Amik Ingyenesek MA, 11/22

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     Expense Tracker – AI Powered (iPhone/iPad)Az Expense Tracker egy innovatív alkalmazás, amely mesterséges intelligencia segítségével teszi egyszerűvé a pénzügyeid nyomon követését...

MA 07:08

A támadók előtt tárva-nyitva az ajtó: súlyos Oracle-hiba

Az Egyesült Államok Kiberbiztonsági és Infrastruktúra-biztonsági Ügynöksége (CISA) figyelmeztetést adott ki az Oracle Identity Manager súlyos sebezhetőségéről, amelyet aktívan ki is használnak a támadók...

MA 07:01

Az új csodagyógyszerek tényleg megóvnak a szívinfarktustól?

❤ A legújabb kutatások szerint a tirzepatid (Mounjaro, Zepbound) és a semaglutid (Ozempic, Wegovy) nemcsak a vércukorszintet szabályozzák, hanem erőteljes védelmet nyújtanak a szívnek is...

MA 06:57

A versenyfutás az idővel: bíróság szorítaná vissza a Google hirdetési monopóliumát

⏱ A Google és az amerikai Igazságügyi Minisztérium utolsó lehetőséget kaptak arra, hogy meggyőzzék Leonie Brinkema bírót arról, hogyan orvosolhatnák a Google hirdetési technológiai piacokon fennálló monopóliumát...

MA 06:36

Az alvilág új aranybányája: az illegális állatkereskedelem

A világon egyre több szervezett bűnözői hálózat elegyíti az illegális állatkereskedelmet a fegyver- és drogcsempészettel, valamint az emberkereskedelemmel...

MA 06:23

Az MI-licencelés aranybányát nyitott a Curiosity Streamnek

A tudományos fókuszú Curiosity Stream streaming szolgáltatás új korszakot nyitott: tartalmait már nemcsak nézőknek, hanem MI-fejlesztőknek is értékesíti...

MA 06:15

Az Epstein-levelek új életre kelnek: itt a Jmail

📩 Több mint 20 000 oldalnyi Jeffrey Epsteinhez köthető e-mail került nyilvánosságra a hónap elején, amelyek most már a Gmail Beérkező levelek mappájához hasonló, átlátható formában böngészhetők...

MA 06:05

Történelmi események a mai napon (November 22.)

Ma a történelem több pontján is fordulókra emlékezünk: Blackbeard halálától a Cairo Conference háborús stratégiájáig, a The Beatles ikonikus lemezétől a Toy Story forradalmi animációjáig...

MA 06:01

Az Open Compute forradalma: kvantumszámítógépek költöznek az adatközpontokba

A kvantumszámítógépek nem csak sci-fi álmok, egyre inkább helyet követelnek maguknak a hagyományos nagy teljesítményű számítógépek mellett...

péntek 20:50

Az MI vészleállítója: megfékezhetők az elszabadult ügynökök?

Fontos kérdés, hogyan akadályozható meg az MI-ügynökök nemkívánatos tevékenysége, például az illegális adatgyűjtés...

péntek 20:33

Az MI-módban sem menekülsz a Google hirdetései elől

👀 A Google mostantól hirdetéseket jelenít meg az MI-módban is, amely a megszokott kereső helyett már egy kérdés-válasz rendszerként működik...

péntek 20:17

Az Avast most ingyen adja a világ legokosabb csalásvédelmét

Az Avast bejelentette a Scam Guardian nevű új szolgáltatását, amely mesterséges intelligencián alapuló átverésvédelmet kínál mindenkinek, teljesen ingyen...

péntek 20:01

Az első gyógyszercég a billiódolláros klubban: tarol az Eli Lilly

Az amerikai Eli Lilly gyógyszergyártó áttörte az 1 billió dolláros (kb...

péntek 19:49

Végre nem küldi fel a felhőbe a szöveget az okos másolás–beillesztés

A Microsoft továbbfejleszti a PowerToys Advanced Paste eszközét a Windows 11-ben, így mostantól az MI nemcsak a felhőben, hanem közvetlenül a számítógépen is futtatható...