Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

szombat 12:19

Az otthoni robot, amely majdnem annyiba kerül, mint egy autó

Ez a robot 168 cm magas, tömege pedig nagyjából egy golden retrieveréhez hasonlítható, ára pedig majdnem egy új, olcsó autóéval vetekszik...

kedd 14:10

Egy könyvvel az ellenség szívéhez – Franklin megdöbbentő módszere

Egy nap eszébe jutott valami merész és szokatlan. Tudta, hogy ellenfelének könyvtárában számos ritka és értékes kötet található, melyekre nagy becsben tartott, és az is köztudott volt, hogy igazi büszkesége egyik különleges könyv volt, amelyet csak kevesen olvashattak...

MA 20:50

Az MI-háború új frontja: A Microsoft influenszerekkel támad

A Microsoft mindent bevet, hogy növelje a Copilot nevű chatbotjának letöltéseit, és az egyre sikeresebb ChatGPT méltó riválisaként pozicionálja magát a fiatalok körében...

MA 20:41

Az MI-felhajtás árnyoldala: Üres adatközpontok Silicon Valley-ben

Santa Clara jelenleg szokatlan látványt nyújt: a világ két legnagyobb adatközpont-fejlesztőjének legújabb épületei üresen állnak, mert nincs elektromos áram, amely működtetné őket...

MA 20:32

Az Apple eltávolította a meleg társkereső appokat Kínában

🔴 Az Apple eltávolította a Blued és a Finka népszerű meleg társkereső alkalmazásokat a kínai App Store-ból, miután erről a Kínai Kibertér-felügyelet hivatalosan is rendelkezett...

MA 20:22

Kiszivárgott Kína kiberfegyver-arzenálja és célpontlistája

🕵 Egy kínai informatikai biztonsági cégnél történt masszív adatlopás a napokban több mint 12 000 titkos dokumentum kiszivárgásához vezetett...

MA 20:12

A madárinfluenza végigsöpör Észak-Amerikán, veszélyben a vadvilág

🐦 Az elmúlt években a rendkívül fertőző HPAI A(H5Nx) madárinfluenza-vírus hatalmas pusztítást végzett Észak-Amerika madárvilágában, és komoly károkat okozott a baromfiágazatnak...

MA 20:01

Az új Google Maps MI-eszközökkel bárki interaktív térképeket készíthet

🗺 A Google Maps forradalmasítja a fejlesztők és felhasználók lehetőségeit: új MI-funkciók érkeznek, amelyekkel interaktív projekteket lehet készíteni térképadatok és kód segítségével...

MA 19:50

Az MI-őrület üresen hagyja az Nvidia városában lévő adatközpontokat

Santa Clarában, ahol az Nvidia székel, két óriási adatközpont-fejlesztés áll üresen, mert a helyi áramszolgáltató képtelen elegendő elektromos energiát biztosítani...

MA 19:42

Az ingyenes buszjárat új lendületet ad Kansas City közlekedésének

2020-ban Kansas City úttörő döntést hozott: a helyi közlekedési hatóság, a KCATA mindenki számára ingyenessé tette a buszjáratokat...

MA 19:31

Az amerikai kibervédelem szétesik: így csapnak le a támadók

Június végén furcsaság történt Arizona hivatalos választási oldalán: politikusi arcképek helyére az iráni Khomeini ajatollah képe került fel, más képek pedig egyszerűen eltűntek...

MA 19:21

Az állandó fáradtság mögött rejtett légzészavar állhat

🧘 A krónikus fáradtság szindróma rengeteg embert taszít teljes kimerültségbe, ráadásul sokaknak még a gondolkodás is nehezükre esik...

MA 19:14

Az emberiség nagy ugrása, tényleg a világűrbe vezet az út?

Az élet többmilliárd éves történetét a Földön forradalmi átalakulások határozták meg: ilyen volt a sejtek megjelenése, a többsejtű szervezetek kialakulása, valamint az élet terjedése az ősi óceánoktól a szárazföldig és az égig...

MA 19:01

Az új D3-vitamin terápia felére csökkenti a második szívroham kockázatát

Egy jelentős, Salt Lake City-i kutatás szerint a személyre szabott D3-vitamin-adagolás felére csökkentheti annak kockázatát, hogy a szívinfarktuson átesett betegek újabb szívrohamot szenvedjenek el...

MA 18:52

A neutroncsillag szele átírja az űr fizikáját

💫 A Japán Űrügynökség (JAXA), a NASA és az ESA közös XRISM nevű missziója páratlan felfedezést tett: a GX13+1 jelű neutroncsillag körül sűrű, ködös szél áramlik, egészen más módon, mint a galaxisok központjában található szupernagy tömegű fekete lyukak környezetében tapasztalt heves kifúvások...

MA 18:41

Az igazi matematikai áttörések a táblán derülnek ki

📜 A tudósok szerint nem kell belebújni a matematikusok fejébe ahhoz, hogy észrevegyük, mikor közelítenek egy nagy felfedezéshez – elég csak figyelni, hogyan mozognak a táblánál...

MA 18:31

Az első kávé védelmet nyújthat a szívnek?

Egy új kutatás szerint a napi egy csésze kávé közel 40%-kal csökkentheti a pitvarfibrilláció (AFib) visszatérésének kockázatát...

MA 18:21

Az új Windows 11 Start menü: ezt most átalakítják

A Windows Start menü 2021 óta először kap teljesen új külsőt, amelyet minden felhasználó megkap a november 11-i Patch Tuesday frissítéssel...

MA 18:12

Az Alfa-generáció digitális bennszülöttként keresi a helyét a bizonytalan világban

A jelenleg 0–15 éveseket magában foglaló Alfa-generáció kétmilliárdos lélekszámával minden korábbit felülmúl...