Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”


Legfrissebb posztok

A kínai Robot Olimpia: amikor a mesterséges intelligencia padlót fog

MA 11:26

A kínai Robot Olimpia: amikor a mesterséges intelligencia padlót fog

Kínában megrendezték az első Robot Olimpiát, ahol androidok olimpiai sportágakban versenyeztek. A háromnapos pekingi megmérettetésen 16 ország 280 csapata indult, köztük az Egyesült Államok, Németország, Brazília és természetesen...

Az MI eluralkodik, de ki készíti fel rá az amerikaiakat?

MA 11:01

Az MI eluralkodik, de ki készíti fel rá az amerikaiakat?

🤔 Az Egyesült Államok vezető technológiai cégei, köztük az Amazon, a Google és a Microsoft, komoly lépéseket ígérnek annak érdekében, hogy az ország lakói felkészüljenek a mesterséges intelligencia (MI)...

Jönnek a Meta-szemüvegek és a metaverzum, változás jöhet 2025-ben

MA 10:54

Jönnek a Meta-szemüvegek és a metaverzum, változás jöhet 2025-ben

A Meta Connect 2025 már a küszöbön áll, és idén minden eddiginél nagyobb hangsúlyt kapnak az okosszemüvegek, valamint a mesterséges intelligencia és a metaverzum fejlődése. Mark Zuckerberg és...

Az MI, amely már nem felejt: emlékezik a Le Chat

MA 10:40

Az MI, amely már nem felejt: emlékezik a Le Chat

🤓 A párizsi Mistral MI fejlesztése, a Le Chat nevű csevegőrobot immár képes emlékezni a korábbi beszélgetésekre és személyes adatokra, így egyre inkább személyre szabott válaszokat ad. A szolgáltatás...

A Thyssenkrupp acélüzletágára már az indiaiak is szemet vetettek

MA 10:27

A Thyssenkrupp acélüzletágára már az indiaiak is szemet vetettek

👀 A Thyssenkrupp részvényei 4,4%-kal erősödtek, miután az indiai Jindal Steel nem kötelező érvényű ajánlatot tett a német konglomerátum acélüzletágára. A cég vezetősége részletesen átvizsgálja az ajánlatot, különös tekintettel...

Mini bakelit lemezek, zsebre teheted a lemezjátszót

MA 10:04

Mini bakelit lemezek, zsebre teheted a lemezjátszót

A bakelitlemezek piaca az utóbbi években újra virágkorát éli, és az MI-korszakban már nemcsak a nagy, klasszikus korongok hódítanak: megérkezett a Mini Bakelit (Tiny Vinyl), az új, négy...

Az olcsóbb Cybertruck villámgyors veszte: öt hónapig sem húzta

MA 09:52

Az olcsóbb Cybertruck villámgyors veszte: öt hónapig sem húzta

Az olcsóbb, hátul hajtott Tesla Cybertruck alig öt hónapig volt elérhető, mielőtt csendben eltűnt volna a gyártó honlapjáról. Ezt a változatot tavasszal, áprilisban kezdték árulni Long Range néven,...

Az ingyenes MI-kurzusok aranybányája: így tanulhatsz profin, pénz nélkül

MA 09:40

Az ingyenes MI-kurzusok aranybányája: így tanulhatsz profin, pénz nélkül

A mesterséges intelligencia egyre gyorsabban fejlődik, ezért érdemes minél többet megtudni róla – főleg, ha még fizetni sem kell érte. Az Udemy online platformon most 21 különböző MI-kurzus...

A Microsoft már a Teamsben is figyelmeztet a rosszindulatú linkekre

MA 09:27

A Microsoft már a Teamsben is figyelmeztet a rosszindulatú linkekre

Új funkcióval bővül a Microsoft Teams: mostantól automatikusan figyelmeztet, ha magánüzenetben veszélyesnek minősített linket küldesz vagy kapsz. Az újítás minden Microsoft Defender for Office 365-tel rendelkező Teams-vállalati ügyfélhez...