Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát

Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI. Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget. “Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”

Árulkodó nyelvi jelek

Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.

A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.

Egyedi stílusjegyek

Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.

“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”

Legfrissebb posztok

csütörtök 18:24

Penrose szám: A bizonyíték Isten létére?

Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...

MA 18:49

A Google-nál már az ingyenes képgenerálás is luxus

💸 A Google népszerű, MI-alapú képgenerátora, a Nano Banana mostantól naponta csak kétszer használható ingyenesen, mert a vállalat alig bírja kiszolgálni a rohamot...

MA 18:34

Az egekben a kávé ára – tényleg tart a drágulási hullám?

Az elmúlt évben a kávé ára szinte példátlanul magasra szökött. A pörkölt kávé átlagos bolti ára szeptemberre fél kilónként 9,14 dollárra (kb...

MA 18:01

Az új galliumcsoda elindítja a zöld kémia forradalmát

🧠 A modern vegyipar egyik legnagyobb kihívása, hogy az alapvető, katalizátorral gyorsított kémiai reakciókat általában drága és nehezen hozzáférhető átmenetifémek – például a palládium, a ródium vagy a platina – segítségével végzik...

MA 17:33

A VMware nem hátrál a Siemens ellen: milliárdos per jöhet

📢 Érdemes megérteni, mi áll a Siemens és az amerikai VMware között zajló jogi csatározás hátterében: a vita középpontjában több százmillió forintnyi, állítólag ki nem fizetett szoftverlicencek állnak, amelyeket a VMware anyavállalata, a Broadcom kér számon a német ipari óriáson...

MA 17:17

Az Airbus továbbra is a Microsoft foglya

Több mint hét éve indult el az Airbus nagy áttörési kísérlete: a vállalat több mint 100 000 dolgozóját akarta átszoktatni a Microsoft Office termékeiről a Google Workspace-re...

MA 16:48

Miért képtelen az MI megmondani, mennyi az idő?

ChatGPT böngészik, kódot ír, képeket elemez, de ha megkérdezed, hány óra van, vagy eltalálja, vagy magabiztosan téved, vagy egyszerűen udvariasan visszautasítja a választ...

MA 16:34

A sugárzást faló titokzatos fekete gomba

Kevesen gondolnák, hogy a világ egyik legveszélyesebb helyén, a csernobili atomerőmű romjai között az élet új utat talált magának...

MA 16:17

Az Epic főnöke betámadta a Steam MI-címkéit

Az Epic Games vezérigazgatója, Tim Sweeney szerint a Steamnek és más játékáruházaknak el kellene hagyniuk a “Made with AI” (MI-vel készült) címkéket, mert az MI-használat hamarosan teljesen általánossá válik a játékfejlesztésben...

MA 16:01

A bemelegítés, ami azonnal erősebbé és gyorsabbá tesz

A bemelegítés látványosan javítja az izmok teljesítményét, különösen a gyorsaságot és a robbanékonyságot, mert megemeli az izmok hőmérsékletét...

MA 15:49

A szmog észrevétlenül lenullázza az edzés hatását

💨 Érdekes felvetés, hogy a rendszeres testmozgás egészségügyi hasznát erősen csökkentheti a légszennyezés...

MA 15:19

Az univerzum közelről: így látod részletesen a távoli csillagokat

Érdemes megvizsgálni, hogy a Nap és az éjszakai égbolt csillagai között mi a jelentős különbség...

MA 15:01

A betegségek rejtett mozgatórugója: mitokondriális DNS-károsodás

💡 A mitokondriumokban rejtve maradt DNS-károsodás új magyarázatot adhat arra, hogyan érzékeli és kezeli a szervezet a stresszt, és miért alakulnak ki komolyabb betegségek, például a rák és a diabétesz...

MA 14:18

Az idei Black Friday aranybánya lehet a csalóknak

A mesterséges intelligencia bevásárlóasszisztensek idén először forradalmasítják a Black Friday-t: egyre többen bízzák MI-re, hogy termékeket találjanak, ajánlatokat hasonlítsanak össze, személyre szabott ajánlásokat kapjanak, vagy akár automatikusan megvásárolják a kinézett árut – mindezt anélkül, hogy sokat kattintanának vagy keresgélnének...

MA 14:01

Az indiai gazdaság szárnyal, még a vámtarifák árnyékában is

Az indiai gazdaság várakozáson felül teljesített: éves szinten 8,2%-kal nőtt a szeptember végével zárult negyedévben...

MA 13:50

A OnePlus 15 végre meghódítja Amerikát – nem véletlen az öt csillag

A OnePlus 15 amerikai megjelenése előtt mára minden akadály elhárult, miután a készüléket az USA Szövetségi Kommunikációs Bizottsága (FCC) is jóváhagyta...

MA 13:17

Az orosz űrközpont károkat szenvedett a közös orosz–amerikai kilövés után

🚀 A kazahsztáni Bajkonur űrközpont indítóállása megsérült, miután egy közös orosz–amerikai küldetés sikeresen elstartolt csütörtök hajnalban...

MA 12:49

Az autóipart is felrázta az óriási Nexperia-botrány

🚗 A holland Nexperia chipgyártónál eldurvult a helyzet: a cég nyílt levélben szólította fel kínai leányvállalatát, hogy sürgősen állítsa helyre az ellátási lánc működését...

MA 12:34

Az amerikai tőzsdei reform zsákutcába jut?

📈 Az elmúlt években látványosan megnőtt a lakossági befektetők aktivitása, köszönhetően a COVID utáni tőzsdeőrületnek...