Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
Május közepén különösen sok izgalmas tudományos felfedezés került napvilágra. Az egészségügytől kezdve a történelem előtti fogorvoslásig, sőt, egészen a nukleáris kísérletek által született különleges kristályokig szóltak a hírek – és ezek nem csupán a tudósokat, hanem a hétköznapi embereket is gondolkodásra késztették...
Különösen igaz ez akkor, ha két világsztár randevúzik a reflektorfény közepén: Taylor Swift és párja, Travis Kelce ismét együtt mutatkoztak New Yorkban...
🚀 Április közepe technológiai fronton igazán eseménydúsan telt: a legnagyobb mobiloperációs rendszerek frissítései és néhány szokatlan újdonság is napvilágot látott...
Az idei skót bajnokság utolsó nagy összecsapása minden eddiginél feszültebbnek ígérkezik, hiszen eldől, kié lesz a bajnoki cím: a többszörös győztes Celtic vagy a bajnoki aranyra 66 éve éhező Hearts örülhet a lefújáskor...
🚀 Egy kivételesen nagy, frissen felfedezett aszteroida, amely akár 35 méter átmérőjű is lehet, hétfőn szokatlanul közel száguld el a Föld mellett, ráadásul élőben is megtekinthető lesz...
Faisal Monai neve ma Szaúd-Arábiában egyet jelent a pénzügyi forradalommal: már 2004-ben ő vezette át az ország 4000 milliárd dolláros, készpénzre épülő fizetési rendszerét digitális alapokra...
🤖 A szakítás utáni időszak gyakran hoz felszínre furcsa megoldásokat. Egyre többen próbálják feldolgozni a fájdalmukat úgy, hogy digitális másolatot készítenek volt párjukról MI segítségével...
⚡ A mesterséges intelligencia fejlesztésének egyik legnagyobb kihívása az, hogy miként működtethetők hatékonyan olyan rendszerek, amelyekben több MI-ügynök dolgozik együtt...
A Kars4Kids nevű nonprofit szervezet hírhedt rádióreklámjaival évek óta az őrületbe kergeti a hallgatókat, ám most egy bírósági döntés miatt le kell állítania ezek sugárzását Kaliforniában...
Egy brit startup, a Lightmark forradalmasítaná a videók hitelesítését: a hagyományos, utólagos ellenőrzés helyett a felvétel pillanatában titkos fényujjlenyomat kerül a felvételre...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. War Mongrels (iPhone/iPad)A War Mongrels egy izometrikus nézetű, valós idejű taktikai játék, mely a második világháború keleti frontján játszódik...
🕺 A Subnautica 2 korai hozzáférésű változatát még a hivatalos megjelenés előtt kiszivárogtatták, és sokan büszkén hencegtek azzal, hogy ingyen játszanak, ahelyett hogy fizetnének a 11 000 forintos játékért...
Mintegy 100 millió évvel ezelőtt a mai Thaiföld területén egy hatalmas, hosszú nyakú növényevő dinoszaurusz vándorolt, amelynek most felfedezett maradványai átírják Délkelet-Ázsia földtörténetét...
Erre utal többek között az, hogy a legnagyobb technológiai óriások nemcsak abban versengenek, kinek a modellje válaszol jobban a kérdésekre, hanem abban is, hogy melyikük teszi le az asztalra azt az infrastruktúrát, ahol az MI‑ügynökök élnek és dolgoznak...
💰 Japánban egyre nagyobb a felháborodás a Szerelem, élőben! (Love Live!) univerzum rajongói körében, miután feltűnt, hogy az Aqours hivatalos rajongói klubjának domainje lejárt, és most árverésen próbálják értékesíteni – a jelenlegi vezető licit pedig elképesztő, több mint 225 milliárd forintot, azaz 97 milliárd jent tesz ki...
A világ egyre közelebb kerül egy olyan El Niño-eseményhez, amely hatásaiban valószínűleg felülmúlja az elmúlt másfél évszázad összes hasonló időjárási ciklusát...