Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
Az Ethereum Foundation (EF) mostantól első számú stratégiai célnak tekinti a kvantumszámítógépek elleni védelmet, és ehhez külön posztkvantum-csapatot hozott létre Thomas Coratger vezetésével, Emile, kriptográfiai szakértő, támogatásával...
💥 Felmerül a kérdés, hogy mennyire lehetünk biztonságban, amikor a globális internet-infrastruktúra egyetlen rosszul konfigurált router miatt szinte percek alatt megbénulhat...
🌳 Érdemes megvizsgálni, hogy egy jó párátlanító mennyi fejfájástól kímélhet meg: csökkenti a páralecsapódást, megelőzi a penészt, segít a fűtési költségek terén, és javítja az otthonod levegőjének minőségét...
🤖 Óriási átrendeződés előtt áll a technológia világa: a nagyvállalatok most abban bíznak, hogy végre készen állunk egy állandó, digitális társ beengedésére a mindennapjainkba...
A jövő hét sorsfordító lehet a tőzsdén, hiszen egyszerre érkeznek meg a legnagyobb technológiai óriások negyedéves jelentései, és a Federal Reserve is újabb kamatdöntést hoz...
💸 A kereslet az Intel processzorai iránt továbbra is erős, azonban a gyártó képtelen elegendő darabot előállítani ahhoz, hogy lépést tartson a vásárlói igényekkel...
A Waymo önvezető taxijai újabb nagy port kavartak az Egyesült Államokban, miután kiderült: számos alkalommal jogsértően haladtak el megálló iskolabuszok mellett, miközben gyerekeket szállítottak le vagy vettek fel...
📱 Az Apple iPhone történelmi csúcsot döntött Indiában 2025-ben, 14 millió készüléket szállított le, ezzel 9%-os részesedést szerzett a helyi okostelefon-piacon...
Grönland földje rengeteg ígéretes ásványi nyersanyagot rejt, ezek kiaknázásáról azonban sokkal könnyebb álmodozni, mint a valódi kitermelésüket véghez vinni...
A földrengésfigyelő hálózatok nemcsak a föld rengéseit, hanem a világűrből lehulló űrszemét útját is képesek követni – olykor pontosabban mint a radar...
A Harvey, az egyik legfelkapottabb jogi MI-startup, megvette a mindössze két éve alapított Hexust, amely termékbemutató- és oktatóvideók, valamint útmutatók készítésére szolgáló eszközöket fejlesztett...
💧 A Colorado folyó jövője most még bizonytalanabb, mint valaha: hetek óta eredménytelenül húzódnak a hét érintett nyugati állam – Utah, Arizona, Nevada, Wyoming, Kalifornia, Colorado és Új-Mexikó – tárgyalásai arról, hogyan csökkentsék vízfelhasználásukat, mivel az év végén lejárnak a jelenlegi szabályok...
Több száz híres művész, köztük Scarlett Johansson és Cyndi Lauper, közösen emelt szót az ellen, hogy az MI-fejlesztők jogdíj fizetése nélkül használják fel műveiket algoritmusok tanítására...
Egy decemberi próbálkozás, amely Lengyelország energiahálózatát célozta, orosz állami hekkerekhez köthető – jelentette egy kiberbiztonsági kutatócég...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. WebFX (iPhone/iPad)Ez a játékos kártyatrükk igazán különleges élményt kínál: a néző a saját telefonján, táblagépén vagy számítógépén nyit meg egy weboldalt, ahol a bűvész egy fényképet emel ki...
❄ Első pillantásra úgy tűnt, hogy a hideg önmagában is elég kihívást jelent, ám az Egyesült Államok nagy részére lecsapó súlyos téli vihar a háztartások anyagi helyzetét is alaposan próbára teszi...