Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
💻 A világ egyik legfontosabb számítástechnikai kiállításán mutatkozott be a Micron legújabb fejlesztése, a 9650-es PCIe Gen6 SSD, amely különösen a felhőalapú szerverek számára ígér rekordgyorsaságot...
A nagy technológiai vállalatok most versenyt futnak, hogy ügyfeleiknek csúcsminőségű mesterséges intelligenciát szállítsanak, és ebben már nemcsak a szoftverek számítanak – a szakértelem is aranyat ér...
A 20. század elején a tudósokat teljesen zavarba ejtette a kvantummechanika, amely megkérdőjelezte a józan ész határait, és a legnagyobb fizikusokat is kihívás elé állította...
🥅 Szombaton a New York/New Jersey Stadion közönségét és a világszerte figyelő milliókat is egy eddig sosem látott esemény lepte meg: egy 180 cm magas humanoid robot, Atlas, sétált végig a pálya szélén, sorra bemutatva híres gólörömöket, majd átadta a meccslabdát a játékvezetőnek...
Érdemes megvizsgálni, hogy a fejlődő robotika egyik legnagyobb kihívása továbbra is az, hogyan lehet a lenyűgözően összetett emberi kezet géppel utánozni...
Erre a napra több fordulópont is jut: Jan Hus máglyahalála alapjaiban rázta meg Európát, Richard III angol királlyá koronázása átírta a hatalmi viszonyokat, Louis Pasteur veszettség elleni oltása pedig új korszakot nyitott az orvoslásban...
🚀 Újabb változások jönnek a Flipper Zero életében: a népszerű zsebkütyü fejlesztőcsapata bejelentette, hogy kisebb létszámban dolgozik tovább, és nagyobb szerepet kapnak a közösségi hozzájárulások...
Felmerül a kérdés, mennyire biztonságosak a legújabb blokklánc-rendszerek, ha egy mindössze 1,1 millió forintos szerver is képes olyan súlyos hibát szimulálni, amely akár 25 ezermilliárd forint (70 milliárd USD) értékű kriptót sodorhatott volna veszélybe...
Az online jelenlét a mindennapok része, de kevesen tudunk szabadulni attól a tapasztalattól, hogy minél több időt töltünk a közösségi oldalakon, annál rosszabbul érezzük magunkat...
🚧 Egy lényeges szempont, hogy amikor belépsz egy weboldalra, gyakran találkozol olyan feladatokkal, mint eltorzított szavak megfejtése, homályos képeken motorkerékpárok kiválasztása vagy annak igazolása, hogy nem vagy robot...
👀 Bérlakásokban vagy társasházakban élők számára valódi kihívás lehet biztonsági kamerát vagy videós kapucsengőt felszerelni, hiszen nem fúrhatnak falat és nem okozhatnak semmilyen maradandó károsodást...
💉 Felmerül a kérdés, hogy mennyire valóban hatékonyak, vagy akár biztonságosak azok a peptidkészítmények, amelyek jelenleg az egészségmegőrzés és a hosszú élet reményében terjednek az Egyesült Államokban...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Monthly Dystopia (iPhone/iPad)A Monthly Dystopia egy izgalmas túlélőjáték, amely George Orwell 1984 című klasszikusának világát idézi...
Lassan minden csuklón ott virít egy okosóra vagy okoskarkötő. Ezek már régóta nem csak a lépésszámot vagy a pulzust figyelik: a korszerű modellek alvást, bőrhőmérsékletet, légzésszámot, véroxigént, szívritmus-változékonyságot is képesek mérni, sőt, akár arra is riasztanak, ha valami baljós jelet érzékelnek...
🚀 Érdemes megérteni, hogy a NASA új, különleges mentőakcióba kezdett: egy robotűrszondával igyekszik megmenteni az évtizedek óta szolgáló, és most veszélyesen zuhanó Neil Gehrels Swift Obszervatóriumot (Neil Gehrels Swift Observatory)...
🪐 Amikor először egy marsi kőzet felszínén összetett szerves szén jelenlétét észlelték, a tudósok hirtelen egy régóta húzódó kérdés kapujában találták magukat: vajon élet nyomait találtuk meg, vagy valami egészen más magyarázat rejtőzik a színfalak mögött?..
