Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
Az Orion űrhajó jelenleg tíznapos mélyűrbeli útja során jóval közelebb jár a Holdhoz, mint a Földhöz, és eddig minden meglepően zökkenőmentesen megy...
📶 Ebből következően fontos megérteni, hogy vannak helyek – a világűrben és a Föld legveszedelmesebb zónáiban –, ahol az ionizáló sugárzás szintje annyira magas, hogy ahová nemcsak az emberek, de szinte semmilyen félvezetős elektronika sem juthat be...
🤖 A fejlesztők világa jelentősen átalakult az MI-alapú programozási eszközök megjelenésével. A különféle feladatok, amelyeket korábban órákon, akár napokon keresztül csiszoltak kézzel, ma néhány parancsba tömöríthetők – azonban a kényelemnek ára van...
A Warframe és a Soulframe fejlesztői határozottan elutasítják az MI-generált tartalmak használatát, és ragaszkodnak ahhoz, hogy minden munkafolyamatot kizárólag emberek végezzenek...
A húsvét időpontjának meghatározása sokak számára igazi fejtörést okoz. A keresztény hagyomány szerint húsvét vasárnapja mindig a tavaszi napéjegyenlőséget követő első telihold utáni vasárnapra esik...
Egy lényeges szempont, hogy a modern orvostudománynak eddig nem sikerült valóban hatékony megoldást kínálnia azoknak, akik sugárkezelés vagy egyéb okok miatt elvesztik természetes nyáltermelő képességüket...
🤢 A bélrendszerben élő baktériumok és vegyületek fontos szerepet játszhatnak az emésztőrendszeri betegségek, köztük a gyomorrák, a vastagbélrák és a gyulladásos bélbetegségek (IBD) korai felismerésében...
🌲 A Caltechről indult PrismML forradalmi, 1 bites nagy nyelvi modellt jelentett be, amely meglepő módon a sokkal nagyobb méretű vetélytársakkal is felveszi a versenyt...
Érdekes felvetés, hogy egy cég, amely egy garázsból indult, fél évszázados fennállását ünnepli – ráadásul úgy, hogy az alapítói közül legalább az egyik teljesen elutasította a „nyitottság” gondolatát...
Hétfőn még csak a legbátrabb kockák próbálgatták az új Windows 11 előnézeti frissítést, egy teljesen ártalmatlannak tűnő, nem kötelező csomagot, amit főként IT-őrülteknek szántak...
A héten a világ figyelme az űr felé fordult: több mint ötven év után először emberes holdmisszió indult az Artemis II program keretében, ráadásul klímaváltozással, régészeti szenzációkkal, orvosi sikerekkel és meglepő tudományos eredményekkel is gazdagodott a hírek sora...
A közelmúltban hackerek rövid időre sikeresen átfordítottak egy világszerte elterjedt fejlesztői eszközt, az Axios-t egy malware-terjesztő adathalász csatornává, ezzel több millió rendszert sodorva veszélybe...
💻 A SPARKLE Intel Arc A310 Eco 4 GB egy alacsony profilú, PCIe-csatolós videokártya, amelyet főleg azok keresnek, akik energiatakarékos, kompakt megoldást akarnak beépíteni szerverbe vagy kis gépházba...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Wink AI: Creative Video FX (iPhone/iPad)A Wink AI egy alkalmazás, amellyel a fényképeid gyorsan és egyszerűen mozgó, élénk képpé alakíthatók...
🚧 Érdekes felvetés, hogy a Microsoft óriási felhőszolgáltatása, az Azure, lassan nem a technikai fejlesztések hiányától, hanem sokkal inkább a szakértői csapat elvándorlásától roppanhat meg...
Bár a kaliforniai Riverside megyét pénteken még rémisztő füstfelhők borították, a helyi tűzoltók mára a Springs-tüzet – amely 16 négyzetkilométeres területet érint – 75%-ban körülhatárolták...