Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
🔭 Hosszú ideje tartotta magát az a nézet, hogy a Stonehenge hatalmas kövei, különösen a híres „kék kövek” gleccserek segítségével kerültek jelenlegi helyükre...
Kezdetben a vállalatok tömegesen kezdték el tesztelni a generatív MI-t, de az érzékeny adatokkal dolgozó szektorokban – különösen a jogi területen – folyamatosan előtérbe került a magánszféra védelme, a biztonság és a megfelelőség kérdése...
A gonosznak nincs nyugta (No Rest for the Wicked), a Moon Studios legújabb, brutálisan véres és precíz akció-RPG-je villámgyorsan népszerűvé vált a Steamen, messze maga mögé utasítva más sikerjátékokat, például az Ív lovasai (Arc Riders) játékot...
A Google 24,4 milliárd forintot (68 millió dollárt) fizet kártérítésként, miután felhasználók azzal vádolták a vállalatot, hogy a hangalapú asszisztense titokban rögzítette és továbbította a beszélgetéseket, még akkor is, amikor a felhasználók nem adtak erre engedélyt vagy parancsot...
⚙ Kezdetben a kvantumtechnológia kizárólag laboratóriumi körülmények között létezett, ám mostanra elérkezett ahhoz a ponthoz, amit a szakértők a tranzisztor feltalálása előtti számítástechnika korszakához hasonlítanak...
Felmerül a kérdés, mikor válthatják ki végre a kellemetlen, naponta beadandó hormoninjekciókat egy egyszerűbb, fájdalommentes módszerrel a lombikbébi-programban részt vevő nők számára...
⚠ Többek között egy friss, nagyszabású francia tanulmány hívja fel a figyelmet arra, hogy a különböző tartósítószerekben gazdag, feldolgozott élelmiszerek fogyasztása növelheti bizonyos ráktípusok kockázatát...
A hősugárzók pillanatok alatt kellemes meleget varázsolnak a lakás hideg sarkaiba, és akár az egész ház fűtése helyett is jó alternatívát jelenthetnek a téli hónapokban...
👀 Az elmúlt pár évben a Google rendkívül népszerűvé tette a saját Android-felületét, a Material 3 Expressive-t: a dinamikus animációk, a nagy gombok és a karakteres formák és színek miatt ez sokak kedvence lett, és ennek köszönhetően sokan nap mint nap a Pixel telefonokat választják...
🥑 Érdemes megérteni, hogy nem minden testzsír egyforma – míg a fehér zsír számos egészségügyi kockázatot rejt, a barna zsír kimondottan kedvező hatású lehet a szív- és érrendszerre...
🚨 Új kutatások szerint a műanyagok teljes életciklusa során keletkező kibocsátások okozta egészségkárosító hatások 2040-re akár a duplájára nőhetnek, ha sürgős lépéseket nem teszünk...
📍 Mostantól a Strava és a Komoot is lehetővé teszi az offline térképek használatát az Apple Watchon, ami hatalmas könnyebbség a bringásoknak, túrázóknak és futóknak...
Érdekes felvetés, hogy az MI által felhasznált rengeteg energia éppen az, ami segíthet a környezetbarát lakossági fűtés következő generációjának elindításában...
Az elmúlt hetekben a ShinyHunters nevű kiberbűnözői csoport mintegy 100 nagyvállalat – köztük több techóriás – Okta vállalati egyszeri bejelentkezésre szolgáló (SSO) rendszerét próbálta feltörni...
⚠ Egyre alattomosabb trükkök jelennek meg a kibertérben: a legújabb ClickFix módszer már a Microsoft Application Virtualization (App-V) rendszerét is kihasználja, hogy terjessze az Amatera nevű adathalász kártevőt...
🚀 Az Alta Labs Route10 igazi ritkaságnak számít: 10 gigabites kapcsolatot kínál barátságos, körülbelül 72 000 forintos áron, mégpedig két SFP+ 10G porttal és négy darab 2,5 GbE csatlakozóval...
A Ricursive Intelligence villámgyorsan berobbant a techvilágba – a mesterséges intelligenciát fejlesztő chipgyártó startupot mindössze két hónappal az indulása után már 4 milliárd dollárra, tehát körülbelül 1 440 milliárd forintra értékelik...
Indiában, Nyugat-Bengál államban kitört a halálos Nipah-vírus legújabb járványa, ami miatt Ázsia több országában is szigorították a repülőtéri ellenőrzéseket...
💫 A NASA James Webb-űrteleszkópja (JWST) ismét forradalmit alkotott: közel 800 000 galaxis fotójára vetítette rá legújabb, eddig legpontosabb sötétanyag-térképét...
⚠ A Microsoft váratlanul kiadott egy sürgősségi frissítést egy súlyos, aktívan kihasznált Office-sebezhetőségre, amelyet már támadásokban is kihasználtak...
💡 Az átlátszó elektródák fényt engednek át, miközben vezetik az áramot, ezért egyre több modern bioelektronikai és optoelektronikai eszközben használják őket...