Hogyan leplezd le: Így árulja el a chatbot a szövegben saját magát
Egyre növekszik a szakadék azok között, akik generatív MI chatbotokat használnak szövegek észrevétlen előállítására, és azok között, akik megpróbálják leleplezni őket. Sokan úgy vélik, ismerik az árulkodó jeleket, de egyre nehezebb eldönteni, mit írt ember és mit írt a MI.
Négy amerikai egyetem kutatói azonban előrelépést értek el olyan nyelvi ujjlenyomatok azonosításában, amelyek kiderítik, melyik nagy nyelvi modell (LLM) állított elő egy adott szöveget.
“Minden nap újabb chatbotok jelennek meg, és mi interakcióba lépünk velük, de valójában nem értjük a köztük lévő különbségeket,” mondja Mingjie Sun, a Carnegie Mellon Egyetem kutatója és a tanulmány vezető szerzője. “Azzal, hogy betanítunk egy gépi tanulási osztályozót erre a feladatra, és megvizsgáljuk ennek az osztályozónak a teljesítményét, felmérhetjük a különböző LLM-ek közötti eltéréseket.”
Árulkodó nyelvi jelek
Sun és kollégái egy olyan gépi tanulási modellt fejlesztettek ki, amely öt népszerű LLM kimenetét elemezte, és 97,1%-os pontossággal tudta megkülönböztetni őket egymástól. A gépi tanulási modelljük minden egyes LLM-re jellemző egyedi nyelvi furcsaságokat tárt fel.
A ChatGPT modellje például hajlamosabb a “hasznosít” szó használatára, mint más modellek. A Google modellje előszeretettel mondja azt, hogy “bizonyosan”. A Google modellje gyakran vezeti be következtetéseit az “alapvetően” szóval, míg az Anthropic modellje túlzottan használja az olyan kifejezéseket, mint a “… szerint” és “a szöveg szerint”, amikor forrásaira hivatkozik.
Egyedi stílusjegyek
Az xAI modellje kitűnik azzal, hogy diskurzívabb és didaktikusabb, gyakran emlékezteti a felhasználókat, hogy “emlékezzenek” a kulcspontokra, miközben végigvezeti őket az érveken olyan kifejezésekkel, mint “nemcsak” és “hanem … is”.
“Az írás, a szóválasztás, a formázás mind különböző,” mondja Yida Yin, a Kaliforniai Egyetem (Berkeley) kutatója és a tanulmány társszerzője. “Nem csak azt lehet megállapítani nagy biztonsággal, hogy MI-írta-e a szöveget, de azt is, hogy melyik MI.”
💸 Érdemes megvizsgálni, milyen példátlanul nehéz hetet él át a kriptopénzpiac, hiszen mind a bitcoin, mind az ether óriási veszteségekkel néznek szembe, miközben több más érme is padlót fogott...
Külön említést érdemel, hogy a Be Quiet! legújabb PC-háza már méretével is azonnal kitűnik a mezőnyből, és a szokásosnál jóval tágasabb belsővel kedvez azoknak, akik sosem elégszenek meg kevés tárhellyel...
Kezdetben az MI-modelleket úgy tervezték, hogy semleges, megbízható eszközök legyenek, mindenféle veszélyes vagy nem kívánatos viselkedéstől mentesen...
🎾 Érdemes megvizsgálni, milyen esélyekkel és körülmények között találkozik a feltörekvő cseh tehetség, Jakub Mensik és a rutinos német favorit, Alexander Zverev a 2026-os Roland-Garros elődöntőjében...
Érdemes megvizsgálni, hogy miért forog veszélyben az MI-innováció, miközben drága hardverek porosodnak kihasználatlanul, a kisebb szereplők pedig elérhetetlen áron próbálnak hozzájutni ugyanazokhoz az erőforrásokhoz...
Az Egyesült Államok legnagyobb bankjai a jövő év közepétől egy közös, tokenizált hálózat bevezetését tervezik, hogy megakadályozzák, hogy a stabilcoinok elszívják a betéteiket...
Ez a jelenség jól illusztrálható azzal, hogy egy konyhai gép egyszerre helyettesítheti a légsütőt és a kenyérpirítót, miközben minden ételt lényegesen gyorsabban tálal, mint azt bárki várná...
🤔 Egy tavaszi marketingkampányban a kreatív koncepció angolul újjászületést, optimizmust sugall a virágzó fákon keresztül – ez a képi világ az angolszász kultúrában a remény szimbóluma...
🦐 Áprilisban szinte mindenki átsiklott egy olyan játékon a Steamen, amely valószínűleg kihagyhatatlan, ha szeretnéd ötvözni az akciót és a tenger élővilágát...
Felmerül a kérdés, meddig tart az idei kriptotőzsdei hullámvasút, hiszen a vezető digitális eszközök és a kapcsolódó vállalatok most sorra veszítenek értékükből...
Többek között szinte elképzelhetetlen, mennyit változott mára a szoftverfejlesztés világa: az Anthropic májusban bejelentette, hogy a vállalatnál futó, éles rendszerekhez tartozó kód több mint 80 százalékát már nem emberek, hanem a saját MI-rendszerük, a Claude írja és szerkeszti...
Megemlíthető továbbá, hogy a pénzügyi piacok ismét turbulens napokat élnek át, miután a technológiai szektorban, és különösen a mesterséges intelligencia által fűtött részvények körében elindult lejtmenet átragadt a kriptovaluták piacára is...
💫 A James Webb-űrteleszkóp egy eddig sosem látott távolságban rejtőző, inaktív fekete lyukat észlelt, amely a Földtől több mint tízmilliárd fényévre lévő MRG-M0138 nevű galaxisban található...
🏡 Lakáshoz jutni az elmúlt évek bonyolult megoldásai után már kevésbé nyűgös feladat az FFXIV-ben, mégsem lehet csak úgy besétálni álmaid virtuális otthonába...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Between Dates Calendar Math (iPhone/iPad)A Between Days egy letisztult, könnyen kezelhető alkalmazás, amely villámgyorsan kiszámolja, hány nap választ el két tetszőleges dátumot...
👐 A világegyetem titokzatos rádiójelekkel bombázza a Földet, s ezek közül egy különösen furcsa, ismétlődő forrásra most végre sikerült magyarázatot találni...
🎮 Június minden évben különleges időszak volt a PC-s játékok világában, akár 1996-ban varázsolt el minket egy új Star Wars-játék, akár 2016-ban izgultunk a legmenőbb hardverekért...
🌷 Az NYT Strands mai fordulója rendkívül érdekes szavakat vonultat fel, amelyek első látásra nem tűnnek fenyegetőnek, de együtt már egy harcias téma bontakozik ki...
A népszerű Zcash kriptovaluta értéke egy nap alatt mintegy 30 százalékot zuhant, miután kiderült: évek óta rendkívül súlyos biztonsági rés tátongott benne, amit csak egy vészhelyzeti javítással sikerült gyorsan befoltozni...
Az amerikai és európai nappalikban egyre gyakrabban tűnik fel a WiiM neve, egy fiatal, ám annál lendületesebb hangtechnológiai vállalat, amely néhány év alatt a streaming erősítőktől a saját hangszóró- és mélynyomórendszer fejlesztéséig jutott...