Mit őriznek meg valójában az MI-modellek – és miért számít?
Például egyre többen gyanítják, hogy a chatrobot valójában ismeri-e egy teljes könyv szövegét. Ezt most már modern módszerekkel vizsgálni is lehet. A Carnegie Mellon Egyetem, az Instituto Superior Técnico és a Hydrox AI kutatói olyan eszközt fejlesztettek ki, amely hatékonyan képes kifaggatni a nagy nyelvi modelleket arról, mit jegyeztek meg tanulási folyamataik során. Ez nemcsak a szerzői jogi aggályok miatt fontos, hanem átláthatóbbá is teheti az MI-k működését, és segíthet az esetleges jogsértések tisztázásában.
Vajon mit is rejt a zárt MI-tanulás?
Az MI-t fejlesztő cégek általában titokban tartják, pontosan milyen adatokat használnak fel a tanítás során. Így a felhasználók, a szabályozók vagy a jogtulajdonosok számára átláthatatlan, hogy milyen tudás épült be ezekbe a modellekbe. A helyzetet tovább nehezíti, hogy a korábbi vizsgálati módszerek mára sokat veszítettek megbízhatóságukból. Az újabb finomhangolások miatt ezek a rendszerek szándékosan kerülik a megtanult tartalmak kiadását – gyakran még akkor is, ha a kért szöveg közkincsnek számít.
A történet itt éles fordulatot vett
Megszületett a RECAP névre keresztelt eszköz (nem összekeverendő a Free Law Project RECAP-jával), amely egy különleges ügynök: iteratív körökben próbál tartalmakat kinyerni az MI-ből, folyamatosan javítva a kérdéseit ott, ahol elutasításba ütközik. Még egy jailbreak-funkciót is tartalmaz: ez mindig újrafogalmazza a kérést, ha a rendszer visszautasítaná a választ. Az igazi újítás azonban az ügynöki visszacsatolás: az MI több próbálkozás után egyre pontosabban adja ki, amit tud, miközben egy másodlagos MI végig ellenőrzi, hogy a folyamat ne torzuljon célzott, szó szerinti idézetekkel.
A kutatók által fejlesztett EchoTrace-teszt alapján a RECAP 0,46-os átlagpontszámot ért el, amivel 78%-kal előzi meg a korábbi módszereket. Például a Harry Potter és a bölcsek kövéből (Harry Potter and the Philosopher’s Stone) a RECAP körülbelül 3000 szövegrészletet tudott kivarázsolni a Claude-3.7 modellből, míg a legjobb korábbi eljárás mindössze 75-öt. Nem véletlen, hogy közben a Claude-ot fejlesztő Anthropic épp idén állapodott meg írókkal szerzői jogi vitákban.
Következésképpen
Az új módszer nemcsak azt mutatja meg, hogy mennyire képesek a nagyméretű MI-modellek visszaidézni akár védett tartalmakat is, hanem segít átláthatóbbá tenni azt, mit integráltak eddig az MI-k tudásbázisába. Ez a fejlődés átfogóbb képet nyújthat a jövőbeli szabályozási, szerzői jogi és etikai vitákhoz, valamint hozzájárulhat ahhoz, hogy egyértelműbb felelősségi viszonyok alakuljanak ki ebben a gyorsan változó technológiai térben.
💻 A mesterséges intelligenciával működő ügynökök egyre gyakrabban üzletelnek és kötnek megállapodásokat emberi beavatkozás nélkül, ám ezek a gépi tranzakciók is ugyanúgy vitákhoz vezethetnek, ahogyan akkor is, amikor emberek állnak egymással szemben...
Ami kezdetben ártalmatlannak tűnt, mára súlyos problémává nőtte ki magát: az üzleti MI-ügynökök magabiztosan hibás válaszokat adnak, mindezt úgy, hogy senki nem veszi észre, amíg valaki vissza nem követi az adatot egy elavult metrikáig vagy egy olyan dokumentumig, amelyet a lekérő rendszer soha nem töltött be...
🎆 Nehéz elhinni, de a függetlenség napja minden évben nemcsak a látványos ünneplésről, hanem a szabálytalan tűzijátékok miatt kiszabott durva bírságokról is szól...
Írországban az adatközpontok villamosenergia-fogyasztása 2025-ben újabb 10%-kal nőtt, miközben Dublin környékén továbbra is szinte teljes tiltás volt érvényben az új adatközpontok hálózatra kapcsolására...
Kína történelmi sikert ért el az űrtechnológiában: a Hosszú Menetelés–10B (Long March 10B) hordozórakéta első fokozatát először sikerült épségben visszahozni a Földre, egy a tengerre telepített, hálóval felszerelt platformra...
🕷 Egy 34 éves örmény férfi bűnösnek vallotta magát az Egyesült Államokban, miután több vállalat számítógépes rendszereibe tört be, és a hírhedt Ryuk zsarolóvírust használta adatállományok titkosítására...
Két hete, amikor bekapcsoltam a Roku TV-t a nappaliban, már az első képernyőn egy oktatófelület fogadott, amely arról tájékoztatott, hogy teljesen megújult a főoldal és az egész kezelőfelület...
Felmerül a kérdés, hogy miért ért véget ilyen hamar a nagyra törő kísérlet: az Atlas böngésző, amelyet az OpenAI még egy éve sem indított el, máris leállította...
A trópusi Csendes-óceánon az átlagosnál jóval melegebb tengerfelszíni hőmérsékletet figyeltek meg június első hetében, a műholdas adatok szerint egyre intenzívebb az El Niño...
⚡ Az okostelefonok, elektromos autók és más hordozható elektronikai eszközök ma mind akkumulátorokra támaszkodnak, miközben a fogyasztók folyamatosan hosszabb üzemidőt, nagyobb biztonságot és tartósságot várnak el...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. CrestWall – 4K Wallpapers (iPhone/iPad)A CrestWall egy kézzel válogatott, 4K felbontású háttérképeket kínáló alkalmazás, amely elsősorban azoknak készült, akik fontosnak tartják iPhone-juk kinézetét...
Az Apple minden várakozást felülmúló lépésre szánta el magát: pert indított az OpenAI és két volt alkalmazottja ellen, miután súlyos üzleti titoksértéssel vádolja őket...
A rendezők ritkán élnek át annyi heves online felháborodást, mint Christopher Nolan, akinek a legújabb projektje, az Odüsszeia (Odyssey) szereposztása is vihart kavart a közösségi médiában...
Az OpenAI új, GPT-5.6 Sol nevű MI-modelljét a vállalat minden eddiginél biztonságosabbnak hirdeti, azonban a brit kormány által végzett előzetes tesztek során az derült ki, hogy a rendszer védelmi korlátai könnyen átléphetők, így potenciálisan veszélyes számítógépes támadásokra is használhatóvá válhat...
A Progress Software figyelmezteti azokat a vállalatokat, amelyek a ShareFile Storage Zone Controllert saját Windows-szerveren használják, hogy azonnal állítsák le rendszereiket, mert valós külső biztonsági fenyegetés jelent meg...
👀 Érdekes kérdés, hogy miként váltak a kezdetben menő, újdonságként beharangozott Meta okosszemüvegek néhány hónap alatt sok helyen szinte vállalhatatlan eszközzé...
Tavasszal több ezer ápoló és mentálhigiénés dolgozó vonult utcára San Franciscóban, hogy tiltakozzon a kórházi munkájukban egyre inkább jelen lévő technológiák ellen...
Ármány és hatalomváltás Bizáncban, a flamandok nagy győzelme Franciaország felett, Vichy Franciaország megszületése, az első transzatlanti műholdas tévéadás és a Skylab látványos megsemmisülése – sűrű nap a világtörténelemben...
