A tudósok már az MI-t is manipulálnák

A tudósok már az MI-t is manipulálnák
A legújabb kutatások szerint egyre több tudós próbálja befolyásolni a lektorok véleményét úgy, hogy rejtett utasításokat helyez el tudományos cikkeiben, amelyek az MI-eszközökből pozitív visszajelzést próbálnak kicsalni. Az arXiv oldal angol nyelvű preprintjei között 17 ilyen tanulmányt azonosítottak; a szerzők 8 ország 14 intézményéből származnak, köztük a japán Waseda Egyetem, a dél-koreai KAIST, valamint az amerikai Columbia Egyetem és a Washingtoni Egyetem (University of Washington) is szerepel a listán.

Rejtett trükkök az MI ellenőrzése alatt

A legtöbb lebuktatott tanulmány számítástechnikával foglalkozik. Az elrejtett utasításokat általában 1-3 soros, fehér betűs, vagy mikroszkopikus méretű szöveg formájában rejtették el a dokumentumokban. Ezek az MI-alapú bírálókat arra kérik, hogy csak pozitív értékelést adjanak, dicsérjék a cikk hozzájárulását, módszertani szigorát és különleges újdonságát.

„Védekezés” a gép ellen

Az egyik wasedai professzor szerint viszont jogos védekezésről van szó: mivel sok konferencia tiltja az MI használatát a véleményezés során, ők így próbálnak fellépni a felületes, MI-re bízott lektorálás ellen.

2025, adrienne, techcrunch.com alapján


Legfrissebb posztok

Az MI nagy dobása: a koreai óriások beszállnak az OpenAI-ba
MA 08:10

Az MI nagy dobása: a koreai óriások beszállnak az OpenAI-ba

Az OpenAI, a ChatGPT mögött álló cég eddigi legnagyobb MI-megaprojektjébe a dél-koreai Samsungot és az SK Hynixet is bevonta. A két chipgyártó vállalta, hogy havonta mintegy 900 000...

MA 08:01

Ingyenes lett a Comet böngésző – Világraszóló változás!

A Perplexity Comet böngészője mostantól teljesen díjmentesen elérhető mindenki számára világszerte. Eddig csak azok használhatták, akik havonta közel 74 000 forintot (200 dollárt) fizettek a Perplexity Max előfizetésért,...

MA 07:54

Az eltűnt internet: amikor egy csendes-óceáni sziget magára maradt

2022. január 15-én kitört a Hunga Tonga–Hunga Ha’apai vulkán, amely nemcsak hatalmas pusztítást okozott, hanem mindkét tongai tenger alatti internetkábelt is elvágta. Az egyik 105 km-en, a másik...

Nvidia szárnyal, elemzők bizakodnak a BlackRockban, a Disney-nél megint balhé
MA 07:46

Nvidia szárnyal, elemzők bizakodnak a BlackRockban, a Disney-nél megint balhé

📈 A csütörtöki kereskedési napon az S&P 500 index visszafogottan mozgott, amihez nagymértékben hozzájárult a szövetségi kormány leállása és annak gazdasági következményei. Scott Bessent pénzügyminiszter arra figyelmeztetett, hogy a...

Miért nem húzhatjuk ki magunkat a Meta MI-hirdetéseiből, ez az igazság
MA 07:38

Miért nem húzhatjuk ki magunkat a Meta MI-hirdetéseiből, ez az igazság

A Facebook, az Instagram és a WhatsApp amerikai felhasználói mostantól még jobban oda kell, hogy figyeljenek arra, hogyan és miről beszélgetnek a Meta MI-jával, ugyanis a vállalat bejelentette:...

A Tesla visszavág: több autót ad el, mint amennyit gyárt
MA 07:28

A Tesla visszavág: több autót ad el, mint amennyit gyárt

A szeptember végén lejárt amerikai elektromosautó-adójóváírás hiánya megdobta a Tesla eladásait. Idén július és szeptember között a gyártó 447 450 elektromos autót állított elő, ami 4,8 százalékos csökkenést...

Botrány az Amazonnál, tényleg ekkora Prime-pénzvisszatérítést kaphatsz?
MA 07:20

Botrány az Amazonnál, tényleg ekkora Prime-pénzvisszatérítést kaphatsz?

Különösen fontos kiemelni, hogy az Amazon 2,5 milliárd dolláros (kb. 905 milliárd forint) gigabírságot fizet az amerikai Szövetségi Kereskedelmi Bizottsággal (FTC) kötött megállapodás részeként, melyből 1,5 milliárd dollárt...

Central Perk kanapé: Fotelkomédia a nappalidban
MA 06:30

Central Perk kanapé: Fotelkomédia a nappalidban

🛋 Ha mindig is arról álmodtál, hogy a Friends (Jóbarátok) ikonikus Central Perk kávézójában lazulsz, most a saját otthonodban is átélheted ezt az élményt. A háromszemélyes, élethű narancssárga kanapé...

Kína klímavállalása, most tényleg érdemes figyelni
MA 00:00

Kína klímavállalása, most tényleg érdemes figyelni

🌍 Különösen fontos hangsúlyozni, hogy amikor Kína klímacélokat tűz ki, arra a világnak érdemes odafigyelnie. A pekingi vezetés ugyanis általában csak olyasmit ígér meg, amit valóban szándékában áll teljesíteni,...