A tudósok már az MI-t is manipulálnák

A tudósok már az MI-t is manipulálnák
A legújabb kutatások szerint egyre több tudós próbálja befolyásolni a lektorok véleményét úgy, hogy rejtett utasításokat helyez el tudományos cikkeiben, amelyek az MI-eszközökből pozitív visszajelzést próbálnak kicsalni. Az arXiv oldal angol nyelvű preprintjei között 17 ilyen tanulmányt azonosítottak; a szerzők 8 ország 14 intézményéből származnak, köztük a japán Waseda Egyetem, a dél-koreai KAIST, valamint az amerikai Columbia Egyetem és a Washingtoni Egyetem (University of Washington) is szerepel a listán.

Rejtett trükkök az MI ellenőrzése alatt

A legtöbb lebuktatott tanulmány számítástechnikával foglalkozik. Az elrejtett utasításokat általában 1-3 soros, fehér betűs, vagy mikroszkopikus méretű szöveg formájában rejtették el a dokumentumokban. Ezek az MI-alapú bírálókat arra kérik, hogy csak pozitív értékelést adjanak, dicsérjék a cikk hozzájárulását, módszertani szigorát és különleges újdonságát.

„Védekezés” a gép ellen

Az egyik wasedai professzor szerint viszont jogos védekezésről van szó: mivel sok konferencia tiltja az MI használatát a véleményezés során, ők így próbálnak fellépni a felületes, MI-re bízott lektorálás ellen.

2025, adrienne, techcrunch.com alapján



Legfrissebb posztok