ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással

ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.

A Mesterséges Intelligencia mint fegyver

A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.

Kínai megfigyelőrendszer nyugati tüntetések ellen

A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.

Amerika-ellenes propaganda Latin-Amerikában

A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.

  • Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
  • Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
  • Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?


Legfrissebb posztok

MA 15:17

Az új React2Shell-hullámhoz sorra csatlakoznak a kínai hackercsoportok

A közelmúltban a Google fenyegetéselemző csapata további öt kínai hackercsoportot azonosított, amelyek a „React2Shell” nevű, rendkívül súlyos távoli kódfuttatási sebezhetőséget kihasználó támadásokhoz kapcsolódnak...

MA 15:04

Az új Leica M EV1: a távmérő bűvölete helyett kíméletlen praktikum

Erre utal többek között az, hogy a Leica legújabb M sorozatú fényképezőgépe, az M EV1, jelentős változtatást hoz a legendás rendszerbe: a jól ismert optikai távmérőt modern elektronikus kereső (EVF) váltja...

MA 14:50

Az XRP ETF-ek dacolnak a kriptópánikkal

Az utóbbi időszakban, amikor a Bitcoin- és Ethereum-ETF-ekből jelentős összegeket vontak ki, az XRP ETF-ek minden napra újabb pénzbeáramlást könyvelhettek el...

MA 14:35

A Kindle új trükkje: a könyv, ami visszabeszél

Az Amazon bemutatta a Kindle alkalmazás új MI-alapú funkcióját, amelynek segítségével olvasás közben bármilyen kérdésre választ kaphatsz a könyv tartalmával kapcsolatban – anélkül, hogy spoilerekkel elrontaná az olvasás élményét...

MA 14:18

Az Apple ajándékkártyája pokollá tette a digitális életünket

Hihetetlen, de mégis igaz, hogy egy közel harmincéves Apple-rajongó mindenét elvesztette egyetlen ajándékkártya miatt...

MA 14:02

Az amerikai bankok ajtót nyitnak a kriptocégeknek

🔑 Az Egyesült Államokban új korszak kezdődik a kriptovaluták és a hagyományos pénzintézetek együttműködésében...

MA 13:49

A hajszálon múlt a Starlink és egy kínai műhold ütközése

Az elmúlt héten mindössze néhány száz méteren múlt, hogy nem ütközött össze egy frissen pályára állított kínai műhold és a mintegy 9000 alacsony Föld körüli pályán keringő Starlink-műhold egyikével...

MA 13:33

Az MI-óriás bajban: milliárdos bírság fenyegeti a Microsoftot

A Microsoft ismét bíróság elé került az Egyesült Királyságban, miután több tízezer szervezetet érhetett jelentős anyagi kár a felhőalapú szoftverlicencelés miatt...

MA 13:17

Az iRobot bukása: a Roomba végül csak egy porszívó lett

🧺 Kevés amerikai techsztori volt olyan látványos, mint az iRoboté. Az MIT legendás robotikusa, Rodney Brooks, valamint Colin Angle és Helen Greiner 1990-ben alapították a céget Massachusettsben azzal a céllal, hogy a mesterségesintelligencia-kutatások eredményeit a háztartásokba vigyék...

MA 13:02

Az ENSZ és a NASA árgus szemmel lesi az új csillagközi üstököst

👀 A 3I/ATLAS üstökös egyre komolyabb figyelmet kap a nemzetközi tudományos közösségtől, ahogy december 19-én eléri földközeli pontját...

MA 12:49

Az iRobot az összeomlás küszöbén: kínaié lehet a Roomba

Az iRobot, amely egykor forradalmasította az otthoni takarítást a Roomba robotporszívóival, csődvédelmet kért...

MA 12:34

Az új MI már sejtszinten látja előre a fejlődést

Ilyen eset például, amikor a gyümölcslégy embriójában a sejtek szédületes tempóban válnak szét, rendeződnek át és növekednek, hogy kialakuljanak a majdani szervek és szövetek...

MA 12:01

Az Absynth visszatért: még merészebb, sosem hallott hangok

Tizenhat év után újra életre kelt a legendás Absynth szintetizátor. A Native Instruments most a hatodik verzióval lepte meg a zenészeket, ráadásul az eredeti fejlesztő, Brian Clevinger közreműködésével és olyan elismert alkotók presetjeivel, mint Brian Eno és Kaitlyn Aurelia Smith...

MA 11:34

Az Angeline Era új fejezetet nyit a PS1-nosztalgiában

A 90-es évek végének videojátékai sokak számára varázslatos, felfedezésekben gazdag korszakot jelentenek...

MA 11:18

Az oxigénatomok rejtett tánca a vízben — lézerrel leleplezve

Az oxigén legrejtélyesebb formája, az atomos oxigén eddig láthatatlan maradt a vízben—most azonban egy fejlett lézeres technikával sikerült először képalkotó eljárással közvetlenül megörökíteni ezeket az atomokat...

MA 11:02

A rosszul konfigurált honeypotok veszélyesebbek, mint gondolnád

⚠ Jellemző példa erre, hogy a brit Nemzeti Kiberbiztonsági Központ (NCSC) szerint a csapdákként működő honeypotok és álfiókok valóban hasznosak lehetnek a védekezők számára, de csak akkor, ha körültekintően telepítik őket...

MA 10:56

Az MI-re ömlik a tőke, még ha nem is éri meg

A világ legnagyobb cégeinek vezetői egyre többet fognak költeni mesterséges intelligenciára 2026-ban, annak ellenére, hogy a beruházások eredményei eddig igencsak vegyesek voltak...

MA 10:49

Az EU is betiltaná a közösségi médiát a tiniknek

Dánia komoly lépésre készül: az ausztrál mintát követve szigorúan korlátozná a közösségi média használatát a fiatalok körében...

MA 10:43

Az új Pebble-gyűrűvel többé egyetlen ötlet sem vész el

Kevesebb mint egy évvel a közönségkedvenc Pebble okosóra búcsúja után az alkotója új termékkel állt elő: ezúttal egy okosgyűrűvel jelentkezik, amely gyökeresen más célt szolgál, mint társai...