ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással

ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.

A Mesterséges Intelligencia mint fegyver

A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.

Kínai megfigyelőrendszer nyugati tüntetések ellen

A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.

Amerika-ellenes propaganda Latin-Amerikában

A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.

  • Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
  • Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
  • Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?


Legfrissebb posztok

MA 08:51

Az MI veszélyesebb, mint hinnéd: egy kattintás, és viszik az adataid

🔒 Egy lényeges szempont, hogy a Microsoft Copilot MI-asszisztensét nemrég olyan apró, ám súlyos sebezhetőség érintette, amely lehetővé tette, hogy támadók egyetlen, látszólag ártalmatlan hivatkozással felhasználói adatokat lopjanak el...

MA 08:44

Az áramhiány fékezi az adatközpontok robbanásszerű növekedését

Az adatközpontok bővülésének útjába komoly akadály tornyosul: a villamosenergia-hálózat és az új áramtermelő kapacitások kiépítése messze nem tartja a lépést a tervezett fejlesztések ütemével...

MA 08:37

Az édes szerzetesgyümölcs rejtett gyógyító ereje

🍇 A szerzetesgyümölcsről (Luo Han Guo) sokan csak kalóriamentes édesítőszerként hallottak, pedig ennél jóval változatosabb hatóanyagokkal rendelkezik...

MA 08:29

Az újabb dél-koreai adatbotrány: a Kyowon is áldozatul esett

A dél-koreai Kyowon Group elismerte, hogy zsarolóvírus-támadás érte, amely ügyfelek adatait is veszélybe sodorhatta...

MA 08:22

Az X tehetetlen a Grok obszcén képhamisításaival szemben

Hiába hirdeti az X, hogy az új szabályozásokkal megfékezte a Grok MI-t abban, hogy valós emberekről szexuális tartalmú képeket készítsen, a valóságban továbbra is gyerekjáték ilyen képhamisítást előállítani...

MA 08:15

A sztatinok sötét oldala: miért fájhat tőlük az izom?

A sztatinokat világszerte több millió ember szedi, hogy kordában tartsa koleszterinszintjét, ám sokan kénytelenek abbahagyni a gyógyszert, mert izomfájdalmat, izomgyengeséget vagy tartós fáradtságot tapasztalnak...

MA 08:02

Az OpenAI tízmilliárd dolláros üzlettel gyorsítja fel MI-fejlesztését

Az OpenAI többéves, több mint 3700 milliárd forintos (10 milliárd dolláros) megállapodást kötött a Cerebras nevű MI-chipeket fejlesztő céggel...

MA 07:50

Az első űrmentés: a Crew-11 a tervezettnél előbb tér haza

🚀 A Nemzetközi Űrállomás (ISS) történetében először fordul elő, hogy orvosi okokból idő előtt hazahoznak egy teljes legénységet...

MA 07:43

A Bitcoin száguld: karnyújtásnyira a 36 milliós álomhatár

🚀 Új év, új remények: a Bitcoin 2026 elején ismét erőre kapott...

MA 07:30

Az országos Verizon-leállásnak végre vége

📶 Több tízezer előfizető maradt szolgáltatás nélkül, miután a Verizon hálózata tíz órán át súlyos leállással küzdött...

MA 07:22

Az új Google MI már mindenhol a nyomodban jár

🔍 A Google bemutatta a Személyes Intelligencia (Personal Intelligence) nevű funkciót, amellyel a Gemini MI mostantól a Gmailben, a Google Fotókban, a keresési előzményeidben és akár a YouTube-on tárolt adataidból is képes információkat kinyerni...

MA 07:15

Az elsötétülő óceán halálos csapdát állít az élővilágnak

🌊 Hihetetlen, de mégis igaz, hogy a tengerfenéken időről időre egyfajta víz alatti sötétség alakul ki, amely napokra, de akár hónapokra is eltarthat...

APP
MA 07:13

APPok, Amik Ingyenesek MA, 1/15

Fizetős iOS appok és játékok, amik ingyenesek a mai napon.     TumbleTrack (iPhone/iPad)A TumbleTrack egy olyan alkalmazás, amely minden szintű kőcsiszolási hobbihoz készült...

MA 07:09

Az ősi Homo habilis csontváz átírhatja az emberi evolúciót

Tudósok megtalálták minden idők legteljesebb Homo habilis csontvázát, amely több mint 2 millió éves, és néhány tulajdonsága a híres Lucyhoz, egy Australopithecus példányhoz hasonló...

MA 07:02

Az újabb geopolitikai válság a Bitcoint is padlóra küldi?

A Bitcoin az elmúlt héten impozáns ralit produkált, ára 96 000 dollár (kb...

MA 06:58

Az eltűnt rinocérosz rejtélye egy farkaskölyök gyomrában lapul

Egy több mint 14 000 éves szibériai farkaskölyök természetes módon mumifikálódott teteme igazi tudományos kincsesbányának bizonyult...

MA 06:50

A Holdon épül az amerikai atomreaktor – tényleg megtörténik?

🌑 A NASA és az Egyesült Államok Energiaügyi Minisztériuma összefogott, hogy 2030-ig egy hasadási (fissziós) atomreaktort helyezzenek üzembe a Holdon...

MA 06:43

A kozmosz titokzatos pillangói: gubóba zárt fekete lyukak

A James Webb-űrteleszkóp új felfedezése rávilágíthat a világegyetem egyik legrejtélyesebb objektumának valódi természetére...

MA 06:29

Az OpenAI új dobása: a ChatGPT Agora összeköti a platformokat?

Az OpenAI házon belül már teszteli a ChatGPT legújabb újdonságát, az Agorát – legalábbis erre utalnak a webes, androidos és iOS-es frissítésekben felbukkanó kódnevek...