ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással

ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.

A Mesterséges Intelligencia mint fegyver

A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.

Kínai megfigyelőrendszer nyugati tüntetések ellen

A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.

Amerika-ellenes propaganda Latin-Amerikában

A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.

  • Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
  • Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
  • Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?


Legfrissebb posztok

MA 12:18

Az új őrület: miért hódítanak a nyitott fülhallgatók?

Mit tudnak az open earbuds-ok? Az open earbuds, azaz nyitott fülhallgatók az utóbbi idők egyik legnépszerűbb trendjévé váltak...

MA 12:02

A világot letarolják az MI-zajvideók: szórakoztatnak vagy hülyítenek?

🎥 Fontos kérdés, hogy mennyire árasztották el a videómegosztó oldalakat az automatikusan gyártott, silány MI-tartalmak, az úgynevezett MI-zaj és brainrot-videók...

MA 11:49

Az MI által generált arcok már szinte megkülönböztethetetlenek a valósaktól

A mesterséges intelligencia elképesztő tempóban fejlődik, és egyre természetesebb, élethűbb arcokat generál...

MA 11:34

Az újságírókat védő elitcsapat a kormányzati kémprogramok ellen

Az elmúlt évtizedben újságírók és jogvédők százainak törték fel a telefonját kormányzati kémprogramokkal...

MA 11:17

Ezeket a Steam Deck-játékokat 2025-ben muszáj kipróbálnod

🎮 Meglepően jó évet zárt a Steam Deck – a Valve kézikonzolján idén is elképesztő mennyiségű indie és nagyobb játék jelent meg, amelyek közül sok tökéletesen futott, a játékélményt pedig a kanapéra, sőt a buszra is magaddal vihetted...

MA 11:01

Az LHC végre feltárja, hogyan született az anyag

Senki sem várta volna, hogy az univerzum legforróbb mesterséges tűzgolyói közepette az anyag csendben újjáépíti magát, miután a káosz elül...

MA 10:57

Az autizmus alternatív terápiái: bizonyíték nincs, kockázat annál inkább

A mindeddig legátfogóbb tudományos elemzés rámutatott, hogy az autizmus alternatív és kiegészítő kezelései mögött alig található megbízható bizonyíték...

MA 10:49

Az életközepi fogyás veszélyes üzenetet küld az agynak

Középkorú egereknél a fogyás nem várt mellékhatást hozott: míg az anyagcsere és a vércukorszint látványosan javult, az agyban gyulladásos folyamatok indultak el, különösen a hipotalamuszban, amely az étvágy és az energiaegyensúly szabályozásáért felelős...

MA 10:36

A rejtett grönlandi hő átírhatja a tengerszint-emelkedés forgatókönyveit

💧 Grönland jégtakarója alatt rejtett hőörvények kavarognak, amelyek gyökeresen megváltoztathatják a tengerszint-emelkedésre vonatkozó előrejelzéseket...

MA 10:29

Az ingyenes frissítés bugos meglepetéseket hoz a Stardew Valley Switch 2-re

A Stardew Valley továbbra is meglepi a rajongókat: akik már megvették Nintendo Switch 2-re a népszerű farmszimulátort, most egy teljesen ingyenes frissítőcsomagot tölthetnek le...

MA 10:15

A jövő biztonsága most indul: NordVPN és posztkvantum titkosítás

2024 augusztusában a Nemzeti Szabványügyi és Technológiai Intézet (NIST) előállt az első három kvantumrezisztens titkosítási szabvánnyal, elindítva ezzel a digitális védelem új korszakát...

MA 10:02

Az áttörés: megvan az első bizonyíték az univerzális kvantumspin-folyadékra

Fontos kérdés, hogy léteznek-e az anyagnak olyan különleges állapotai, amelyekben az elektronok spinjei nem rendeződnek szabályos mintába, még a legalacsonyabb hőmérsékleten sem...

MA 09:50

A kamu MI-arcok már bárkit becsapnak – mégis van remény

🤔 A mesterséges intelligencia által generált arcok mára olyan élethűek, hogy még az arcfelismerésben kimagaslóan teljesítő, úgynevezett szuperfelismerők is csupán véletlenszerűen találják el, melyik arc valódi és melyik hamis...

MA 09:43

A Rainbow Six Siege botránya: játékosok milliárdokat kaszáltak

💸 A Ubisoft népszerű játéka, a Rainbow Six Siege (R6) történetének legnagyobb visszaélését szenvedte el, miután hackerek áttörték a belső rendszereket...

MA 09:35

Az MI-robotok már szavakkal is meghackelhetők

Kibervédelmi szakértők a DARKNAVY kutatócsoportból sikeresen feltörték egy modern humanoid robot vezérlését, mindössze hangutasításokat használva...

MA 09:22

Az MI-óriás betör a Steam Deck világába – Linux-trükk a Facebook-szervereken

💻 A Meta meglepő húzással a Valve Steam Deck kézikonzoljához fejlesztett Linux feladatütemezőt vezeti be adatközponti szerverein...

MA 09:15

Az OpenAI új vezére csak az MI sötét oldalát nézi

Az OpenAI vezére, Sam Altman új vezetőt keres, aki kifejezetten a mesterséges intelligencia jelentette veszélyekre összpontosít...

MA 09:02

A szárazság pusztíthatta ki a hobbitokat 61 ezer éve

Egy nemzetközi kutatócsoport friss vizsgálata szerint a drasztikus éghajlatváltozás hozzájárulhatott a Homo floresiensis, vagyis a legendás hobbitok kihalásához...

MA 08:57

Az ünnepi netcsalók támadnak: így védheted magad karácsonykor

🎅 Az év végi ünnepek csúcsidőszakot jelentenek a vásárlók számára, de ugyanez igaz a csalókra is...