ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással

ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.

A Mesterséges Intelligencia mint fegyver

A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.

Kínai megfigyelőrendszer nyugati tüntetések ellen

A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.

Amerika-ellenes propaganda Latin-Amerikában

A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.

  • Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
  • Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
  • Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?


Legfrissebb posztok

MA 20:48

A Firefoxban végre teljesen kikapcsolhatod az MI-t

A Mozilla új vezérigazgatója a héten bejelentette, hogy a Firefox modern MI-böngészővé válik, de a cég most azt is elárulta, hogy hamarosan egy teljes MI-kapcsolót vezetnek be...

MA 20:34

A nagy csavar: az álmocskagomba nem is gomba

Sűrű, mohával borított erdők mélyén, Tajvan hegyeiben, Japán belsejében és Okinawa szubtrópusi lombjai alatt rejtőzik egy igencsak szokatlan élőlény...

MA 20:18

Az MI forradalma a streamingben: végre tényleg nézhető lesz?

🎬 Érdemes megvizsgálni, hogy hamarosan teljesen új korszak köszönt be a videóstreaming világában...

MA 20:02

Az öngyógyító kvantumszámítógép: mekkora az MI szénlábnyoma?

Kutatók áttörést értek el a kvantumszámítógépek fejlesztésében: elkészült az első, önmagát javítani képes rendszer...

MA 19:18

A zöld miniszigetek felpezsdítik Dunedin belvárosát

Tényleg számítanak a legkisebb zöldterületek is: a Dunedin belvárosában megvalósított zöldítő projekt során utcai virágládákkal tették élőbbé és változatosabbá a környezetet...

MA 19:01

A valódi ok, amiért hol nő, hol csökken a jövedelmed

📈 Érdemes megvizsgálni, mi mozgatja valójában a jövedelmek változását: hogyan lehet anyagilag előrelépni, és mi okozza a lecsúszást?..

MA 18:50

Az új felfedezés mindent átírhat Titán rejtélyéről

Az eddigi elképzelések szerint a Szaturnusz legnagyobb holdja, a Titán, hatalmas óceánt rejt vastag, fagyott kérge alatt...

MA 18:33

A kidobott műanyag a vegyipar új aranya?

📦 Érdekes felvetés, hogy vajon sikerülhet-e a műanyaghulladékot nemcsak lebontani, hanem értékes ipari anyagokká alakítani...

MA 18:17

Az év leghosszabb éjszakáján érkezik az Ursidák fináléja

🌙 Az év utolsó, egyben legelhanyagoltabb meteorhullása, az Ursidák, most hétvégén éri el csúcspontját – ráadásul épp újholdkor és a téli napforduló idején...

MA 18:03

A Fomalhaut körüli bolygóháború: óriások csapnak össze

A NASA Hubble-űrteleszkópja újabb bizonyítékot talált arra, hogy a közeli Fomalhaut csillag körül valójában nem egy új bolygó jelent meg, hanem két korai bolygókezdemény ütközése robbantotta fel az anyagfelhőt...

MA 17:51

A legpontosabb kvantumszámítógép született – jön a szilíciumforradalom?

Ausztrál fizikusok áttörést értek el a kvantumszámítógépek világában: minden eddiginél pontosabb chipet fejlesztettek ki, amely új, szilíciumalapú architektúrára épül...

MA 17:34

A sivatag titka: a núbiai gyerekek ősi tetoválásai

Több mint ezer éve Núbiában, a mai Szudán területén már egészen fiatal gyerekek arcát is tetoválások díszítették...

MA 17:17

Az intersztelláris üstökös földközelben: vendég a kozmoszból

Éjszaka különleges esemény zajlott az égen: az intersztelláris eredetű 3I/ATLAS üstökös mintegy 270 millió kilométerre repült el a Föld mellett, ami csillagászati viszonylatban meglepően közelinek számít...

MA 17:02

Az égi ütközések titkai: káosz a „Szauron szeme” körül

💫 Mindössze 25 fényévre innen, a Szauron szemének becézett Fomalhaut csillagrendszerben rendkívüli események tanúi lehetünk: csillagászok először figyeltek meg közvetlenül két bolygócsíra összeütközését, ráadásul mindössze húsz éven belül kétszer is...

MA 16:04

Az új Meze 99 Classics második generáció: diófa, döngő basszus, némi fejfájás

🎧 Érdemes megvizsgálni, milyen élményt kínál a Meze Audio legújabb vezetékes fejhallgatója, a jól ismert 99 Classics utódja, amely lenyűgöző külsejével és zenei teljesítményével hódít...

MA 15:50

Az év legizgalmasabb tudományos áttörései és űrbéli csodái

🚀 December közepén egymást érik a tudományos szenzációk: japán lézerfegyver-próba, rejtélyes üstökös búcsúja, pingvinevő pumák, és az MI megoldhatatlannak tartott matematikai problémákat old meg...

MA 15:34

A mesterséges intelligencia ront a helyesíráson – veszélyben a gyerekek

Felmerül a kérdés, hogy mennyire támaszkodhatnak a gyerekek a digitális helyesírás-ellenőrző eszközökre az iskolai tanulmányaik során...

MA 15:17

Az Airbus Európába költözteti kritikus adatait – a felhőbe

🖥 Az Airbus hamarosan pályázatot ír ki, hogy a legfontosabb vállalati alkalmazásait egy európai, digitálisan szuverén felhőbe költöztesse...

MA 15:01

Az egykori Patagonia-vezér kiszáll a Rivian vezetéséből

🚗 Rose Marcario, a Patagonia korábbi vezérigazgatója január 1-jén lemond igazgatósági tagságáról a Rivian elektromos autógyártó cégnél, hogy más feladataira összpontosítson...