ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással

ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.

A Mesterséges Intelligencia mint fegyver

A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.

Kínai megfigyelőrendszer nyugati tüntetések ellen

A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.

Amerika-ellenes propaganda Latin-Amerikában

A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.

  • Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
  • Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
  • Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?


Legfrissebb posztok

MA 20:50

A Kia és a Hyundai újabb blamája: vagyonokba kerülnek a lopások

🚗 A Kia és a Hyundai ingyenes javítási programba kezd, hogy visszaszorítsa a „Kia Boyz” néven elhíresült autólopásokat, amelyek miatt világszerte több millió autótulajdonos került veszélybe...

MA 20:34

Az NIS2: Szorul a hurok a jelszavak és az MFA körül

🔒 Kikre vonatkozik az NIS2? Az uniós NIS2 irányelv 2023 januárjában váltotta fel az eredeti NIS-t, a tagállamoknak pedig 2024 októberéig kellett beépíteniük saját jogrendjükbe...

MA 20:18

Az amerikai Nyugat tűzoltási gyakorlata időzített bombává vált

🔥 Érdemes megvizsgálni, hogy az Egyesült Államok nyugati részén évtizedeken át tartó tűzoltás mára komoly problémát okozott...

MA 20:01

Az Apple megnyitja Japánban az App Store-t – kényszerből

Az Apple kénytelen megnyitni az App Store-t a verseny számára Japánban, mivel a most életbe lépett Mobil szoftver versenytörvénye (Mobile Software Competition Act, MSCA) így rendelkezik...

MA 19:49

Az amerikai hatóságok lecsaptak az E-Note kriptotőzsdére

Az Egyesült Államok hatóságai lefoglalták az E-Note nevű kriptotőzsde szervereit és weboldalait, miután kiderült, hogy több mint 70 millió dollárnak (kb...

MA 19:33

Az űriglu: a jég lehet a marsi túlélés kulcsa

❄ Amikor emberek végre eljuthatnak a Marsra, szükségük lesz tartós védelmet nyújtó otthonokra a bolygó kegyetlen felszínén...

MA 19:17

A MI-chipháború: Kína titkos Manhattan-terve

Kínai tudósok titkos, szigorúan őrzött laboratóriumban, Sencsenben egy fejlesztésen dolgoznak, amelyet az USA évek óta próbál minden eszközzel – exportkorlátozásokkal, szankciókkal – megakadályozni...

MA 18:50

Az új Meetup app tényleg forradalmasítja az ismerkedést?

A pandémia után új erőre kapott a Meetup, különösen a Z generáció és a fiatalabb millenniálok körében, akik már a felhasználók 40 százalékát teszik ki...

MA 18:34

Az űrszonda sosem látott képet küldött egy csillagközi üstökösről

A NASA Europa Clipper űrszondája páratlan rálátást szerzett a 3I/ATLAS nevű csillagközi üstökösre, amely júliusban harmadikként érkezett Naprendszerünkbe...

MA 18:18

Az új permetezhető bevonat lehet a gazdák mentőöve

💧 A Kaliforniai Egyetem mérnökei új, permetezhető antibakteriális polimert fejlesztettek ki, amely képes megvédeni a növényeket a fertőzésektől és a szárazságtól...

MA 17:33

A HPE sürgősen foltozza a OneView egyik legveszélyesebb hibáját

⚠ A Hewlett Packard Enterprise kritikus biztonsági hibát javított a népszerű OneView szoftverében, amely lehetővé tette, hogy támadók távolról, jogosultság nélkül futtassanak kódot...

MA 17:17

A Facebook új húzása: mostantól fizetős a linkmegosztás

A Meta újítása értelmében a Facebookon mostantól csak azok oszthatnak meg korlátlanul linket, akik előfizetnek a Meta Verified szolgáltatásra, amely havonta 5600 forintba kerül...

MA 17:02

Az agyunk titkai: 2025 tíz legmegdöbbentőbb felfedezése

Az emberi agy még mindig az univerzum egyik legnagyobb rejtélye: több mint 86 milliárd idegsejtből és 100 billió szinapszisból álló, elképesztően összetett rendszer...

MA 16:49

A főnökök besokalltak az MI-től, újra embereket vesznek fel

👤 Bár a cégek vezetőinek 94%-a szerint elkerülhetetlen az MI használata a munkahelyen, sokan közülük még mindig kellemetlenül érzik magukat miatta...

MA 16:17

Az Apple enged: jönnek a külső appboltok Japánban

📦 Az Apple jelentős változásokat vezet be Japánban: mostantól külső alkalmazásboltokból is lehet iOS-alkalmazásokat letölteni, és alternatív fizetési módokat is engedélyez a rendszerben...

MA 15:50

Az űrben tátongó sebhely rejtélye: két csillag majdnem eltalálta a Napot

🚀 Körülbelül 4,5 millió évvel ezelőtt két fénylő, kék-fehér óriáscsillag – a Beta Canis Majoris és az Epsilon Canis Majoris – került meglepően közel a Naphoz, mindössze 30 fényéves távolságra...

MA 15:02

Az év legmeghökkentőbb fizikai felfedezései

Tipikus eset, amikor a tudomány váratlanul izgalmas meglepetésekkel szolgál – és néha még egy fizikust is tengeribeteggé tesz egy tudományos konferencián...

MA 14:49

Az új Kuxiu S3: nagyobb, biztonságosabb, még erősebb külső akkumulátor

🔋 A Kuxiu S3 új fejezetet nyit a hordozható töltők világában: masszívabb, biztonságosabb, miközben kényelmi extrákkal is bővült...

MA 14:33

Az emberiség áttörést ért el: feltárták a Nap láthatatlan felszínét

A NASA Parker Solar Probe-ja korábban elképzelhetetlen részletességgel térképezte fel a Nap légkörének eddig ismeretlen részét...