ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.
A Mesterséges Intelligencia mint fegyver
A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.
Kínai megfigyelőrendszer nyugati tüntetések ellen
A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.
A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.
filózó
Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?
🎮 Tipikus helyzet, amikor egy régi kedvenc konzol játékait szeretnéd újra átélni egy modern hordozható gépen, de a tökéletes élményhez rengeteg apró beállítás és trükk szükséges...
Mozilla fejlesztői elképesztő eredményt értek el az Anthropic Claude Mythos nevű MI-jével: 271 sebezhetőséget fedeztek fel és javítottak a Firefox legújabb verziójában, méghozzá úgy, hogy az MI minden olyan hibát felismer, amelyet egyébként az emberek is megtalálnának – csak sokkal gyorsabban...
A nagy amerikai bankok látványos profitemelkedést értek el az idei év első negyedévében: a JPMorgan Chase, a Citi, a Bank of America, a Goldman Sachs, a Morgan Stanley és a Wells Fargo együtt 47 milliárd dolláros (kb...
💥 Az Egyesült Királyság független kommunikációs hatósága, az Ofcom átfogó vizsgálatot indított a Telegram ellen, miután bizonyítékokat kapott arról, hogy a platform gyermekek szexuális bántalmazását ábrázoló anyagok (CSAM) terjesztésére szolgálhat...
Az Atlanti-óceán egyik legfontosabb áramlatrendszere, az úgynevezett Atlanti meridionális áramlási rendszer (AMOC) a Föld éghajlatának védőernyőjeként működik – egy óriási szállítószalag, amely az északi félteke felé szállítja a melegebb, déli vizeket, miközben a hideg vizeket dél felé szállítja...
Az OpenClaw nevű MI-ügynök rohamosan terjed a hétköznapi munkafolyamatokban, de a biztonsági frissítések és óvintézkedések aligha tartják a lépést vele...
Az XPANCEO Emerging Technologies Research Center kutatói, a Nobel-díjas Konsztantyin Novoszjolov vezetésével, elképesztő optikai tulajdonságokat fedeztek fel az arzén-triszulfid (As2S3) kristályos félvezetőben...
🔒 Franciaország egyik legfontosabb kormányzati ügynöksége, a France Titres (Agence nationale des titres sécurisés, ANTS) érzékeny adatszivárgást szenvedett el, miután hackertámadást hajtottak végre, és állampolgári adatokat loptak el...
Ma több korszakos fordulópont találkozott: Adolf Hitler a Führerbunkerben beismerte a vereséget, a világ pedig megélte a helikopterek első harci bevetését és az első szóló, megállás nélküli föld körüli vitorlázást...
Az amerikai kibervédelmi hivatal, a CISA négy napot adott az állami szervezeteknek rendszereik befoltozására egy újabb, a támadók által már aktívan kihasznált SD-WAN Manager sebezhetőség miatt...
💰 Az Opendoor Technologies részvénye 11%-ot emelkedett egyetlen nap alatt, ahogy a cég egy merőben új útra lépett: most már teljesen MI-alapú, integrált lakáspiaci platformként pozicionálja magát...
Érdemes megvizsgálni, miért haladt el az MI már rég az IT-szakemberek mellett, miközben az értékesítésben még mindig adatszigetek, kézi CRM-bejegyzések és megérzésen alapuló riportok uralják a terepet...
Az FBI vizsgálatot indított legalább tíz tudós halálának és eltűnésének ügyében, akik kormányzati tudományos projektekhez, illetve érzékeny információkhoz férhettek hozzá...
💸 Idén jelentősen nőhet a diploma megszerzése után rájuk háruló adósságterhe annak a közel egymillió fiatalnak, akik ősszel kezdik meg felsőfokú tanulmányaikat...
A Bitget tőzsde új lehetőséget nyit az átlagbefektetők előtt azzal, hogy elhozza a magáncégek – elsőként a SpaceX (SpaceX) – tőzsdei bevezetés előtti (pre-IPO) tokenjeit a Solana blokkláncon...
Ez a jelenség jól illusztrálható azzal, hogy a NASA sikeres Artemis II-küldetése után minden szem azokra a technikai kihívásokra szegeződik, amelyek hátravanak az ember visszatéréséhez a Holdra...
Kalifornia főügyésze, Rob Bonta egy új jogi beadványban hozta nyilvánosságra, hogy az Amazon a piaci pozícióját kihasználva több márkát is felszólított arra, hogy emeljék termékeik árát más kiskereskedőknél, például a Walmartnál vagy a Targetnél...
Az USA Legfelsőbb Bírósága februárban alkotmányellenesnek minősítette a Nemzetközi Sürgősségi Gazdasági Hatalmak Törvénye (IEEPA) alapján kivetett egyes vámokat...
🚀 Az elmúlt években a mesterséges intelligencia fejlesztése olyan sebességgel halad, hogy nehéz felfogni, az emberiség mindennapjai és jövője miként alakulhat át miatta...
⚠ Jellemző példa erre, hogy egy biztonsági kutató egy GitHub pull request címébe rejtett rosszindulatú utasítás segítségével három különböző, MI-alapú kódolást segítő ügynökből – Anthropic Claude Code Security Review (GitHub Action), Google Gemini CLI Action és GitHub Copilot Agent (Microsoft) – egyszerre szedett ki szigorúan védett titkos adatokat...
