ChatGPT felhasználók buktak le kémkedéssel és propaganda gyártással
Az OpenAI nemrég azonosított és letiltott több felhasználói fiókot, amelyek rosszindulatú kampányokban vettek részt. A “Peer Review” és “Sponsored Discontent” fedőnevű kampányok feltehetően Kínából indultak. Az OpenAI közlése szerint ezek a fiókok az OpenAI és egy másik amerikai mesterséges intelligencia labor modelljeit használták megfigyelési műveletekhez és Amerika-ellenes tartalmak generálásához.
A Mesterséges Intelligencia mint fegyver
A mesterséges intelligencia hatékony eszközzé vált a rosszindulatú szereplők kezében, akik a választások manipulálására és a demokrácia aláásására használják fel instabil vagy politikailag megosztott országokban. Az államilag támogatott kampányok előszeretettel használják ki ezt a technológiát céljaik elérésére.
Kínai megfigyelőrendszer nyugati tüntetések ellen
A “Peer Review” kampány során mesterséges intelligenciát használtak részletes leírások generálására, amelyek egy közösségi média figyelő eszköz értékesítési anyagainak tűntek. Állításuk szerint ezzel a nyugati tüntetésekről készítettek valós idejű jelentéseket a kínai biztonsági szolgálatoknak. A megfigyelési kampány részeként a modelltől kódszerkesztési és hibakeresési segítséget is kértek, valamint promóciós anyagokat generáltak a feltételezett AI-alapú közösségi média megfigyelő eszközökhöz. Az OpenAI azonban nem talált a kampányhoz köthető közösségi média bejegyzéseket.
A “Sponsored Discontent” kampányban résztvevő ChatGPT fiókokat angol nyelvű kommentek és spanyol nyelvű hírcikkek generálására használták. A tartalmak “spamouflage” jellegű, Amerika-ellenes retorikát alkalmaztak, feltehetően Latin-Amerikai országokban – köztük Peruban, Mexikóban és Ecuadorban – való elégedetlenség szítására. Nem ez az első eset, hogy kínai állami szereplők “spamouflage” taktikát alkalmaznak dezinformáció terjesztésére. 2024 végén egy olyan hálózatot lepleztek le, amely több ezer AI-generált képet és videót tartalmazott, többnyire gyenge minőségű és hamis információkkal.
filózó
Mit gondolsz, hogyan lehetne hatékonyabban védekezni a mesterséges intelligencia ilyen jellegű rosszindulatú használata ellen?
Te mit tennél, ha olyan országban élnél, ahol a kormány mesterséges intelligenciát használ megfigyelési célokra?
Szerinted az OpenAI helyesen járt el, amikor letiltotta ezeket a fiókokat, vagy mást is tehetett volna?
♘ A sakktáblák automatizálása már nem újdonság, hiszen eddig is akadtak olyan megoldások, ahol a bábuk alatt mágnes segítségével vagy kívülről, egy robotkarral mozgatták a figurákat...
💉 A brit egészségügy szemmel láthatóan komoly digitális fordulat elé néz: több mint félmillió orvos, nővér és háttérdolgozó kap hozzáférést a Microsoft 365 Copilot nevű MI-eszközhöz...
👽 Hihetetlen, de mégis igaz, hogy a tudatosság kérdése egyre fontosabbá válik, ahogy az univerzum határait kutatjuk, és a mesterséges intelligencia fejlődése is egyre gyorsul...
Az Amazon vezérigazgatója, Andy Jassy személyesen számolt be amerikai tisztviselőknek arról, hogy kutatóik az Anthropic egyik legújabb MI-modelljét, a Fable 5-öt olyan információk előállítására vették rá, amelyeket elvileg nem lett volna szabad...
Érdekes felvetés, hogy az angliai egészségügyi ellátásban részt vevő páciensek nem dönthetnek arról, hogy adataikat feldolgozzák-e a Palantir által fejlesztett NHS Federated Data Platformon (FDP), miközben kórházaik elutasíthatják a rendszer használatát...
🚫 Jellemző példa erre, hogy váratlanul szűnik meg egy népszerű technológia elérhetősége: a legújabb exportkorlátozási döntés értelmében minden felhasználó számára világszerte, azonnali hatállyal lekapcsolták a Fable 5 és Mythos 5 modellek hozzáférését...
🔎 Egy nagy szervezet elkülönített kritikus infrastruktúrahálózatába jutott be a Velvet Ant nevű kínai kibercsoport, és tíz éven keresztül zavartalanul kémkedett...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. CrestWall – 4K Wallpapers (iPhone/iPad)A CrestWall egy kézzel válogatott 4K felbontású háttérképeket kínáló alkalmazás, amely azoknak szól, akik szeretnék egyedivé tenni iPhone-juk kinézetét...
🥀 Érdekes felvetés, hogy a világ felszíne alatt láthatatlanul behálózzák bolygónkat a gombafonalak: a kutatók szerint, ha az összes arbuszkuláris mikorrhiza gomba fonalait egyetlen vonalba fűznénk, azok messze túlnyúlnának a Naprendszer határán is...
💸 Érdekes felvetés, hogy a világ legnagyobb technológiai cégeinek értékével vetekedő óriáscégek, mint a SpaceX, hirtelen bekerülhetnek mindenki portfóliójába, pusztán az indexek ereje miatt...
🚫 Az Anthropic hirtelen felfüggesztette két legerősebb MI-modellje, a Fable 5 és a Mythos 5 használatát világszerte, miután az amerikai kormány exportkorlátozási rendelettel azonnali tiltást rendelt el minden külföldi állampolgár számára...
Felmerül a kérdés, hogy miért kellett több mint 25 évet várni egy új naptejösszetevő megjelenésére az Egyesült Államokban, miközben Európa és a világ többi része már régen használ fejlettebb kémiai védelmet...
🔒 Egy lényeges szempont, hogy amikor új Android-telefon kerül valakihez, spontán nekiáll az alkalmazások letöltésének, fiókokba való belépésnek, a felesleges gyári appok kitakarításának és a külalak testreszabásának...
A telefonok töltési sebességét tekintve elértük a csúcsot, de még messze vagyunk attól, hogy minden eszközünket egyszerűen, gond nélkül tudjuk tölteni...