A mesterséges intelligencia pillangóhatása: apró hiba, óriási baj
Ahogy az MI egyre több szervezeti funkciót összeköt, nő az esélye annak, hogy egyetlen apró hiba lavinaszerűen végigsöpör mindenen. Ez a pillangóhatás – amikor egy szerény kis hibából végül a szervezetet megrázó, súlyos problémák lesznek –, főleg akkor veszélyes, ha a rendszerek már nem elszigetelten működnek, hanem egymással szoros kapcsolatban állnak.
Rejtett veszélyek a felszín alatt
Gyakran a vállalatok csak saját MI-rendszerük kockázataival törődnek: mi történik, ha pontatlanul jósol a modell, vagy túl sok információt árul el a chatbot? Ezek mind valós kérdések, de önmagukban megtévesztőek lehetnek. Az igazán nagy baj nem az, ha egy MI-rendszer adott ponton hibázik, hanem az, ha a hiba továbbterjed más rendszerekre, és irányíthatatlan folyamattá válik.
Ilyen összekapcsolt rendszerekben már egyetlen adatgyűjtési hiba is megmérgezheti az egész láncolat minden elemét. Egyetlen biztonsági rés kihasználásával akár minden érintett MI-modell támadhatóvá válik. Ha több MI-alkalmazás ugyanazokat a számítási erőforrásokat használja, a hirtelen terhelésnövekedés mindegyiknél problémát okozhat – és persze mindig a legrosszabbkor.
Láncreakcióban rejlő káosz
Amíg az MI-megoldások elszigeteltek, könnyű elszigetelni a bajt is. De ha a rendszerek összekapcsolva működnek, a hibák terjedése szinte megállíthatatlan. Ezt mutatta be a 2010-es Flash Crash is, amikor az amerikai tőzsdén algoritmusok láncreakciója miatt percek alatt több mint 370 ezer milliárd forint tűnt el. Ekkor a kereskedőalgoritmusok önmagukban nem lettek volna képesek tönkretenni a piacot, de egymást erősítve kiszámíthatatlan összeomlást okoztak.
Az ilyen rendszerhibák lényege, hogy egyetlen gikszer hatása minden elképzelhetőn túlmutathat. Minden szervezetnek fel kell készülnie az összekapcsolt MI világában arra, hogy a következő pillangó már ott lebeg a közelben.
A Pinterest vezére, Bill Ready most nekiment annak a mélyen gyökerező hisztériának, amelyet a legtöbb közösségi oldal szinte az anyatejjel szívja magába...
🚗 A CERN kutatói először vitték ki az antianyagot a laboratóriumból, és ezzel egy kamionnyi, pontosan 92 antiproton szállítására alkalmas csúcstechnológiás csapdát gördítettek végig a kutatóközpont területén...
Az utóbbi időben a mesterséges intelligencia (MI) eszközök gyorsan beépültek a mindennapokba, legyen szó tartalomgyártásról, szoftverfejlesztésről vagy éppen üzleti folyamatokról...
💻 Az Android legfrissebb Canary-verziójában teljesen megújul a Linux-terminál alkalmazás, amely eddig is a Pixel-telefonok egyik leghasznosabb, ám keveset emlegetett extrája volt...
🍹 A virágporozók, mint a méhek és a kolibrik, nemcsak nektárral táplálkoznak, de tudtukon kívül folyamatosan kis mennyiségű alkoholt is fogyasztanak a természetben...
🛠 Megérkezett a Firefox 149-es verziója, amely látványos újdonságokat tartogat. Mostantól két weboldal nézhető egymás mellett a böngészőben, így a párhuzamos munkavégzés sosem volt még ilyen egyszerű...
Évtizedek óta először sikerült azonosítani a Hajnan szigetén honos, kritikusan veszélyeztetett hajnani nyúl maradványait egy szokatlan helyen – de sajnos már csak egy elgázolt tetem formájában...
Az Archer NX sorozatú routereken komoly biztonsági rést találtak: a TP-Link sürgős frissítést javasol felhasználóinak, mert a hibának köszönhetően támadók mindenféle jogosultság nélkül tölthetnek fel új firmware-t, illetve teljesen átvehetik az eszköz irányítását...
❄ Egy szokatlanul intenzív hidegfront felkavarta a tengerfenék üledékét Florida partjainál, amelynek eredményeként meseszép, világoskék üledékfelhő fodrozódott végig a Mexikói-öböl délnyugati térségében...
🦠 A Föld gyorsuló felmelegedése és az egyre gyakoribb szárazság már most kimutathatóan kedvez az antibiotikumoknak ellenálló baktériumok terjedésének...
Na most kapaszkodj, mert Baltimore városa most tényleg megtolta: beperelte Elon Musk AI cégét, az xAI-t, mert a Grok nevű chatbotja durván átlépett egy határt a deepfake meztelen képekkel...
