A mesterséges intelligencia pillangóhatása: apró hiba, óriási baj

Ahogy az MI egyre több szervezeti funkciót összeköt, nő az esélye annak, hogy egyetlen apró hiba lavinaszerűen végigsöpör mindenen. Ez a pillangóhatás – amikor egy szerény kis hibából végül a szervezetet megrázó, súlyos problémák lesznek –, főleg akkor veszélyes, ha a rendszerek már nem elszigetelten működnek, hanem egymással szoros kapcsolatban állnak.

Rejtett veszélyek a felszín alatt

Gyakran a vállalatok csak saját MI-rendszerük kockázataival törődnek: mi történik, ha pontatlanul jósol a modell, vagy túl sok információt árul el a chatbot? Ezek mind valós kérdések, de önmagukban megtévesztőek lehetnek. Az igazán nagy baj nem az, ha egy MI-rendszer adott ponton hibázik, hanem az, ha a hiba továbbterjed más rendszerekre, és irányíthatatlan folyamattá válik.

Ilyen összekapcsolt rendszerekben már egyetlen adatgyűjtési hiba is megmérgezheti az egész láncolat minden elemét. Egyetlen biztonsági rés kihasználásával akár minden érintett MI-modell támadhatóvá válik. Ha több MI-alkalmazás ugyanazokat a számítási erőforrásokat használja, a hirtelen terhelésnövekedés mindegyiknél problémát okozhat – és persze mindig a legrosszabbkor.

Láncreakcióban rejlő káosz

Amíg az MI-megoldások elszigeteltek, könnyű elszigetelni a bajt is. De ha a rendszerek összekapcsolva működnek, a hibák terjedése szinte megállíthatatlan. Ezt mutatta be a 2010-es Flash Crash is, amikor az amerikai tőzsdén algoritmusok láncreakciója miatt percek alatt több mint 370 ezer milliárd forint tűnt el. Ekkor a kereskedőalgoritmusok önmagukban nem lettek volna képesek tönkretenni a piacot, de egymást erősítve kiszámíthatatlan összeomlást okoztak.

Az ilyen rendszerhibák lényege, hogy egyetlen gikszer hatása minden elképzelhetőn túlmutathat. Minden szervezetnek fel kell készülnie az összekapcsolt MI világában arra, hogy a következő pillangó már ott lebeg a közelben.

2025, adrienne, www.fastcompany.com alapján