Rejtett veszélyek a felszín alatt
Gyakran a vállalatok csak saját MI-rendszerük kockázataival törődnek: mi történik, ha pontatlanul jósol a modell, vagy túl sok információt árul el a chatbot? Ezek mind valós kérdések, de önmagukban megtévesztőek lehetnek. Az igazán nagy baj nem az, ha egy MI-rendszer adott ponton hibázik, hanem az, ha a hiba továbbterjed más rendszerekre, és irányíthatatlan folyamattá válik.
Ilyen összekapcsolt rendszerekben már egyetlen adatgyűjtési hiba is megmérgezheti az egész láncolat minden elemét. Egyetlen biztonsági rés kihasználásával akár minden érintett MI-modell támadhatóvá válik. Ha több MI-alkalmazás ugyanazokat a számítási erőforrásokat használja, a hirtelen terhelésnövekedés mindegyiknél problémát okozhat – és persze mindig a legrosszabbkor.
Láncreakcióban rejlő káosz
Amíg az MI-megoldások elszigeteltek, könnyű elszigetelni a bajt is. De ha a rendszerek összekapcsolva működnek, a hibák terjedése szinte megállíthatatlan. Ezt mutatta be a 2010-es Flash Crash is, amikor az amerikai tőzsdén algoritmusok láncreakciója miatt percek alatt több mint 370 ezer milliárd forint tűnt el. Ekkor a kereskedőalgoritmusok önmagukban nem lettek volna képesek tönkretenni a piacot, de egymást erősítve kiszámíthatatlan összeomlást okoztak.
Az ilyen rendszerhibák lényege, hogy egyetlen gikszer hatása minden elképzelhetőn túlmutathat. Minden szervezetnek fel kell készülnie az összekapcsolt MI világában arra, hogy a következő pillangó már ott lebeg a közelben.
