Az MI rendszerek alapvető problémái
A legújabb kutatások szerint az önállóan döntő MI-ügynökök már induláskor sérülékenyek. Ezek a rendszerek megbízhatatlan adatokkal dolgoznak, le nem tesztelt eszközöket használnak, sokszor ellenséges digitális környezetben működnek. Az MI működésének minden szakasza – az észlelés, az értelmezés, a döntés és a cselekvés is – támadási lehetőséget kínál. Így akár egy egyszerűen manipulált utasítás vagy mérgezett adat is belülről bomlaszthatja a rendszert, hiszen az MI minden inputot egyformán kezel.
A biztonsági háromszög csapdája
A szakértők szerint az MI-fejlesztésben az úgynevezett biztonsági trilemma uralkodik: gyors, okos vagy biztonságos lehet egy rendszer – de ebből egyszerre csak kettő választható. A megbízhatóságot nem lehet utólag hozzáadni, már az alapoktól szükséges integrálni. A számítógépes védelem fejlődése például a decentralizációval kezelte a kiesést, a titkosítással a bizalmasságot. Most új feladat: a rendszer integritását kell biztosítani, még akkor is, ha meg akarják rontani. Kérdés, hogy egyáltalán lehetséges-e ezt elérni a jelenlegi architektúrával.
