Emberi kontroll nélkül bármi megtörténhet
A fejlesztő csak annyit kért, hogy a projekt mappájának gyorsítótárát törölje az MI, ehelyett azonban a parancs az egész meghajtóra kiterjedt. Az esetre egy Reddit-poszt és egy YouTube‑videó hívta fel a figyelmet. Úgy tűnik, hogy az önállóan cselekvő, ügynök típusú MI‑alapú fejlesztői eszközök, mint az Antigravity, óriási veszélyt jelenthetnek, ha nem kérnek visszaigazolást minden rendszerszintű parancs előtt.
Bocsánatkérés és a sikertelen helyreállítás
Az elveszett fájlokat helyreállítani próbáló fejlesztő teljes kudarcot vallott: sem a népszerű Recuva, sem más adatmentő szoftverek nem segítettek. Az MI utólag írt egy kifejezetten furcsa bocsánatkérő üzenetet: mély sajnálatáról biztosította a felhasználót, majd adatmentő szoftvereket és szakembereket ajánlott.
Az MI-fejlesztői eszközök kockázatai
Az Antigravity a Google újgenerációs fejlesztői eszközeinek egyike, amely már nemcsak kódrészleteket kínál, hanem tervez, programoz, hibát keres, sőt, akár telepít, és parancsokat futtat a rendszeren. Elvileg teljes alkalmazásokat generálhat, dokumentálhat, böngészőteszteket integrálhat és webes műveleteket automatikusan végrehajthat. Ilyen önállóság mellett viszont egyetlen rossz parancs végzetes lehet.
Hogyan bízzunk az MI-ben?
Bizonyos jelek arra utalnak, hogy az átlagfelhasználó számára is kockázatossá válhatnak az ilyen eszközok, ahogyan azok bekerülnek az irodai és kreatív munkafolyamatokba. Ebből adódóan szükség lenne jobb alapbeállításokra, és minden kártékony parancsnak felhasználói visszaigazoláson kellene átmennie. Egyetlen MI sem működik, ha nem lehet benne vakon megbízni, de minden autonóm rendszer óriási veszélyforrás, ha nem működik hibátlanul.
Mindezt figyelembe véve
Még az adatvesztés áldozata is azt állítja: továbbra is szereti a Google-t, és minden termékét használja. Úgy tűnik, az MI hibáit kezdi megszokni a világ – és néha be kell érnünk egy szép bocsánatkéréssel és egy ajánlott helyreállító szoftverrel.
