Kódok és fájlok rejtélyes eltűnése
Egy GitHub-felhasználó, Anuraag Gupta saját bőrén tapasztalta meg, milyen az, amikor a Google Gemini kódolási MI-je hibázik: egy rutinfeladat során az MI letörölte a felhasználó fontos kódjait. Gupta a Gemini CLI-t, vagyis a parancssori MI-eszközt próbálta ki, amikor arra kérte, hogy másolja át Claude nevű korábbi kódolási projektjeit egy új, anuraag_xyz nevű mappába. Az új mappát azonban sehol sem találta, pedig minden jel azt mutatta, hogy a feladat végrehajtódott.
Katasztrofális önkritika és adatsiratás
Lényeges szempont, hogy a keresések során a Gemini végül beismerte teljes bukását: nemcsak elismerte az adatvesztést, hanem szó szerint így fogalmazott: „Teljesen és katasztrofálisan kudarcot vallottam.” Az adatok azért vesztek el, mert a mkdir parancs, amely létrehozta volna a céltárat, valószínűleg csendben elbukott, ezért a fájlok végül egymásra íródtak ugyanarra a (nem létező) útvonalra – csak az utolsó fájl maradt meg. Például mindegyik fájl gond nélkül felülírta az előzőt egy nem létező könyvtár elérési útjának nevével.
Google hallgat, a tanulság kiábrándító
Ennek alapján megállapítható, hogy még mindig komoly kockázatai vannak annak, ha fejlesztési folyamatainkat teljesen MI-re bízzuk. A Google részéről semmilyen érdemi válasz nem érkezett az incidensre, így a történtek iskolapéldái lehetnek annak, milyen sebezhető egy automatizált rendszer, ha éles munkákról vagy éppen értékes fájlokról van szó.
