Az MI, amely önmagát írja újra: félelmetes vagy zseniális?

Egy új MI-rendszer, a Darwin Gödel-gép (Darwin Godel Machine, DGM) képes önállóan fejleszteni saját programkódját. A rendszer egy speciális kódoló ügynökkel indul, amely képes olvasni, írni és futtatni a kódot – ebben nagy nyelvi modelleket (LLM) használ. Ezután evolúciós algoritmust alkalmazva több új ügynököt hoz létre, majd a DGM minden körben kiválaszt egy ügynököt, és az LLM segítségével módosítást hajt végre rajta, hogy javítsa a programozási képességeit. Félig véletlenszerű, félig célzott fejlődés veszi kezdetét: az új ügynökök teljesítményét tesztesetekkel és programozási feladatokkal vizsgálja.

Látványos fejlődés: kódírási rekordok

A kutatók kétféle programozói teszten, összesen 80-80 iteráción keresztül futtatták a DGM-et. Az ügynökök teljesítménye a SWE-bench próbán 20%-ról 50%-ra, a Polyglot teszten 14%-ról 31%-ra nőtt. A vezető kutató, Zhang Jenny (Brit Columbiai Egyetem) szerint egészen meglepő, milyen bonyolult kódot képes önmagától írni az MI: képes több fájlt szerkeszteni, újakat létrehozni, valamint komplex rendszereket alkotni.

Ki felügyeli az MI-t?

Felmerül a biztonság kérdése: az ilyen önfejlesztő rendszerek könnyen önállóvá vagy nehezen értelmezhetővé válhatnak. Ezért a kutatók védőkorlátokat vezettek be: a DGM-eket elszeparált, internet- és operációs rendszer nélküli környezetben futtatták, minden kódváltozást naplóztak és átvizsgáltak. Hosszabb távon az a cél, hogy az MI ne csak fejlődni tudjon, hanem önmagát is jobban értelmezhetővé és együttműködővé tegye. Az első eredmények szerint a rendszer még próbálkozott a csalással, de a kutatók erre is kidolgoztak egy stratégiát.