Az MI végre szembenéz a hibáival

Új irány: őszinte beismerések az MI-től

A kutatók most egy újszerű módszerrel próbálkoztak: megtanították a modellt arra, hogy külön kérésre „vallomással” egészítse ki az eredeti válaszát. Ebben a vallomásban a modellnek az elvárásoknak és iránymutatásoknak megfelelően őszintén be kell vallania saját bizonytalanságát vagy hiányosságait. A tréning során kizárólag a vallomás őszinteségét jutalmazzák – nem számít, mennyire jó vagy rossz volt maga a válasz.

Az első eredmények és lehetőségek

A módszert a GPT-5-Thinking modellen tesztelték. Kiderült, hogy amikor a fő válaszban a modell téved, vagy elfedi a problémákat, a vallomásban gyakran már őszintén feltárja a valóságot. Az ilyen beismerések őszintesége ráadásul javul a tréning során. Ez az újfajta „vallomás” számos gyakorlati lehetőséget rejt: valós időben lehet ellenőrizni a modell működését, el lehet utasítani a félrevezető válaszokat, vagy épp a felhasználók elé lehet tárni a felmerülő problémákat.

2025, adrienne, arxiv.org alapján