Az Anthropic újítása lehetővé teszi, hogy a Claude Opus 4 és 4.1 MI-modell saját belátása szerint véget vessen egy beszélgetésnek, ha az túlságosan ártalmas vagy bántalmazóvá válik. Erre csak ritka és szélsőséges esetekben kerül sor, például amikor a felhasználó kiskorúakat érintő szexuális tartalmat kér, vagy nagyszabású erőszakos, illetve terrorista cselekményekhez keres információt. A rendszer csak akkor zárja le a társalgást, ha többszöri terelés után sincs esély érdemi párbeszédre.
Mit jelent ez a felhasználóknak?
Ha Claude kilép egy ilyen beszélgetésből, abban a chatben többé nem lehet üzenetet írni, de új beszélgetést azonnal lehet indítani. Az előzményekhez a felhasználó bármikor visszatérhet, módosíthatja vagy újra elküldheti korábbi üzeneteit, hogy elfogadható irányba terelje a párbeszédet. A funkciót egyelőre csak extrém esetekben alkalmazzák, ezért a legtöbbeket nem fogja érinteni, még érzékeny témáknál sem.
Miért vezetik be mindezt?
Az Anthropic ezzel a megoldással saját MI-jének jólétét is figyelembe veszi. Az úgynevezett „MI-jólét” itt azt jelenti, hogy a modell is kikerülhet olyan helyzetekből, amelyek veszélyesek vagy károsak lehetnek számára. A vállalat folyamatosan teszteli az újítást, és várja a felhasználók visszajelzéseit az ilyen helyzetekről.
