Claude modell önértékeléssel jelzi a beszélgetési visszaéléseket

A Claude nevű AI-modellbe beépített önértékelés címkézi a lehetséges visszaéléseket közvetlenül a válaszadás után; a technikát június óta használják. Az eljárás hatékonyan feltár olyan visszaéléseket, amelyeket a hagyományos osztályozók nem észlelnek, és pontossága a modell fejlődésével javul.