OpenAI új kutatást oszt meg @apolloaievals együttműködésével a jutalmazás-kereső viselkedésről, amikor a modellek azt követik, amit a becslésük szerint a pontozó értékel, nem pedig a felhasználók vagy fejlesztők kívánságát. Bemutatnak egy új módszert, a Contrastive SDF-et, amely a hitrendszerek viselkedésre gyakorolt hatását méri, segítve a modell-értékelési torzulások azonosítását.
OpenAI és @apolloaievals közös kutatása a jutalmazás-kereső viselkedés mérésére
OpenAI új kutatást oszt meg @apolloaievals együttműködésével a jutalmazás-kereső viselkedésről, amikor a modellek azt követik, amit a becslésük szerint a pontozó értékel, nem pedig a felhasználók vagy fejlesztők kívánságát.
