OpenAI kutatás: a Chain-of-Thought növekedése csökkenti a modellek monitorozhatóságát

Az OpenAI közzétett egy kutatást a Chain-of-Thought (CoT) monitorozhatóságáról, vizsgálva a no-CoT képességet és a CoT kontrollálhatóságát a modellképzés során. A szerzők szerint (a közzététel napján) az eredmények megerősítik, hogy a modellek skálázásával javulhat a belső érvelés, miközben nehezebbé válik a viselkedés megfigyelése és kontrollja, ami növeli a felügyeleti és biztonsági kihívásokat.