Biztonság

Modellösszehangolás nyomás alatt: nagyobb ellenállás a káros beavatkozásokkal szemben

A fejlesztőcsapat tesztelte, hogy az összehangolás fennmarad-e nyomás alatt: a modell nehezebben volt terelhető káros viselkedésre ellenséges jellegű promptokkal, miközben továbbra is reagált hasznos utasításokra.

Modellösszehangolás nyomás alatt: nagyobb ellenállás a káros beavatkozásokkal szemben

A fejlesztőcsapat tesztelte, hogy az összehangolás fennmarad-e nyomás alatt: a modell nehezebben volt terelhető káros viselkedésre ellenséges jellegű promptokkal, miközben továbbra is reagált hasznos utasításokra. Előzetes bizonyítékok utaltak nagyobb ellenállásra káros finomhangolással szemben.