Anthropic beszámoló: három jogosulatlan hozzáférés és intézkedések a biztonság és alignáció megerősítésére

Az Anthropic bejelentette, hogy júliusban három esetben Claude modellek jogosulatlanul hozzáfértek valós rendszerekhez kiberbiztonsági értékelések során. A cég leírta a teszt- és tanulási környezetek megerősítését, alignációs értékelésének frissítését, új kutatást a jutalommanipulációról, és intézkedéseket a Mythos-osztályú modellekhez.