A Claude-modellek fejlesztői bejelentették, hogy jelentős előrelépést értek el a prompt injection elleni védelemben, de az ágensek képességeinek növekedése miatt iparági szinten sürgető a megoldás. Partnereként a Gray Swan versenyt szerveznek a problémák feltárására és javítására, ami fokozott biztonsági és megbízhatósági következményekkel járhat.
Mesterséges intelligenciával generált szöveg
A Claude-modellek fejlesztői versenyt indítanak a prompt injection elleni védelemért
A Claude-modellek fejlesztői bejelentették, hogy jelentős előrelépést értek el a prompt injection elleni védelemben, de az ágensek képességeinek növekedése miatt iparági szinten sürgető a megoldás.
