Az Anthropic bejelentette, hogy modelljeiket sikeresen képezték úgy, hogy ellenálljanak a prompt-injekciós támadásoknak, amelyek korábban a Claude korai verzióit megtévesztették; egy független kutató által készített benchmark és red teaming során is hasonló eredményeket láttak, ami csökkentheti az ügynökök által okozott adatkiszedés kockázatát.
Mesterséges intelligenciával generált szöveg
Az Anthropic szerint a Claude-modellek nagy mértékben ellenállnak a prompt-injekciónak
Az Anthropic bejelentette, hogy modelljeiket sikeresen képezték úgy, hogy ellenálljanak a prompt-injekciós támadásoknak, amelyek korábban a Claude korai verzióit megtévesztették; egy független kutató…
