GPT-Red: belső automatizált red team a prompt-injekciók felderítésére

A fejlesztők bemutatták a GPT-Red nevű belső, automatizált red team eszközt, amely célja a modellek prompt-injekciós sebezhetőségeinek nagyszabású feltárása. Az eszköz segít erősebb védekezéseket kialakítani a szélesebb körű üzembe helyezés előtt, csökkentve a biztonsági kockázatokat.