Anthropic提出激活限制技术减少有害响应

基于角色的越狱通过提示模型采用有害角色来起作用。我们开发了一种技术，用于沿着“助理轴”约束模型的激活——即“激活限制”。它减少了有害响应，同时保持了模型的能力。