Anthropic开发评估对齐审计的AI代理。

Anthropic新研究：构建和评估对齐审计代理。我们开发了三个AI代理来自动完成对齐审计任务。测试中，我们的代理成功发现了隐藏目标、构建了安全评估并揭示了令人担忧的行为。