Anthropic CEO 撰文主张 AI 行业应放缓,并承诺开放第三方安全评估

我们必须为前沿定节奏:我写了一篇新文章,论述为什么 AI 行业应当放缓,并给出三步走的实施计划。

Anthropic 单方面承诺执行其中的第一步。我们将向第三方评估者提供对我们系统的永久性、员工级访问权限,让他们能够核实我们对安全措施的遵守情况、报告事件,并评估模型在训练期间的对齐状况。

你可以在这里阅读完整文章:https://t.co/OGyPb7yaYt