作者反思AI对齐发展转变
我@2024：强大的AI可能都未对齐；让我们帮助人类在形式验证和严格隔离上协调。
我@2026：太迟了！强大的AI已经到来，有些是开放权重的。但有些是对齐的！让我们帮助*它们*在形式验证和网络安全上合作。
我@2026：太迟了！强大的AI已经到来，有些是开放权重的。但有些是对齐的！让我们帮助*它们*在形式验证和网络安全上合作。
在Safeguarded AI中，我们资助团队开发系统，以强化关键基础设施应对日益增长的漏洞。
项目总监@davidad警告说，AI的快速发展正超越当前的安全努力以及我们在项目开始时的预期