批评 AI 安全社区指责 agent 而非构建系统公司

RT @pentagoniac: 这种叙事：指责智能体，而不是那个告诉它“动用全部力量并实现这一胜利”的机构。讽刺的是，许多 AI 安全领域的领军人物，在狂热地寻找 AI（权重）已经跳出围栏的证据时，实际上正在帮助公司开脱责任——这些公司本应构建在模型外部设置防护和约束的系统来控制智能体行为。他们急于宣称“我的担忧是对的，这就是证据！”以至于违背了自己的首要目标：要求构建这些系统的人在 AI 模型周围和外部加入安全约束，并在他们不负责任时追究其责任。我们正处于一个奇怪的安全带前时代，安全倡导者争论的是“动量”危险，而不是要求汽车制造商负责加上约束性的安全带。