转推讨论一种认知偏差:AI 网络风险证据缺失却被安全社区单向解读
RT @random_walker:一个有趣的认知偏差:
“GLM 5.3 在网络攻击利用方面的能力大致与 Claude Mythos 相当,而它的安全防护却低得多,这意味着每多过去一天而没有发生严重网络安全事件,就进一步证明灾难性 AI 网络风险不成立。”
说得没错。然而安全社区里的许多人似乎并不这样看待它。就好像他们对风险估计装了一个单向阀。
我很好奇这种偏差在 LessWrong / EA 圈子里是否已被讨论过——确实讨论过,最早可以追溯到 2007 年 Yudkowsky 的那篇帖子《Absence of Evidence Is Evidence of Absence》https://t.co/GhJNYWRqeo
“GLM 5.3 在网络攻击利用方面的能力大致与 Claude Mythos 相当,而它的安全防护却低得多,这意味着每多过去一天而没有发生严重网络安全事件,就进一步证明灾难性 AI 网络风险不成立。”
说得没错。然而安全社区里的许多人似乎并不这样看待它。就好像他们对风险估计装了一个单向阀。
我很好奇这种偏差在 LessWrong / EA 圈子里是否已被讨论过——确实讨论过,最早可以追溯到 2007 年 Yudkowsky 的那篇帖子《Absence of Evidence Is Evidence of Absence》https://t.co/GhJNYWRqeo