AI进步或致合成疫情风险，需重视但不必恐慌

一些人担心，推动2026年“AI网络安全革命”的快速AI进展可能很快蔓延到生物学领域，可能导致灭绝级别的合成疫情。虽然我不会恐慌，但我会认真对待这一风险。生物学显然不同于网络安全——网络安全是一个完全可验证的领域，你可以合成地训练无限能力，因此超人类技能是直接可实现的。而生物学不是可验证的领域，因此能力仍然严重依赖于人类生成的数据。此外，生物学存在关键的非数字瓶颈，例如物理湿实验室实验的要求。然而，没有AI也可能已经可以实现合成疫情，而AI可能会导致这些能力的扩散。这是一个真实的风险，而我们尚未做好准备。