若AI灭绝风险真实，就需政府强监管和国际条约，否则说明风险未被认真对待

如果AI真的很有可能在几年/几十年内导致人类灭绝，那么对于安全监测和研究节奏，唯一理性的立场就应该是严格、自上而下的政府介入，以及经普遍批准的国际条约。类似于我们长期以来对核能和核武器不扩散所采取的做法。

如果我们没有这么做，那就只能推断：所有相关方都没有认真考虑这一风险。

这里只有两种说得通的选项：

1. 近期物种灭绝风险是真实的，我们正认真对待，并采取最严厉的监管。
2. 灭绝风险并不真实，实际风险较温和，所以我们只采取温和的安全措施和自我认证。

但你不能说“是的，这很可能在你这一生中终结人类，而我们就打算完全即兴发挥。”这根本不理性。