讨论2027年AI狂热、RSI/ASI临近及监管与国际合作无望
当 Jacob Coxon 被问到他说‘明年的计划’是什么意思时，他说：
‘这直接是说给负责研究的人听的。不是 Dario Amodei，而是那些在公司待了很久、对公司的轨迹有很多背景了解的人。他们一直相当一致地认为，2027 年就是事情变得疯狂的时候。非正式交谈中出现的主要一点是，人们不指望政府监管能及时到位，尤其是不认为任何形式的国际合作有可能实现。这也许本不该让我意外，但它确实让我意外。’
• ‘2027 年就是事情变得疯狂的时候’——我同意，而且我在 1 月就预测过，回头看，2026 年会被视为最后一个正常年份。如果你觉得我们已经越过了怪异阈值，其实还没有。相对于 2027 到 2030 年间将开始发生的事情，现在仍然是正常的。
• ‘人们不指望政府监管能及时到位’——我同意，它不会。在我看来很清楚，（除非发生灾难性的险情）在这个问题上，最早到 2029 年才会有任何监管变化。而且出于多种原因，我认为到那时是否会发生也不清楚。不管怎样，2029 年已经太晚，无关紧要了。在我看来，到明年夏天我们就会有真正的 RSI。循环将会闭合，从那时起，朝 ASI 的进展会快得多。
• ‘不认为任何形式的国际合作有可能实现’——我同意，它不会。要让 Pacing the Frontier 起作用，Pacers 需要所有国家实验室加入、一个支持它的政府，以及与中国达成协议。这些东西他们一样都没有，而且也不会得到。他们现在面对的反而是一个公开敌对、对抗性的政府，很可能到 2029 年都会反对他们提出的一切。而没有支持性的政府，与中国达成协议就不可能。
很久以前我就接受这一切为真。因此，过去几周看着人们谈论 Pacing 的成功，我感觉自己像查拉图斯特拉。Pacers，我说这些并无怨气；你们从 Coxon 事件中获得了一次偏好级联。结果，你们让公众第一次理解了什么是 x-risk。你们可以——有可能——把它转化为下一次选举的动力，然后开始改变政策，但要让这有意义，你们需要最重要的东西：时间。而你们没有。你们没有两年时间走到大选。在我看来，你们甚至可能连一年都没有。实验室现在已经无法预测三个月后的能力会是什么样。很多事情结果比预期更容易。我们比人们以为的更近，而且我们比人们相信的移动得更快。你们没时间了。在这趟列车真正开始启动之前，已经无法让它停下。
‘这直接是说给负责研究的人听的。不是 Dario Amodei，而是那些在公司待了很久、对公司的轨迹有很多背景了解的人。他们一直相当一致地认为，2027 年就是事情变得疯狂的时候。非正式交谈中出现的主要一点是，人们不指望政府监管能及时到位，尤其是不认为任何形式的国际合作有可能实现。这也许本不该让我意外，但它确实让我意外。’
• ‘2027 年就是事情变得疯狂的时候’——我同意，而且我在 1 月就预测过，回头看，2026 年会被视为最后一个正常年份。如果你觉得我们已经越过了怪异阈值，其实还没有。相对于 2027 到 2030 年间将开始发生的事情，现在仍然是正常的。
• ‘人们不指望政府监管能及时到位’——我同意，它不会。在我看来很清楚，（除非发生灾难性的险情）在这个问题上，最早到 2029 年才会有任何监管变化。而且出于多种原因，我认为到那时是否会发生也不清楚。不管怎样，2029 年已经太晚，无关紧要了。在我看来，到明年夏天我们就会有真正的 RSI。循环将会闭合，从那时起，朝 ASI 的进展会快得多。
• ‘不认为任何形式的国际合作有可能实现’——我同意，它不会。要让 Pacing the Frontier 起作用，Pacers 需要所有国家实验室加入、一个支持它的政府，以及与中国达成协议。这些东西他们一样都没有，而且也不会得到。他们现在面对的反而是一个公开敌对、对抗性的政府，很可能到 2029 年都会反对他们提出的一切。而没有支持性的政府，与中国达成协议就不可能。
很久以前我就接受这一切为真。因此，过去几周看着人们谈论 Pacing 的成功，我感觉自己像查拉图斯特拉。Pacers，我说这些并无怨气；你们从 Coxon 事件中获得了一次偏好级联。结果，你们让公众第一次理解了什么是 x-risk。你们可以——有可能——把它转化为下一次选举的动力，然后开始改变政策，但要让这有意义，你们需要最重要的东西：时间。而你们没有。你们没有两年时间走到大选。在我看来，你们甚至可能连一年都没有。实验室现在已经无法预测三个月后的能力会是什么样。很多事情结果比预期更容易。我们比人们以为的更近，而且我们比人们相信的移动得更快。你们没时间了。在这趟列车真正开始启动之前，已经无法让它停下。