作者认为AI是避免长期黑暗时代的关键，期望AI逆转经济衰退趋势

转推 @andrewho03: 我不太担心AI安全，因为我认为AI可能是人类陷入至少持续数个世纪的“黑暗时代”之前的最后希望。既然我不认为AI风险是灭绝级别的，我愿意押注更强的能力。

在现代AI发展之前，我对我们的长期未来持相当悲观的态度。有许多逆风（至今仍然存在）降低了我对长期经济增长的估计：

- 全球出生率下降，尤其是亚洲，意味着世界人口将在21世纪某个时候达到峰值。出生率下降的问题是可以解决的，但需要国家在财政支出上达到一定程度，而在时机已晚之前政府不会觉得可行。此外，出生率下降似乎不成比例地集中在教育程度更高、经济更成功的国家，导致后代出现严重的逆向选择。

- 即使在人口达到峰值之前，年龄分布将严重偏向老年人，导致政治制度和领导结构被老年人把持。这促进了从年轻人向老年人的再分配政治（如英国基本国家养老金的“三重锁定”授权），压抑经济，进一步降低出生率，并减少对生育补贴的财政意愿。

- 向老年人的再分配也助长了年轻人中的反市场态度，这对经济增长不利，并使出生率问题恶化。最明显的例子是加利福尼亚州的第13号提案，它限制了房产税，实际上将资金从年轻工人转移到退休人员；住房负担不起和无法“出人头地”的感觉显然促成了社会主义政策在年轻人中的流行。

- 美国，目前地球上最富有的国家，似乎越来越被寻租的特殊利益集团所俘获，这些集团不成比例地集中在经济生产力最高的城市。例如，旧金山年度预算约为170亿美元，即每个无家可归者约200万美元，但无家可归问题却逐年恶化。加州高铁管理得如此糟糕，以至于法国承包商干脆退出，转而去为摩洛哥建高铁。曼哈顿地铁新装电梯每部耗资约1亿美元。等等……这是一个相当惨淡的长期轨迹。

总的来说，在我看来，即使我们可以预期未来几十年有正经济增长，我们仍可能在我的有生之年看到负经济增长。负经济增长是一件可怕的事情；想象一下2008年金融危机无休止地重演，企业倒闭，人们被解雇且找不到工作，政府耗尽资金，以及普遍的绝望感。非常糟糕。

最令我兴奋的是AI逆转这些趋势的能力——打破官僚主义，重振经济，足以让我们回到正反馈循环，人们对市场感觉良好，因此更支持市场，导致更大的经济增长，等等。几乎感觉工业革命后的增长时期是人类历史上的异类——大部分历史是“污秽、粗野且短暂”，以零和甚至负和竞争为特征，增长缓慢而拖沓——人们现在开始忘记拥有一个正和快速增长时期是多么特别。我们非常重要的是尽快从负反馈循环机制（在未来几十年肯定会摧毁数万亿美元的价值）转向正反馈循环机制，从而摆脱我们基本心理冲动中较坏的部分。