新论文探讨超级智能的最佳时机及其巨大益处

有一篇新的Nick Bostrom论文：《超级智能的最佳时机》。引用：'然而，合理的政策分析必须权衡潜在收益与任何新兴技术的风险。Yudkowsky和Soares坚持认为，如果有人构建AGI，所有人都会死。同样可以认为，如果没有人构建它，所有人都会死。事实上，大多数人已经死了。我们其余的人将在短短几十年内步其后尘。对于许多人——比如老年人和重病患者——终点更近。超级智能的部分承诺是，它可能从根本上改变这种状况。对于AGI和超级智能（我们避免对这些术语施加精确定义，因为本文的考虑不依赖于如何划分区别），潜在收益是巨大的。特别是，足够先进的人工智能可以消除或减少我们生存面临的许多其他风险，无论是作为个体还是作为文明。超级智能将能够极大地加速生物学和医学的进步——为所有疾病设计治疗方法，并开发强大的抗衰老和再生疗法，使虚弱和患病者恢复青春活力。（除此之外还有更激进的可能性，如心灵上传，尽管我们的论证不需要考虑这些。）想象一下通过重新生长患者大脑中丢失的神经元来治愈阿尔茨海默病。想象一下用靶向疗法治疗癌症，消除每一个肿瘤细胞，但不会引起当今化疗的可怕副作用。想象一下将有问题的关节和堵塞的动脉恢复到原始健康状态。随着超级智能指导我们的科学，这些场景变得现实且迫在眉睫。'