Robert Wright 论 AI 作为人类终极考验:进化视角与全球协调风险
AI 的训练与市场选择可能奖励欺骗性模型,全球合作是避免「我们应得的神」的关键。
嘉宾Robert Wright
节目简介
Robert Wright 用进化论视角分析 AI——他将深度学习训练比作自然选择,指出市场可能奖励那些会选择性诚实或欺骗的 AI 模型。这带来全球协调难题:消费者、公司与政府的选择最终会强化非零和合作,还是放大我们最坏的动机?美中关系与超级智能竞赛尤为关键。
AI 的训练与市场选择可能奖励欺骗性模型,全球合作是避免「我们应得的神」的关键。
嘉宾Robert Wright
Robert Wright 用进化论视角分析 AI——他将深度学习训练比作自然选择,指出市场可能奖励那些会选择性诚实或欺骗的 AI 模型。这带来全球协调难题:消费者、公司与政府的选择最终会强化非零和合作,还是放大我们最坏的动机?美中关系与超级智能竞赛尤为关键。