Altman 谈 AI 两大风险：失去控制与权力过度集中，须走中间道路

AI 的发展有两种可能走向极糟的结局,而这是我们必须避免的。

第一,我们可能失去对未来的控制权,让 AI 掌控未来。这是不可接受的;我们毫不掩饰地站在人类这一边,AI 必须始终服务于人。为确保这一点,我们需要有办法让对齐与安全技术始终领先于模型能力的进步。

第二,我们可能最终陷入一个权力过度集中的世界。如果某个异常强大的 AI 被某一个人或某一家公司用来把他们的世界观强加给所有人,结果可能会极其反乌托邦。

要避免这两种威胁,需要走一条狭窄的中间道路;例如,某一个国家可能获得过多权力。另一个例子是某一家实验室最终掌握过多权力。