Sam Altman总结AMA中关于AI治理、国有化与安全的三点观察
这次AMA中的三点总结:
1. 关于我们应该更倾向于民选政府还是未经选举的私人公司拥有更多权力,这里的辩论比我预想的要公开,至少在这部分推特上是这样。我猜这是人们意见分歧的地方,但……我不是这样。这似乎是一个值得更多讨论的重要领域。
2. 我认为许多问题背后都有一个未被明确表述的问题:如果政府试图将OpenAI或其他AI项目国有化,会发生什么?我显然不知道;我当然考虑过(长期以来,我似乎觉得如果AGI的建设是一个政府项目可能会更好),但在当前轨道上似乎不太可能。话虽如此,我确实认为政府与建设这项技术的公司之间的紧密合作非常重要。
3. 人们比我所意识到的更理所当然地认为他们的安全(国家安全意义上的)是理所当然的,我认为总体上是好事,但我认为这没有充分体现出为此付出的巨大努力。
另外,我总体上非常感谢这里理性且诚实的参与程度。这出乎我的意料。
1. 关于我们应该更倾向于民选政府还是未经选举的私人公司拥有更多权力,这里的辩论比我预想的要公开,至少在这部分推特上是这样。我猜这是人们意见分歧的地方,但……我不是这样。这似乎是一个值得更多讨论的重要领域。
2. 我认为许多问题背后都有一个未被明确表述的问题:如果政府试图将OpenAI或其他AI项目国有化,会发生什么?我显然不知道;我当然考虑过(长期以来,我似乎觉得如果AGI的建设是一个政府项目可能会更好),但在当前轨道上似乎不太可能。话虽如此,我确实认为政府与建设这项技术的公司之间的紧密合作非常重要。
3. 人们比我所意识到的更理所当然地认为他们的安全(国家安全意义上的)是理所当然的,我认为总体上是好事,但我认为这没有充分体现出为此付出的巨大努力。
另外,我总体上非常感谢这里理性且诚实的参与程度。这出乎我的意料。