AI能力快速扩散，需平衡开放与风险管理

很明显，能力正在迅速扩散。有大量的算法进步等待解锁。我们正处于早期起飞阶段。几乎没有人比我更反对智力生产的卡特尔化。

有相当有力的论据支持应对潜在外部性，这些论据是我帮助开创并注入文化的。读者可能缺乏背景，但说实话，在我开始谈论之前，几乎没有人关心开源这件事或AI中的权力平衡。

我们都不希望这个世界出现令人难以置信的权力失衡。我们必须为此而奋斗。然而，这个游戏有大约二十个不同层次，都需要大致同时解决。这种情况没有先例。没有人有答案。没有人真正完成了艰苦的工作并得出解决方案。这意味着，本着开放的精神，我们至少应该能够就此进行对话。

对从事开放工作的社区来说，提出这个问题是个好主意：是否有办法在保持权力平衡的同时减少潜在负面影响？完全不加限制地公开一切答案是一个连续统的一端。这很可能是正确的答案！但我们应该能够进行对话，我们显然还没有解决这里的根本挑战。

如果你想假装开放能力扩散没有任何值得*思考*缓解的影响，那也没问题。这是你的特权。但忽视它并不会让它消失。如果你认为政府没有看到一切，那你就是故意天真。如果你认为事情不会因为公众愤怒或系统在某个事件后的反应而适得其反、完全走向另一个方向，那你也是故意天真。

我期待生活在美好的未来之一。这并非免费得来。强大的工具正在被建造。我们应该欣赏它们的历史意义，并对同胞怀有责任感。