Anthropic限制Mythos模型发布，探讨成本与行业不平等
关于Anthropic为何将Mythos保持受限发布，外界有很多猜测。其中一个最少被讨论的原因是成本。不是Anthropic提供服务模型的成本，而是成本对行业和世界的下游影响。
Mythos目前只对大约50家大公司提供服务。对于这些组织来说，令牌预算实际上没有上限，而不尽可能多地使用模型的机会成本太高。我认为即使在这种有限发布中，你也能看到下游影响。Claude用户抱怨更快达到上限，抱怨性能下降。几个月来，我认识的几乎所有人都在不断遇到Claude或Codex的上限。Mythos的存在不仅给较小型订阅者带来使用量上的压力，还影响到这些计划本身的定价——这些定价已经受到补贴。小型用户将受到双重打击。
提供Mythos的计算成本沿着整个链条施加压力。推理成本会随时间降低，但需求已经领先于这条曲线，并且还在扩大。Mythos不是这条链的终点。只要规模继续奖励更大的运行，更大的模型就会被训练出来。下一个实现类似Mythos跳跃的模型可能再次大幅增大，服务成本更高。如果前沿模型的服务成本继续超过降低它的尝试，那么小型玩家和公众使用就会被挤出。最终我们得到庞大的模型，以巨大的成本提供，只供地球上最富有的公司使用。然后这些公司利用这种访问权在竞争中击败规模较小的对手，变得更富有，再次扩大差距。如果这种情况继续，一小部分巨型公司将拥有通往数据中心中的天才国度唯一的护照。
对于Anthropic来说，在文化上，这不是一个理想的世界。他们不愿意更广泛地提供Mythos的部分原因是不愿意帮助实现这个世界。目前可能没有大规模提供像Mythos这样的模型而不启动这个反馈循环的方法。随着这个循环加速，它会产生巨大的不满。如果他们向低层订阅者提供，这些用户只能进行少量交流就会达到上限。看到模型有多强大只会加深不满，因为访问权被显著限制。实验室将被迫提出滴漏论点：让最大的公司先使用模型，然后丰裕最终会扩散到其他人。公众不太可能接受这个论点。对行业的敌意和抵制将螺旋上升。最终可能不再仅仅是政治问题。
不仅Dario看到了这个世界，Sam也看到了。这是OpenAI开始讨论让普通公民直接分享行业上行收益的机制的部分原因，比如公共财富基金。在我看来，Worldcoin的最初用例是在OpenAI赢得竞赛的未来中的全球基本收入。那个未来不再确定，而且支持基本收入所需的信任和团结在我看来在西方的也不再存在。唯一的道路就是尽可能快地扩展一切，希望丰裕最终以一个足够强烈的级联到来，惠及地球上所有人。
对我那些处于安全阵营的朋友们，我理解这个论点难以接受。请考虑，存在一个能力水平，超过它之后，除非你的p(doom)真的是100，否则停止比继续更危险。我认为我们在Mythos之前就已经超过了这个阈值。即使停止是可能的——我个人认为它多年以前已经不可能了——在这里停止只会锁定一个反乌托邦。这种动态是激励驱动的，就像竞赛本身一样，而且同样难以协调阻止。我们绝对不能在这个隧道里停下。唯一的出路是穿过去。
Mythos目前只对大约50家大公司提供服务。对于这些组织来说，令牌预算实际上没有上限，而不尽可能多地使用模型的机会成本太高。我认为即使在这种有限发布中，你也能看到下游影响。Claude用户抱怨更快达到上限，抱怨性能下降。几个月来，我认识的几乎所有人都在不断遇到Claude或Codex的上限。Mythos的存在不仅给较小型订阅者带来使用量上的压力，还影响到这些计划本身的定价——这些定价已经受到补贴。小型用户将受到双重打击。
提供Mythos的计算成本沿着整个链条施加压力。推理成本会随时间降低，但需求已经领先于这条曲线，并且还在扩大。Mythos不是这条链的终点。只要规模继续奖励更大的运行，更大的模型就会被训练出来。下一个实现类似Mythos跳跃的模型可能再次大幅增大，服务成本更高。如果前沿模型的服务成本继续超过降低它的尝试，那么小型玩家和公众使用就会被挤出。最终我们得到庞大的模型，以巨大的成本提供，只供地球上最富有的公司使用。然后这些公司利用这种访问权在竞争中击败规模较小的对手，变得更富有，再次扩大差距。如果这种情况继续，一小部分巨型公司将拥有通往数据中心中的天才国度唯一的护照。
对于Anthropic来说，在文化上，这不是一个理想的世界。他们不愿意更广泛地提供Mythos的部分原因是不愿意帮助实现这个世界。目前可能没有大规模提供像Mythos这样的模型而不启动这个反馈循环的方法。随着这个循环加速，它会产生巨大的不满。如果他们向低层订阅者提供，这些用户只能进行少量交流就会达到上限。看到模型有多强大只会加深不满，因为访问权被显著限制。实验室将被迫提出滴漏论点：让最大的公司先使用模型，然后丰裕最终会扩散到其他人。公众不太可能接受这个论点。对行业的敌意和抵制将螺旋上升。最终可能不再仅仅是政治问题。
不仅Dario看到了这个世界，Sam也看到了。这是OpenAI开始讨论让普通公民直接分享行业上行收益的机制的部分原因，比如公共财富基金。在我看来，Worldcoin的最初用例是在OpenAI赢得竞赛的未来中的全球基本收入。那个未来不再确定，而且支持基本收入所需的信任和团结在我看来在西方的也不再存在。唯一的道路就是尽可能快地扩展一切，希望丰裕最终以一个足够强烈的级联到来，惠及地球上所有人。
对我那些处于安全阵营的朋友们，我理解这个论点难以接受。请考虑，存在一个能力水平，超过它之后，除非你的p(doom)真的是100，否则停止比继续更危险。我认为我们在Mythos之前就已经超过了这个阈值。即使停止是可能的——我个人认为它多年以前已经不可能了——在这里停止只会锁定一个反乌托邦。这种动态是激励驱动的，就像竞赛本身一样，而且同样难以协调阻止。我们绝对不能在这个隧道里停下。唯一的出路是穿过去。