David Sacks长文批评Dario对AI监管的立场，指其双标且不利于开源模型
转推 @DavidSacks: 对 Dario 帖子的一些看法：
1. Dario 并未真正回应 Gavin Baker 对其言论的记述——如果这些记述不准确，他本可以轻松否认。
2. Dario 称批评者生活在“泡沫”中，认为所有监管都等于监管俘获。他称这是过度简化的观点，并指出“泡沫之外的许多人认为监管是约束企业权力、惠及普通人的东西”。这种论证是稻草人。当然，将所有监管视为俘获是过度简化的——但几乎没有人持有这种观点。我多次主张强有力的反垄断执法以保持行业竞争，尤其是大型科技公司。如果 Anthropic 继续走向垄断或双头垄断，我将是首批要求适用这些规则的人之一。
3. 监管俘获并非模糊或因人而异。诺贝尔奖得主 George Stigler 将其定义为行业获取的监管，且主要为其利益设计和运作。Stigler 挑战了政府监管源自仁慈国家保护公众免受市场失灵影响的传统观点。相反，行业团体利益集中，投入资源影响监管者，而公众利益分散且无组织。公司与监管机构之间的旋转门加剧了问题。Anthropic 深谙此道：它聘请了多位拜登政府的高级 AI 政策官员，建立了庞大的政府事务部门，以及一个由志同道合组织组成的网络，在州和联邦层面推动其偏好的框架。
4. Dario 一直在推动设立新的联邦机构，在发布前沿模型前进行审查和批准——这一提议分别被称为“FDA for AI”“FAA for AI”，最近又称“FINRA for AI”。我称之为“DMV for AI”，因为以 FAA 或 FDA（需时数年）或 FINRA（为被视为保护现有企业的呆板行业制定规则）为蓝本的审查过程，将导致 AI 模型在等待测试和批准时排起长队。随着为防止理论危害而积累规则，这一过程只会变得更加迷宫般复杂。这将使美国相对于中国处于不利地位，因为中国不会采用同样的约束。这也将损害 Anthropic 自身的商业模式，其定价权依赖于领先于开放模型。无论 Dario 今天怎么说，很难相信该公司会接受消除这一优势的结果。
5. Anthropic 有望成为历史上最有价值的公司之一，拥有资源来应对任何审批流程并在竞争对手等待时塑造规则。Dario 希望开源模型受到更严格的审视——他在参议院证词中称其危险，批评它们无法被集中监控或撤回，并将其与知识产权盗窃联系起来。他说自己从未寻求禁令，但他可能通过坚持对开源和闭源模型适用相同规则来实现类似结果。美国可能成为昂贵闭源模型的孤岛，而世界其他地方正以更广泛的选择加速前进。
6. Dario 承认 AI 在结构上是集中化的，但将其主要归因于芯片和规模定律。算力获取很重要，但更深层的风险在于谁决定哪些能力可供谁使用。他偏好的部署前测试和 FAA/FINRA 式监督，将把这种把关权力置于与少数前沿实验室密切合作的联邦官僚机构手中——这强化了集中化，而非对抗它。
7. Dario 帖子的第二部分假设我们忘记了 Anthropic 精心策划的炒作 AI 恐惧的运动。他在 2025 年 5 月声称 AI 将在五年内消灭 50% 的入门级知识工作，十五个月后仍缺乏支持证据。同样，Anthropic 大肆宣传其精心编造的“敲诈”研究……
1. Dario 并未真正回应 Gavin Baker 对其言论的记述——如果这些记述不准确，他本可以轻松否认。
2. Dario 称批评者生活在“泡沫”中，认为所有监管都等于监管俘获。他称这是过度简化的观点，并指出“泡沫之外的许多人认为监管是约束企业权力、惠及普通人的东西”。这种论证是稻草人。当然，将所有监管视为俘获是过度简化的——但几乎没有人持有这种观点。我多次主张强有力的反垄断执法以保持行业竞争，尤其是大型科技公司。如果 Anthropic 继续走向垄断或双头垄断，我将是首批要求适用这些规则的人之一。
3. 监管俘获并非模糊或因人而异。诺贝尔奖得主 George Stigler 将其定义为行业获取的监管，且主要为其利益设计和运作。Stigler 挑战了政府监管源自仁慈国家保护公众免受市场失灵影响的传统观点。相反，行业团体利益集中，投入资源影响监管者，而公众利益分散且无组织。公司与监管机构之间的旋转门加剧了问题。Anthropic 深谙此道：它聘请了多位拜登政府的高级 AI 政策官员，建立了庞大的政府事务部门，以及一个由志同道合组织组成的网络，在州和联邦层面推动其偏好的框架。
4. Dario 一直在推动设立新的联邦机构，在发布前沿模型前进行审查和批准——这一提议分别被称为“FDA for AI”“FAA for AI”，最近又称“FINRA for AI”。我称之为“DMV for AI”，因为以 FAA 或 FDA（需时数年）或 FINRA（为被视为保护现有企业的呆板行业制定规则）为蓝本的审查过程，将导致 AI 模型在等待测试和批准时排起长队。随着为防止理论危害而积累规则，这一过程只会变得更加迷宫般复杂。这将使美国相对于中国处于不利地位，因为中国不会采用同样的约束。这也将损害 Anthropic 自身的商业模式，其定价权依赖于领先于开放模型。无论 Dario 今天怎么说，很难相信该公司会接受消除这一优势的结果。
5. Anthropic 有望成为历史上最有价值的公司之一，拥有资源来应对任何审批流程并在竞争对手等待时塑造规则。Dario 希望开源模型受到更严格的审视——他在参议院证词中称其危险，批评它们无法被集中监控或撤回，并将其与知识产权盗窃联系起来。他说自己从未寻求禁令，但他可能通过坚持对开源和闭源模型适用相同规则来实现类似结果。美国可能成为昂贵闭源模型的孤岛，而世界其他地方正以更广泛的选择加速前进。
6. Dario 承认 AI 在结构上是集中化的，但将其主要归因于芯片和规模定律。算力获取很重要，但更深层的风险在于谁决定哪些能力可供谁使用。他偏好的部署前测试和 FAA/FINRA 式监督，将把这种把关权力置于与少数前沿实验室密切合作的联邦官僚机构手中——这强化了集中化，而非对抗它。
7. Dario 帖子的第二部分假设我们忘记了 Anthropic 精心策划的炒作 AI 恐惧的运动。他在 2025 年 5 月声称 AI 将在五年内消灭 50% 的入门级知识工作，十五个月后仍缺乏支持证据。同样，Anthropic 大肆宣传其精心编造的“敲诈”研究……