克莱蒙·德朗格为AI分层监管辩护：开放权重、API、应用应区别对待

RT @ClementDelangue: 有些人对新AI模型框架中API（即Anthropic、OpenAI等提供的）与开放权重受到不同对待感到惊讶。我一点也不惊讶，这实际上是非常好的政策。让我解释：模型权重、API和应用是技术栈的三个不同层。将它们一视同仁会导致糟糕的监管。想想我们如何处理汽车。我们不监管钢材，我们碰撞测试汽车。没有人要求钢厂保证用其钢材永远不会造出危险的东西。责任在汽车制造商，道路规则在司机，因为那里风险变得真实，并且有人能实际采取行动。模型权重是AI的钢材。它们是原始研究输出，更接近科学而非产品：没有用户、没有界面、没有部署。它们自己不会做任何事。而且因为其他一切都构建在其上，这一层的监管造成最多的损害。限制权重会减缓所有下游进展，并阻止无数积极用例的出现：实验室为罕见病微调开放模型，创业公司服务于大供应商忽略的语言，安全研究人员只能因为权重开放才能审计模型。你不会减少风险，只是扼杀开源并将权力集中在少数大实验室。API是中间层，AI的零部件和发动机供应商：一种商业服务，提供商大规模提供模型。这里有业务关系、服务条款、监控滥用的能力。在这一层期望提供商提供透明度、安全标准和问责制是合理的，因为他们确实可以执行。应用是路上的汽车：AI与现实世界相遇之处。医疗助理、招聘工具、儿童伴侣、财务顾问。这是具体伤害可能发生的地方，而且正好我们已经有了几十年的监管。健康、金融、就业、消费者保护。AI招聘工具应遵守就业法，无论它是用开放模型、API还是电子表格驱动。原则很简单：在风险实际出现且行动者能采取行动的层面进行监管。将义务推向部署层，保持研究层开放。我们不监管钢材，我们碰撞测试汽车。干得好 @realDonaldTrump @DavidSacks @mkratsios47！