开放vs封闭模型辩论应类比托管vs自托管基础设施

开放模型与封闭模型辩论中缺少的一点一直困扰着我。对我来说，更好的类比是AI的托管与自托管基础设施。也许一家公司想使用开放权重模型，因为希望在其上进行额外训练，融入自身数据和领域知识。这需要软件和服务来进行额外训练（例如Tinker及其同类），以及部署模型（例如SGLang）。这些软件并非全部开源！一旦你成功用企业数据和专业知识训练了模型，就需要为客户部署和服务它。你可以与推理公司合作来运行软件和硬件。但如果所有权是你的主要关切，你仍然想控制硬件和存储，现在还需要运行基础设施并确保GPU容量。开放还有其他正当理由。特别是，当训练模型的公司发布数据或研究成果时，整个行业都会受益。这也允许资本主义和自由市场发挥作用，增加竞争，最终为客户提供更好的选择。因此我们都应该鼓励开放。我更喜欢托管与自托管基础设施框架的原因是，我们可以从过去十年的云基础设施中学习。两者并存重要且健康，优秀的自托管替代方案最终会推动托管版本创新。运行基础设施的决定归结为更标准的商业原因：吸引人才、硬件的成本和维护、以及正常运行时间和可靠性对业务的重要性。许多企业会说，实际上，我不想配备和运行训练与推理团队，我很乐意按API定价购买智能。另一些则会相反，在此大力投资。我们需要两者！顺便说一句，开放模型的能力将达到我们需要非常慎重地考虑如何部署它们的程度。但我认为这个问题是可以解决的，无论是早期分享研究、稍后发布权重，还是开源安全堆栈以正确服务模型。我对此没有完美答案，但我认为生态系统应该共同解决。完全声明，我在一家同时发布开放和封闭模型的公司工作。可能有人比我更了解开放权重生态系统。如果你是这样的人，我很好奇你是否不同意其中的任何一点。