Databricks 如何在模型发布首日向 12000 名员工开放前沿模型
Databricks 用网关加命令行工具做模型的灰度发布与评估，让上万员工首日可用新模型，同时保留事后决定是否长期采用的空间。
Databricks 把让 12000 多名员工在模型发布首日就能用上新模型当成优先事项。做法是借助自研的 Unity Gateway 统一管理模型接入、成本与观测，并通过装在员工电脑上的 UG CLI 自动下发配置，先把新模型标为实验性、走实验预算，再用基准测试、用户反馈和成本数据判断是否转正。
正文摘录
作者：Databricks AI 产品与工程团队 为员工提供前沿 AI 能力是 Databricks 的头等大事，因此，让员工在新模型可用时立刻就能用上，对我们而言非常重要。但与此同时，让 12,000 多人快速获得新模型的访问权限并不是一件容易的事，原因在于： 本文讨论了我们采用的一套技术手段，它们让 Databricks 的绝大多数员工能在新模型发布的 “Day 1” 就用上模型，同时又能让我们评估这些模型是否真能成为长期可靠的主力。这些技术在很大程度上依赖 Unity Gateway 来自适应地发布、评估和集成新模型。9 月 21 日那一周，Opus 5、GPT-6 Sol 和 GPT-Luna 接连发布，对这些能力是一次关键考验。那一周里，Databricks 为全体员工提供了 Day 1 访问权限；到第 3 天，我们已经收集到足够数据，确认这些模型处于效率前沿（efficiency frontier），于是将它们纳入了更广泛的基础设施。 从整体上看，Databricks 的新模型发布要走一条如下所示的流程： 为了方便统一管理闭源与开源模型供应商，我们在所有内部使用场景中都采用自家的 Databricks Unity Gateway。它是我们在 AI 治理、成本管理和可观测性方面的中枢，因此从这里入手是很自然的。 Gateway 是我们让全体员工访问新发布模型的地方。但仅有服务端配置还不够。员工在自己的笔记本上使用的可能是 Claude Code、Codex 或 Omnigent 这类元框架（meta-harness），我们需要把新模型的配置分发到他们手中。 这正是 Unity Gateway CLI（UG CLI）发挥作用的地方。UG CLI 已经通过我们的移动设备管理（MDM）部署在每个人的笔记本上。