Databricks 用 Unity AI Gateway 预算控制编码代理支出
Databricks 开源其内部 AI 编码代理成本治理方案,用双层预算机制在防止失控的同时保持工程师效率。
Databricks 数千名工程师日常使用多种编码代理,导致研发支出快速增长。通过将所有代理流量路由至 Unity AI Gateway,该公司实现了统一预算控制:设置每日限额捕捉失控支出,自动恢复;月度限额管理长期浪费。工程师可自助提高限额,无需审批,平衡了创新与成本。
正文摘录
如何用 Unity AI Gateway Budgets 管理自己的编码助手开支 作者:Rohit Agrawal, Shuyu Cao, Darming Zhao, Zack Siegel 和 Aaron Davidson - 在 Databricks,我们通过将所有编码助手(coding agent)的流量路由到 Unity AI Gateway 来规模化管控 AI 开支,让团队在一个地方就能对所有模型和工具执行预算、可见性和策略。 - 我们用独立的每日和每月预算来平衡创新与成本控制,既能阻止 AI 开支失控,又让工程师可以通过自助增加预算而不是审批瓶颈来保持高效。 - 这套经过验证的治理模式结合了集中化开支控制、统一的可观测性以及数据驱动的策略执行,能够在不让开发人员减速的前提下大规模推广 AI 使用。 在 Databricks,我们构建软件的方式正在快速变化,因为我们积极在工程中采用 AI。数千名工程师每天使用编码助手,在 Claude Code、Codex、Cursor 等工具之间切换,有时甚至同时使用多个。这种采用是好事,但它带来了一个新问题:编码助手开支现在成为研发部门增长最快的费用项之一,一个失控的自动化循环可以在一个下午烧掉一个月的预算。 这篇文章分享了我们在内部如何解决这个问题,用的是我们同样提供给客户的 Unity AI Gateway Budgets。由于 Databricks 的每一个编码助手(无论工具还是模型)都通过我们的网关路由流量,我们可以在整个集群上强制执行一套开支策略,而无需接触每个编码助手的管理控制台。 这次推广的主要经验是: 让我们深入看看我们是如何走到这一步的。注意:本文中的金额数字仅用于说明,并非我们实际的内部数字。