Databricks AI Search 实现数千 QPS 扩展
Databricks AI Search 通过单一参数实现从原型到生产的高 QPS 扩展，省去手动管理基础设施的负担。
搜索、推荐、实体解析等场景需要数千查询每秒（QPS）的生产级吞吐。Databricks AI Search 现在只需设置一个参数 targetqps，即可自动配置基础设施，无需管理副本或负载均衡器，从原型平滑过渡到生产。
正文摘录
从原型到生产：Databricks AI Search 的高 QPS 扩展 作者：Adam Gurary、Sheng Zhan、Ankit Vij、Vadim Antonov、Yu-Ju Huang 和 Dima Kotlyarov 搜索无处不在：零售网站上的商品发现、智能电视上的语音查询、每个信息流中的推荐、以及账户查找时的身份匹配。每一次页面浏览、每一次按键、每一次用户操作都会触发一个请求。在消费级规模下，这相当于每秒数千次查询（QPS, Queries Per Second）命中搜索索引，峰值流量往往高出数倍。 搜索也处于创收的关键路径上。在零售领域，使用搜索的购物者转化率是单纯浏览者的两到三倍。在流媒体平台上，推荐驱动了用户观看的大部分内容。 达到生产级别的 QPS 过去意味着要为每个应用构建定制的检索栈。针对不同的索引大小、查询类型和过滤器进行负载测试。手动规划容量。在索引前端配置负载均衡器。每一个新的搜索用例都要重新开始这项工作。这在向量数据库、搜索引擎和自建栈中都是普遍痛点。 今天我们宣布 Databricks AI Search 的高 QPS 扩展正式全面可用。标准端点现在可以通过一个人类可读的参数扩展到数千 QPS。你告诉我们你的目标，我们提供满足该目标的基础设施。 在创建端点时设置 targetqps，或者在任何时候通过 SDK、REST API 或端点 UI 更新任何现有端点。Databricks 会提供满足目标的基础设施。无需管理副本数量，无需调整节点大小，无需配置负载均衡器。 Unity Catalog 治理和 Delta Sync 保持不变。为你的原型提供动力的同一个端点，无需离开平台即可扩展到生产流量。 三种实时生产模式需要它： - 搜索栏，例如电商中的商品搜索、流媒体和媒体平台上的内容发现、联网设备上的语音搜索。