热门产品

Liquid Inference

Liquid Inference

Liquid Inference 是 LLM 路由服务,让多家模型供应商为每次提示动态竞价,兼容各类编程智能体,帮开发者以最低成本调用数百种模型。

热门评论

PH 用户
我们相信:
* 推理 token 应该成为一种大宗商品,以最优价格提供给任何开发者或公司
* 任何拥有 GPU 算力的人都应该能够通过在透明、公平的市场中出售推理来变现

我们团队利用在交易和构建金融交易所方面的经验,为推理打造了实时双边价格发现机制。
PH 用户
恭喜发布,Brett!让提供商针对每个请求竞争,是一种挺有意思的推理定价方式。我喜欢开发者试用时还能继续用现有的编程工具。
PH 用户
把这么多模型放在一个 router 后面,选对模型可能就省心多了。
PH 用户
@brett_harrison_architect 恭喜发布,Brett!我用三家提供商做 fallback 来生成面向客户的文案,所以这个一下吸引了我的注意。我担心的是,如果最便宜的提供商在不同调用之间变了,语气也会跟着变。我能为一个任务固定一个模型,让价格路由处理其余部分吗?
热门产品Brett Harrison2026-10-08原文

相关内容