热门产品

RunInfra

RunInfra

RunInfra让用户用自然语言描述所需AI模型,自动构建并优化生产API,适合开发者快速部署高性能AI应用。

热门评论

PH 用户
嗨:D
我们打造RunInfra是因为部署开源模型仍然需要几周时间。挑选GPU、调优vLLM、编写kernel

现在只需一次对话。选择任意模型,我们从kernel级别优化并交付一个API。语音、RAG、视觉,全都有
PH 用户
这看起来很厉害。我好奇的是,如果我现在部署一个开源模型,之后决定切换到另一个,Run Infra会自动重新优化所有东西,还是需要我手动触发?
PH 用户
我欣赏的一点是,你们是在为生产环境优化,而不是让做demo更容易。很多AI工具能让你跑通Hello world,但在延迟、成本和规模化方面,当用户真正开始使用产品时,能帮上忙的就少多了。
PH 用户
试了一下,在规划阶段遇到几个错误,最终它部署了些什么,但一个简单的"wazzup"提示就卡住了,无法恢复。不过UI不错。

哦,而且没有删除账户的操作可用。
PH 用户
RunInfra的自定义CUDA kernel生成与传统模型托管相比,在实际延迟改进方面表现如何?特别是对于像语音或视觉这样的复杂管道?
PH 用户
Hey
很兴奋想试试这个Ai模型。有个小问题:
这个工具也能把提示词转换成视觉动画吗?

总之,这些设置看起来很棒,我一定会试试👍
热门产品Jaber Jaber2026-07-01原文

相关内容