热门产品

General Compute

General Compute

面向AI开发者的推理云服务,基于ASIC芯片实现比GPU快5倍的响应速度,适用于编码助手和语音代理等延迟敏感场景。

Maker 说

Hey Product Hunt,我是 Jason,General Compute 的联合创始人兼 CTO!

问题

智能体现在是 AI 领域最激动人心的事情,但它们运行的基础设施是为聊天机器人设计的,而不是自主工作流。当一个智能体需要调用 20 次、50 次甚至数百次连续的 LLM 调用才能完成一项任务时,延迟就会累积成一道天花板,限制了实际能做的事。

目前大多数推理提供商都会让你面对两种取舍之一:❌ 基于 GPU 的架构——训练很棒,但内存带宽瓶颈意味着你的智能体运行缓慢(大约 120 token/秒)❌ 有陷阱的“快速”推理——一些提供商提供速度,但把你锁在小模型、有限的上下文窗口或按智能体规模 token 量计费时价格爆炸的方案里。没有智能的速度根本不值得换。我们自己做了多年语音智能体和实时 AI 产品后,厌倦了等待。于是我们造了 General Compute。

General Compute 有何不同 🚀

GC 是一个以 ASIC 优先的推理云,基于多种芯片构建,包括 SambaNova。SN 采用三层内存架构和数据流,翻译成人话就是“它真的很快,因为我们没有那些瓶颈”。🔹 智能体优先(OpenClaw)——智能体可以自己注册并管理自己的 API 密钥。OpenClaw 只需指向我们的网站就能切换推理服务。🔹 为智能体工作负载打造——针对编码智能体和语音 AI(TTFT)做了调优,这些正是你在串联几十次调用时关心的东西。你的智能体只需几秒就能完成,而不是几分钟。🔹 速度没有妥协——前沿开源模型、完整上下文窗口,以及在生产规模下真正有效的定价。

这是为谁准备的?

如果你在构建 AI 智能体、语音 AI,或者只是在使用 OpenClaw 或 OpenCode 并想要更快的推理,那么 GC 就是为你准备的。更快的推理不只是锦上添花,它能解锁之前不可行的用例。

🔗 立即开始

前往 https://generalcompute.com 注册,今天就让你工作负载跑在 ASIC 上。通过 Product Hunt 发布注册的每个人,我们提供 200 美元赠金(比正常的 5 美元多得多)。

热门评论

PH 用户
祝贺发布成功。
PH 用户
这是一个非常现实的智能体基础设施问题。聊天机器人的延迟已经够烦人了,但当工作流需要几十次顺序LLM调用时,智能体延迟会累积成一个硬性天花板。General Compute如何在较长的智能体工作流中平衡原始速度和推理质量,特别是在大上下文、工具使用、重试和编码任务的情况下?最大的收益是在TTFT/吞吐量上,还是你们也看到了更好的端到端任务完成率?
PH 用户
OpenClaw可以自己注册?太疯狂了。终于有人为智能体自主运行的世界做建设了。👏
PH 用户
智能体的顺序调用问题是真实存在的。当你把50次或更多LLM调用串联起来时,延迟会迅速累积。我很好奇ASIC堆栈如何处理可变的prompt长度,因为这通常也是GPU推理变得不可预测的地方。
PH 用户
学过全栈开发,但从未真正深入基础设施层面。一直以为GPU处理所有AI相关的事情。仔细想想,推理需要自己的优化硬件这个想法是有道理的。祝贺发布成功。
PH 用户
祝贺发布!把异构的ASIC高效地藏在一个统一的API后面,既充满挑战又让人兴奋 :) 我特别好奇那些支撑按请求量和突发流量弹性伸缩的技术。希望未来能在博客文章里看到相关描述,那对很多服务设计师肯定很有用!
热门产品Ben Lang2026-05-22原文

相关内容