热门产品

Prefactor

Prefactor

实时评估AI Agent性能的工具,帮助工程团队在生产中发现质量问题和性能漂移。

热门评论

PH 用户
Hi Product Hunt - 我是 Matt,和 Simon 共同创立了 Prefactor。

我们埋头搞这个项目已经有一段时间了,终于能展示给大家,真的很激动。

先说说这个产品围绕的核心问题:你真的清楚你的智能体现在在生产环境里干什么吗?

就我们接触的大多数团队而言,诚实的回答是“……不太清楚”。评估都通过了,一切正常,你发布了——然后每一次真实运行都消失在一个黑盒里。质量悄悄下滑。风险慢慢渗透。成本不断攀升。最后有人问你的哪些智能体还在干活,整个房间就安静了。

正是那种沉默,催生了 Prefactor。Gartner 预测到 2027 年超过 40% 的智能体 AI 项目会被砍掉——老实说,这个缺口是主要原因之一。

所以我们造了一直想要的东西:Prefactor 在每次生产运行的瞬间就给打分——质量、漂移、风险——然后把这些分数直接转化为行动。一个正在出问题的智能体能被实时逮住,而不是三天后出现在图表里。

实际工作原理
prefactor init - 一条命令连接你的 workspace,自动发现你 runtime 上的所有智能体。首次 trace 运行不到 5 分钟。
接入 SDK(TypeScript 或 Python)- 原生支持 LangChain、Claude、Vercel AI、OpenClaw 和 LiveKit。每次调用都变成一个 span,实时流式传输,附带成本和风险数据。
在每次运行时执行你定义的 evals——LLM-as-judge、技术检查、定性指标。自定义 span 从 GitHub、Linear、Jira 或数据库提取上下文,所以每个 eval 都基于真实发生的事,而不是靠猜。
行动。当某次运行越界时,立即暂停、批准或阻止——运行时自动触发,或路由到人工处理。所有决策通过 SDK 或 API 记录并强制执行。
效果:你可以像交付真实软件一样发布智能体——版本化、分阶段、经过 dev → staging → prod 的升级流程,只有 evals 通过才放行,失败时即刻回滚。

不同之处

大多数工具观察和打分,然后把问题丢给你。Prefactor 闭环——观察、评估、行动,全在同一个运行里完成。有风险的智能体会被当场抓住,而不是仅仅被画在图表上。

我最喜欢的一个用户反馈:一位客户在生产环境运行了 40 个智能体,用他们的话说,“没办法诚实地说哪些还在正常工作”。我们给了他们答案——以及当某个智能体出问题时,踩下刹车的踏板。

适用对象

面向那些真正向客户交付智能体的工程团队,无论你用什么技术栈。智能体框架原生支持;其余通过 OpenTelemetry 或核心 SDK 接入。

给 PH 社区的福利

今天注册,你将获得 100 万免费智能体 steps。每个 span 都算数,所以这是一笔可观的实时生产评估量,算我们请客。有效期到周五太平洋时间晚上 11:59,只需配置好你的第一个智能体即可。

我们的请求

如果你在生产环境中运行智能体,请告诉我们你现在是怎么监控它们的——哪怕诚实答案是“我们基本靠祈祷”。我们会一整天在评论区里,真心想听听什么有效、什么在出问题,以及你希望这样的工具下一步能做什么。

免费开始使用 prefactor.tech。每月前 25,000 个 span 免费,无需绑定卡。

@simon_russell1 @joshgillies @ethan_lee8 @rheu @joeys 和我全天在线。

特别感谢 @rohanrecommends @rohanchaubey4 为我们狩猎。
PH 用户
真心好奇“对每次运行打分”在大规模下是怎么做的,是采样还是真的评估 100% 的生产流量?这个区别对成本和数据的可信度影响很大。
PH 用户
漂移是那个没人提,直到它毁了一周才意识到的东西。在这里做真正的检测,感觉方向很对。
PH 用户
恭喜 Ethan 和团队!
PH 用户
“大多数智能体通过了评估却在生产环境翻车”——这句话会引起比你以为更多的团队共鸣。今年我已经在至少三次事故复盘里说过类似的话了。
PH 用户
我花了好几个月时间写内部脚本,专门用来捕捉这种偏离。要是当初能直接接入个像这样的工具,不知能省下多少熬夜的日子。
热门产品Ethan Lee2026-07-28原文

相关内容