Freesolo Flash 面向企业团队,提供全栈平台训练小语言模型,通过强化学习将通用模型转化为产品专用AI功能。 热门评论 PH 用户并非每一次AI交互都适合用大型前沿模型。从标记到搜索,有大量万亿token级别的用例,最好由参数量低于10b的模型来处理,这种模型运行只需毫秒,成本比前沿模型低好几个数量级。然而,工程师们过去不得不在模型大小和质量之间做出选择;模型变小后,性能、遵从性和召回率会线性下降。在生产数据上进行后训练弥补了这一差距。我们构建了Freesolo Flash,使得像SFT和RL这样的训练循环变得简单,并且可以通过你的编码智能体端到端地完成。我们通过以下几种方式实现:- upfront定价:不是按GPU小时或训练过程中消耗的token计费,而是提前报出整个运行的成本,这样你的智能体可以在开始运行之前,准确调整数据集、模型大小和使用的算法,同时保持在你的预算内。- 我们的GPU基础设施经过优化,使你的特定运行尽可能便宜和快速。这种优化意味着,与Tinker相比,在Flash上进行训练,SFT的成本降低8倍,GRPO(RL)的成本降低5.5倍。- 环境中心:我们的自定义环境SDK允许你以模块化方式构建环境,并与我们的异步训练框架完美集成。Flash源自我们自己对当前托管后训练解决方案(尤其是针对SLM)的不满。我们相信,将前沿能力解锁到一个小模型中的狭窄任务,将是所有智能体产品用户体验的最佳改进。Flash是我们解决这个问题的第一步。只需获取一个Freesolo API Key,将你的智能体指向训练包,然后看着它将你的轻量级模型推到前沿之外。PH 用户恭喜发布!我喜欢着陆页的演示,它相当有技术含量。如果你们考虑类似着陆页上的交互式演示,可以试试livedemo,我们也支持HTML捕获。这是我从我们的着陆页10秒钟生成的一个快速演示:https://app.livedemo.ai/livedemos/6a63de60af5333cb0c0feecePH 用户太棒了!我们一直面临的一个问题就是需要实时分类数亿个账户,这可能会因为token使用量太大而花费巨额成本,所以我们选择了自己构建模型。看起来Freesolo为此提供了一个更通用的解决方案。恭喜发布 @tomzhengy,很高兴我们同一天发布!PH 用户训练运行的 upfront定价是一个突出的细节,RL后训练最大的痛苦是一旦运行时间超出预期,GPU账单就无法预测。与Tinker相比8倍/5.5倍的数字是一个强有力的说法——这是针对某个特定任务/模型大小进行基准测试的结果,还是成本优势在人们使用Flash训练的模型范围内都大致均匀地保持?PH 用户在提交运行之前获得 upfront成本报价这个细节实际上改变了你使用它的方式——你的编码智能体可以根据价格调整数据集大小和算法选择,而不是靠猜测。很好奇环境SDK:当你构建一个自定义环境并上传训练数据时,语料库是停留在你自己的基础设施中,还是会转移到Freesolo服务器上以进行实际的GPU运行?这个数据边界问题对于任何包含专有或敏感训练集的内容都非常重要。PH 用户比Tinker便宜8倍和5.5倍的数据,在相信之前,我想看看具体的依据——实际的比较方法是什么?是同样的模型大小、同样的数据集、同样的收敛标准,还是拿你们优化后的基础设施和他们的默认设置比,而没有控制好双方各自平台上“完成一次运行”的判定标准? 热门产品Tom Zheng2026-07-24原文 打开互动版
我们通过以下几种方式实现:
- upfront定价:不是按GPU小时或训练过程中消耗的token计费,而是提前报出整个运行的成本,这样你的智能体可以在开始运行之前,准确调整数据集、模型大小和使用的算法,同时保持在你的预算内。
- 我们的GPU基础设施经过优化,使你的特定运行尽可能便宜和快速。这种优化意味着,与Tinker相比,在Flash上进行训练,SFT的成本降低8倍,GRPO(RL)的成本降低5.5倍。
- 环境中心:我们的自定义环境SDK允许你以模块化方式构建环境,并与我们的异步训练框架完美集成。
Flash源自我们自己对当前托管后训练解决方案(尤其是针对SLM)的不满。我们相信,将前沿能力解锁到一个小模型中的狭窄任务,将是所有智能体产品用户体验的最佳改进。Flash是我们解决这个问题的第一步。只需获取一个Freesolo API Key,将你的智能体指向训练包,然后看着它将你的轻量级模型推到前沿之外。
我喜欢着陆页的演示,它相当有技术含量。
如果你们考虑类似着陆页上的交互式演示,
可以试试livedemo,我们也支持HTML捕获。
这是我从我们的着陆页10秒钟生成的一个快速演示:
https://app.livedemo.ai/livedemos/6a63de60af5333cb0c0feece
恭喜发布 @tomzhengy,很高兴我们同一天发布!