AI21 Labs以低成本实现顶尖模型性能
AI21 Labs 用更低的成本达到了 SOTA 性能,让高性能 AI 更易普及。
AI21 Labs 近日发布新成果,通过创新的训练策略和架构优化,在不增加预算的前提下使模型达到与顶级模型相当的性能,让中小团队也能部署高性能 AI。
正文摘录
无需巨资即可达到 SOTA 性能 - 标题:Reaching SOTA Performance Without Breaking the Bank - 来源公司:AI21 Labs - 正文: 每一个 AI 团队最终都会撞上同一堵墙。Agent 能跑了。演示给利益相关者留下了深刻印象。然后难题来了: 我们怎样才能让这个东西足够好、足够快、足够经济,从而真正大规模上线? 这篇博客记录了如何利用 AI21 Maestro (我们的 agent 优化框架)系统性地在两个具有挑战性的深度研究基准测试的质量 - 成本 - 延迟权衡空间中导航: - BrowseComp-Plus :测试跨深度语料库搜索任务的检索精度与综合能力 - Deep Research Bench 1 :测试长篇报告生成及其质量 在 BrowseComp-Plus 上,我们以 95.18% 的准确率取得了 SOTA 性能。  在我们解释如何做到之前,先看一下最终结果。下图是 Maestro 在 BrowseComp-Plus 上的实时输出 —— 一条完整的帕累托前沿(Pareto frontier,即在给定成本或延迟约束下能达到的最高精度曲线),自动浮现 自模型与工具配置、扩展策略和执行策略的组合。红色曲线上的每个点都是一个可达到的运行点:选择你的预算,读取对应的准确率。本文其余部分解释每种技术如何贡献,以及 Maestro 如何自动化地跨所有这些维度进行搜索。