前 OpenAI 研究员发布 Jev:跳过文本生成,直接输出结构化判断
曾参与 RLHF 的研究员发布 Jev:跳过文本生成、直接输出带概率的结构化判断,把模型变成软件可高速调用的接口。
前 OpenAI 研究员 Diogo Almeida(InstructGPT 论文共同作者之一)发布新模型 Jev,放弃了自由文本生成:它不逐字「写」答案,而是按预设格式直接给出带类型的结构化判断及置信度。官方称速度提升 20-200 倍,成本最高降至原来的 1/400,输出 Token 免费。
正文摘录
.jpg) 编辑|山辉 你敢信, 曾经全力推动 AI 学着说话的人,现在做出了一个「闭嘴」的模型 。 前 OpenAI 研究员 Diogo Almeida 终于结束了两年的隐身状态,正式发布新模型 Jev。  Almeida 是 2022 年 InstructGPT 论文的共同作者之一,也参与了 OpenAI 早期 RLHF 与 GPT-4 的相关工作。可以说,今天 ChatGPT 式「能听懂人话、会和人聊天」的模型训练路线,他是早期参与者之一。 但在离开 OpenAI 后,他开始怀疑这条路线。 「大模型现在非常擅长聊天,但聊天能力真的是软件自动化需要的核心能力吗?」 这个问题, Almeida 已经思考了四年。 现在,他给出了一个很直接的答案:也许 AI 根本不需要这么爱说话。 TypeSafe 推出的首款 System One Model Jev,直接放弃了自由文本生成。 官方给出的数字相当夸张, 速度提升 20-200 倍,成本最高可降至原来的 1/400,输出 Token 甚至免费。 一个「拒绝说话」的 AI 假设现在有一封用户邮件。你想知道三个问题:它是不是投诉?问题紧不紧急?