TypeSafe AI 发布 Jev：面向生产软件的 System One 模型
InstructGPT 作者之一 Diogo Almeida 离开主流对齐路线，做出给软件而非聊天用的 System One 模型 Jev，值得看它对 RLHF 的系统性质疑。
嘉宾Diogo Almeida
节目简介
TypeSafe AI CEO Diogo Almeida（InstructGPT 论文作者之一）谈新模型 Jev。Jev 定位是给软件用的 System One 模型（快速、直觉式的一次性判断），不做聊天机器人，目标是像 regex 一样隐入背景。核心技术是尚未发表的 RLCD（面向校准决策的强化学习）：让模型输出带诚实置信度的答案，而不是一味迎合人类打分——后者会带来幻觉、谄媚和拒绝。他也谈了为什么 AI 能解 Navier-Stokes 却自动化不了基础工作，以及为何 TypeSafe 不公开 benchmark、只看每美元智能。