OpenAI 前研究员推出非语言模型 Jev，输出概率而非文本
一个不做语言的大模型：Jev 只输出概率，开发者用它替换 LLM 做分类和自动化，速度和成本都有数量级优势，且不会瞎编
ChatGPT 与 RLHF（基于人类反馈的强化学习，一种让模型对齐人类偏好的训练方法）的发明者之一 Diogo Almeida 认为，AI 四年来的能力都消耗在人类语言上，而计算机并不说这种语言。他离开 OpenAI 创立 TypeSafe AI，本周发布基于 Transformer 的非大语言模型 Jev：不输出文本，只给出概率式的「校准决策」，因此成本极低、速度极快、无法幻觉
正文摘录
ChatGPT 让 Diogo Almeida 心碎。 Almeida 曾是 OpenAI 的研究员，参与打造了这款聊天机器人，随后又发明了基于人类反馈的强化学习（RLHF，reinforcement learning from human feedback）——这项模型训练技术，或许是我们当下这个 AI 时代最主要的功臣。但尽管它能力出众，他却感到失望。 “我们把闪电装进了瓶子，可它却不实用，”Almeida 对 TechCrunch 说。“从那以后我一直在跟这个问题较劲。我花了一段时间才得出结论：问题在于我们一直在为人类语言做优化……四年来我们在人类语言上做得极其出色，但它对自动化没用，因为计算机说的是另一种语言。” 两年前，Almeida 离开 OpenAI，创办了 [TypeSafe AI](https://typesafe.ai/)，一家试图解决这个问题的创业公司。本周，该公司发布了一个新的基于 transformer 的模型 [Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev)，它不是大语言模型（LLM）。它不输出文本，而是输出概率，也就是公司所称的“校准决策”（calibrated decisions）。 避开语言带来几个好处：它让模型变得极其便宜、极其快速；而且由于用户事先定义好输出，它无法产生幻觉。它的输出 token 免费，输入 token 按十亿计费，而不是按百万。  一张截图展示了 Jev 与一个 OpenAI 模型对相同请求的响应对比。