Thinking Machines 发布首个开源模型 Inkling,挑战通用 AI 模式
前 OpenAI CTO Mirati 的创业公司发布开源模型,押注企业定制 AI 将胜过集中式通用模型。
由前 OpenAI CTO 创立的 Thinking Machines Lab 发布首个开源模型 Inkling。它是一款 9750 亿参数混合专家模型,每次任务仅激活 410 亿参数,支持文本、图像、音频、视频多模态。公司强调企业可自行通过定制平台 Tinker 调优模型,认为这比通用模型的“一刀切”方案更有效。
正文摘录
Thinking Machines 加大押注,反对一刀切式 AI,发布首个开放模型 Inkling 来源:TechCrunch Thinking Machines Lab(由前 OpenAI CTO Mira Murati 创立的 AI 初创公司)于周三上午发布了其首个专有 AI 模型,名为 Inkling —— 与 OpenAI、Anthropic 或 Google 的旗舰模型不同,它是开放权重(open-weight)的,意味着外部开发者和公司可以直接下载并修改它。 Inkling 是一个混合专家系统(mixture-of-experts,一种将多个子模型组合,每个任务只激活部分参数的设计),总参数量为 9750 亿,但对于任何给定任务,它只调用其中一小部分(约 410 亿)。这是常见的设计,能让超大型模型运行更快、成本更低。根据公司发布的材料,该模型在 45 万亿个 token(文本、图像、音频和视频)上训练,并能原生地在所有这三种模态上进行推理。 这是该公司在近一年半的公开视线之外建设 AI 基础设施后,首次公开亮相的成果。部分工作已经浮出水面:5 月份的一份研究预览展示了“交互模型”(interaction models)—— 这种 AI 被设计用来倾听和说话(甚至打断),而不是像传统聊天机器人那样停下来等待。这也是对 Thinking Machines 核心赌注的一次检验,即:能够被组织自行调整的 AI,将胜过当前最大实验室销售的一刀切式模型。 这是一个有趣的模型,旨在提供经过校准的答案,包括在不确定时标注出来而不是猜测,并且允许用户在需要速度时调高或调低“思考努力程度”(thinking effort)。公司称,在一项基准测试中,Inkling 使用仅为 Nvidia 的 Nemotron 3 Ultra 三分之一的 token 数,就达到了相同的编码性能。