热门产品

Inkling

Inkling

面向开发者的开放权重多模态大模型,支持文本、图像、音频推理和微调。

热门评论

PH 用户
大家好!

Inkling 是 Thinking Machines 推出的第一个模型。

它是一个 975B 的 MoE,拥有 41B 活跃参数、1M-token 上下文窗口,并且原生支持跨文本、图像和音频的推理。完整权重以 Apache 2.0 许可证开放。

Thinking Machines 明确说明了 Inkling 的定位。他们直接表示,这不是目前最强的模型。它旨在成为一个广泛的基础,可以适配到特定的产品或工作流中。

你可以控制它使用多少思考,在 @Tinker 上微调它,然后通过几个推理服务商部署生成的检查点。

他们甚至让 Inkling 自己编写并运行微调任务,把它变成了一个避免字母“e”的模型。

他们的赌注是:一个围绕你自己的工作定制的模型,可能比临时排行榜上稍高的分数更有用。
PH 用户
喜欢 Thinking Machines 把诚实的定位放在前面——“这不是目前最强的模型,而是一个你可以围绕自己工作来塑造的基础”。大多数开源权重的发布都会过分吹嘘基准分数,所以以可适配性为主导反而更容易让人接受。而且 Apache 2.0 协议下的 1M 上下文多模态 MoE 是一份真正的礼物。

我一直纠结的问题是:“开放权重”和“实际可触碰”在 975B 这个规模上并不是一回事。现实地说,除了 Tinker,谁会去微调这么大尺寸的模型?我不禁怀疑,这种开放性在实践中到底有多大意义;或者说,可下载的权重主要是一种信任信号,而 Tinker 才是大多数人真正需要用来实际操作它的入口。
PH 用户
明确表示不是最强的模型、而是最佳可适配的基础,这种定位令人耳目一新——大多数实验室过分吹嘘原始基准分数。在总 975B 参数中有 41B 活跃参数,通过 Tinker 微调这个模型的人,实际需要的最低硬件门槛是多少?这是一个资金充足的初创公司用租来的算力就能搞定的事,还是真的需要实验室级别的基础设施?
PH 用户
LoRA 很好,但如果能支持全参数微调或 QLoRA 作为内置选项,对于在小型模型上工作而 LoRA 力不从心的人来说,这会实用得多。
PH 用户
终于有一个选项让我跳过了 GPU 设置的那些繁琐步骤,直接开始实际的微调。昨晚我跑了一个小的 LoRA 任务,它就这么成功了,说实话这让我很惊讶。
PH 用户
对我而言,让 Tinker 更有用的一个功能是内置支持在微调后立即评估模型,比如自动运行一个小型 benchmark 套件,这样你就可以看到 LoRA 是否真的有效,而无需单独搭建一个 eval 流水线。
热门产品Mira Murati2026-07-20原文

相关内容