Thinking Machines Lab 发布 9750 亿参数开放权重模型 Inkling
OpenAI 前 CTO 创立的 Thinking Machines Lab 发布开放权重模型 Inkling，参数规模巨大但激活参数小，多模态且可定制，适合开发者微调部署。
由 OpenAI 前 CTO Mira Murati 创立的 Thinking Machines Lab 发布首款大模型 Inkling，总参数 9750 亿但激活仅 410 亿（混合专家 Transformer 架构，每次只调用部分参数），支持文本、图像、音频跨模态推理，上下文窗口达 100 万 token。模型权重完全开放，开发者可下载并微调，官方还提供 Tinker 平台用于定制。虽非综合最强，但多模态+高效推理+可定制使其成为实用的开放基础模型。
正文摘录
.jpg) 由 OpenAI 前首席技术官 Mira Murati 创立的 AI 初创公司 Thinking Machines Lab，刚刚发布了自研 AI 模型 Inkling。  与 OpenAI、Anthropic 或 Google 的旗舰模型不同，Inkling 是一款开放权重模型，外部开发者和企业可以直接下载，并根据自身需求进行修改。正如官方介绍的：Inkling 能够高效地对文本、图像和音频进行跨模态推理。与此同时，Inkling 完整模型权重也将开放。 Inkling 采用混合专家 Transformer 架构，总参数量为 9750 亿，激活参数量为 410 亿，支持最高 100 万 token 的上下文窗口。 Inkling 使用 45 万亿 token 的文本、图像、音频和视频数据完成预训练。它是一个不同规模模型家族中的首款产品。 与此同时，Thinking Machines Lab 还发布了 Inkling-Small 预览版。这是一款更轻量的模型，激活参数量为 120 亿，采用与 Inkling 相似的训练方法，能够以更低的成本和延迟实现出色性能。