SSI 被曝将发布基于 TTT 的推理模型
Ilya 的 SSI 用 TTT 技术重新定义缩放,让模型在推理时也能学习,首个模型或将发布。
SSI(Ilya Sutskever 创立的 AI 公司)被曝将推出基于 TTT(测试时训练,推理阶段实时更新模型权重)的推理引擎。与传统静态模型不同,它能从交流中持续学习,不再依赖海量预训练数据。团队正将规模扩大 10 倍,并与 Nvidia 合作获得算力支持。这被视为 Ilya 对“预训练时代终结”论断的首次产品化验证。
正文摘录
 新智元报道  Ilya 的首个模型,终于要来了? 就在今天早上,SSI 再传重大新闻! 掌握不少内幕消息的草莓哥爆料,Ilya 正在构建一个小型推理引擎,背后核心就是 TTT(测试时训练)。  Ilya 即将迈出试探性的第一步,走出研究的时代,重返规模的时代。    Ilya 王者归来 Ilya 离开 OpenAI 后,整个 AI 世界都在等一个答案。Ilya Sutskever,他到底要干什么?  这个缔造了 AlexNet、GPT-2、GPT-4 和 RLHF 的男人,多次引领 AI 浪潮。