Subquadratic 声称攻克 LLM 数学瓶颈
Subquadratic 宣称突破 LLM 注意力计算效率瓶颈，但需更多证据验证。
这家来自迈阿密的 AI 初创公司 Subquadratic 上月走出隐身模式，宣称解决了困扰大语言模型近十年的数学瓶颈（指注意力机制中的二次复杂度问题）。最初细节匮乏，许多人持怀疑态度。但该公司已开始公布部分证据，逐步支撑其说法。
正文摘录
一家初创公司声称突破了阻碍 LLM 发展的瓶颈 总部位于迈阿密的 AI 初创公司 Subquadratic 上个月带着一个重磅声明结束隐身模式。该公司宣布它已经 [解决了一个数学瓶颈](https://subq.ai/introducing-subq)，这个瓶颈已经困扰大型语言模型近十年了。 细节很少，许多人并不信服。但 Subquadratic 已经开始拿出证据，分享了其新技术独立评估的结果。这些结果表明，该公司的说法或许值得关注。 据 Subquadratic 称，它开发了一种新型 LLM，名为 SubQ，比市场上任何其他模型更快、更便宜，并且能耗低得多。该公司还声称，SubQ 一次能够处理的文本量最多是其他模型的 12 倍，使其能够执行一系列数据密集型任务，例如分析数百个文档或整个代码库。 更重要的是，Subquadratic 表示，SubQ 在编码等关键任务上的表现几乎与 Google DeepMind、OpenAI 和 Anthropic 推出的最佳模型相当。 问题是，该公司最初除了少量自行发布的测试分数外，几乎没有为其说法提供任何证据。而且它还没有广泛开放 SubQ 供人们自行尝试。 因此，Subquadratic 的说法遭到质疑也就不足为奇了。人工智能工程师 Dan McAteer [在 X 上总结了普遍反应](https://x.com/danielmac8/status/2051710659822305661)：“SubQ 要么是自 Transformer 以来最大的突破……要么就是 AI 界的 Theranos。