讨论循环Transformer传闻，称有现成方案，不替代CoT，不必恐慌。

RT @max_paperclips: 所有时间线上突然恐慌循环Transformer的末日论者。
- 这只是一篇文章，除非OpenAI有人确认，否则就是传闻
- 我们已经有循环Transformer的方案了。来，玩一下这个：https://t.co/f4pZMVj3o0
- 这和创建一个深度为2倍或3倍的模型并没有太大区别。有研究表明3次循环是最优的，几周前经过一个小型复现实验后可以确认
- “Muh Neuralese”——看前一点。模型中的每个操作并不都映射到token嵌入（即使有j-lens或r-lens之类的东西）。他们已经在内部用Neuralese“思考”了。因此可解释性作为研究领域而存在。
- 它完全不替代CoT，只是每个token的算力开销更高

别自己吓自己了