Transformer并行处理上下文，推理需内部scratchpad

Transformer架构本质上是一种并行的上下文处理器，但推理是一个顺序的、迭代的过程。为了解决复杂问题，模型不仅需要在输出CoT中有一个“草稿本”，还需要在内部状态中有一个。一种可微分的方式来进行循环、分支和回溯，直到模型找到可行的解决方案。