Yann LeCun介绍无归一化Transformer新论文

更强的不需要归一化的Transformer——新论文。我们引入了Derf（Dynamic erf），一个简单的逐点层，让无需归一化的Transformer不仅能够工作，而且性能优于归一化版本。